Попытки создать родственный кларнету инструмент басового регистра предпринимались с середины XVIII века. Самый ранний из сохранившихся инструментов хранится в мюнхенском музее и является работой мастеров из Пассау братьев Антона и Михаэля Майрхоферов начала 1770-х годов. По строению он напоминает бассет-горн, однако обладает дополнительной кроной, позволяющей извлечь нижний звук «до» (при этом клапан для извлечения «ре» отсутствует). Известны бас-кларнеты работы Генриха Грензера 1793 года и его дяди Августа ― 1795. Они были настроены in B и обладали диапазоном, расширенным вниз до A1 (ля контроктавы по действительному звучанию), при этом нижняя часть клапанного механизма была диатонической, а не хроматической. Эти инструменты напоминали по форме фаготы и, предположительно, предназначались для замены фаготов в военных оркестрах.

Современный вид бас-кларнет приобрёл в конце 1830-х годов усилиями Адольфа Сакса, который также усовершенствовал систему клапанов, улучшил интонирование и расширил диапазон, создав, таким образом, полноценный инструмент классической музыки. В 1836 бас-кларнет был впервые введён в оркестр, это сделал Джакомо Мейербер в опере «Гугеноты», поручив этому инструменту ответственное соло в пятом действии. Со второй половины XIX века бас-кларнет ― почти постоянный участник симфонического оркестра, где он обычно дублирует басовые голоса. Иногда специфический густой, несколько мрачноватый тембр бас-кларнета был востребован композиторами в сольных эпизодах: Лист ― симфоническая поэма «Тассо», Вагнер ― опера «Тристан и Изольда» (второе действие), Верди ― опера «Эрнани» (начало третьего действия), Чайковский ― симфония «Манфред», опера «Пиковая дама» (сцена в казармах), Барток ― Концерт для оркестра, Шостакович ― Симфония № 13 и др. Ответственные партии бас-кларнета также есть в сочинениях Малера, Шёнберга, Стравинского и других композиторов. В оркестре используется, как правило, один бас-кларнет (реже два), причём часто его партия представляет собой временную замену одного из кларнетов (обычно последнего по номеру).

С начала XX века композиторами неовенской школы бас-кларнет стал применяться в камерных ансамблях, а с наступлением эпохи авангарда ― и как сольный инструмент (первое сочинение для бас-кларнета и фортепиано ― Соната Отмара Шёка; 1931). Сочинения для бас-кларнета также написаны Славой Ворловой, Софией Губайдулиной, Виктором Екимовским и другим композиторами. Многие произведения посвящены выдающемуся исполнителю Йозефу Гораку.

Отдельными исполнителями бас-кларнет используется в джазе. Одним из первых джазовых музыкантов, игравших на нём, был Эрик Долфи, среди современных известен Джон Серман.