第一种正如我们今天普遍所知道的那样，传说始于1821年。
1821年早春的一个上午，德国乡村一农家女孩拿着妈妈的木梳在门口玩耍，玩着玩着，玩出来一个新花样：她找来了两片纸 ，一张上一张下地贴在木梳上，然后把它放到嘴上吹了起来，想不到木梳发出了悦耳动听的声音。就在此时，一名叫布希曼的音乐家从这儿经过，被奇妙的声音吸引。他走上前去，让女孩把木梳给他看。布希曼仔细地端详了这一“杰作”后，萌发了研制一种新乐器的想法。回到家中，他参照小女孩的木梳、中国古代的笙和罗马笛的发音吹奏原理，用象牙制作出了世界上第一把口琴。
有一位法国的锺表匠叫弗里德利克‧布殊曼（Christian fricdrich Ludwig Buschmann），他拿笙作样本，将15根音笛（Pitch-Pipe）排列在一起，依其长短而发出高低不一的声音，他称这种简单小巧的新发明为口琴（另一种说法是命名为“aura”），那是公元1821年。布殊曼形容他的发明是“一件其实独一无二的乐器……，口琴仅祗有四英寸长的直径和长度，使用21音阶，演奏时可能程度同钢琴的音阶一样，渐次升高，可是没有钢琴的琴键，用六个协和音，只要演奏者能控制呼吸即可。
Buschmann 在向他的哥哥描述他的新乐器时说：“这种新的乐器不同凡响，整个尺寸才4英寸，却有21个音，可以演奏所有的渐强，渐弱，和声，可以随意长时间地保持一个音”。最初的设计上的不足之处在于说有的孔都是吹孔。Buschmann 最初的设计被大量的仿造，这导致了许多修改和改进。一个叫 Richter的 Bohemian 口琴制造商对早期的口琴设计做出了重大改进。1826年，他开发出一种与众不同的口琴，这种口琴由10孔20个簧片组成，分离的两片吹簧片板和吸簧片板固定在口琴梳腔室的两侧。Richter 口琴实现了一的全音音阶，成为一种标准结构，被欧洲人称之为 Mundharmonika 或 mouth organ.
1857, 当德国钟表匠 Matthias Hohner 把注意力转向口琴制造业时，口琴的历史发生了戏剧性的变化。 在他的家人和一个雇用工人的帮助下，那年他的年生产能力达到了650只。之后不久，他雇用了更多的工人，开发了大量的生产技术。
1862年，他把口琴介绍到南美洲，这一举动大大促进了 Hohner 公司在世界口琴制造业领导地位的形成。1887, Hohner 的年生产能力超过了100万只。今天，Hohner 的口琴产品超过90种，不同样式，不同音调的口琴，使演奏者可以自由地演奏从古典音乐、爵士乐到布鲁斯，从乡村音乐和摇滚乐到世界各地的乡土音乐。
美国南北战争开打之后，因为口琴易于携带的特性，而广为南北方的士兵所喜欢，成为最受欢迎的手上的乐器。
布鲁斯口琴的产生至今也不清楚（就像不鲁斯音乐可产生也不可考证）。
也许口琴可以压音（bending）这码子事是不经意被发现的，之后口琴就改装为今天的样子（布鲁斯口琴）以模仿 field holler（田野吟唱者）的呻吟及哭喊声。
二次世界大战以后，美国黑人大量涌入芝加哥，芝加哥因此孕育了许多的布鲁斯乐手，正是因为这个原因，确立了芝加哥的口琴之都的地位。
1924年，在美国第一张民谣口琴的录音唱片中，由不知名的音乐家用改良的方法来演奏Blues音乐。他以属七和弦当注音演奏，例如在C调口琴上吹奏G调（这也就是the secondposition, Cross harp）。最重要的是，他发现通过改变嘴型及口腔内空气压力可以使音下降，就是现在所说的bending，如此便大大提高了口琴在音乐上的表现力。这张录音上可听到模仿火车的效果，Fox-chase和其他典型的Blues音乐。
在美国有一位音乐家叫Howard Levy（霍华德。雷力），在他1970年就读美国西北大学时，偶然于练习口琴时发现，吹气的音竟然可以上升（overblow）之后又发现吸气的音也可以上升（overdraw）。这一惊非同小可，他花了大约三年时间，终于能够在Blues口琴上完整地演奏3个8度内的所有半音，也可以在一把口琴上演奏12大小调。这使得口琴在音乐上的表现力更具亲和力。
加有一根可以变换半音按键的口琴（我们称之为半音阶口琴 Chromatic Harmonica），据考大概是在西元1885年后才被研发出来。这根看似简单但却神奇的按键，使半音阶口琴在演奏更为复杂的旋律与调性上的性能大为提升，也正因如此，要用口琴来演奏古典名曲就不再是一件遥不可及的事50年代后发现半音阶口琴丰富音乐性的作曲家们便开始为他作了不少重要作品，而不再停留在吹奏轻音乐或是一些民谣、通俗歌曲的地步，其中不乏杰出的作曲家：米尧、佛汉威廉士、班哲明James Moody、Micheal Spivakowsky、Gordon Jacob、魏拉‧罗伯士等等。Larry Adler、Tommy Reilly和黄青白这三位大师级演奏家的个人传记与成就更是受到The New Grove音乐辞典的肯定而登录名人榜中。
亚洲的口琴发展比欧美慢很多，大约在西元1898年传入日本大阪，那时比较感兴趣的是一种具有双簧片的复音口琴（Tremolo Harmonica），经过约30年的流传后，人们发现瑞希特尔音阶排列的口琴无法完善演奏日本的民谣歌曲，遂开始改良成现在我们所吹的复音口琴音阶（低音部有La及Fa）， 改革的大功臣包括祖滨拾松翁、川口章吾先生等等。随著音乐水平提高与要求越来越严谨，复音口琴再经过多位口琴大师的改良，研发出小调口琴，终于能够完整演奏出日本地方民谣，佐藤秀廊与福岛常雄两位大师功不可没。西元1924年到1933年间，再传入中国大陆、新加坡、马来西亚等东南亚国家，喜爱口琴的人们开始组织各种协会团体，汇聚众人的力量，不断地为口琴的流传写下不朽的一页。
