关于小提琴的诞生，据现在的主流说法，是由欧洲意大利制琴师安德烈亚·阿玛蒂（Andrea Amati）在1555年左右创造出了现代小提琴。
但在此前的很长时间里我们东方就发明了类似的拉弦乐器。出于这个原因，其实应该将欧洲的现代小提琴视为随着时间的推移而演变的乐器，而不是作为当时所发明的乐器，个人认为应该更准确一些。
虽然在中世纪欧洲就存在弓弦乐器的记录，但据历史记载，第一个拉弦类乐器应该来源于东方的胡琴。
因为胡琴诞生的时间比小提琴要早，有很大的可能性是通过丝绸之路的贸易开展，随后通过贸易路线传播到欧洲以及世界其他的地区。而当欧洲的工匠们了解到这些乐器的制作工艺以及它们的发音原理之后，他们便会使用传统的欧洲制作技术创造出自己的作品。
许多不同类型的拉弦乐器在16世纪的欧洲也得到了演变，这引起了很多人对于小提琴历史各个方面的争论。也有人认为，也许安德烈亚·阿玛蒂并没有创造出第一部现代小提琴，而是在16世纪早期在欧洲意大利城市布雷西亚制作出来的。
然而，我们现在可以确定的一件事是，16世纪时已经拥有了各种不同的拉弦乐器，而小提琴在欧洲文艺复兴时期可以说得到了巨大的发展。
最古老的小提琴名为Charles IX，某些方面确实也是安德烈亚·阿玛蒂开了先河，比如安德烈亚·阿玛蒂创造了第一部标准现代小提琴的理论。小提琴由于其小巧的尺寸，多功能性以及优美的旋律音调而成为欧洲流行乐器中非常广泛的乐器。
在欧洲，不管是社会底层的贫民还是皇宫贵族都有着小提琴忠实的粉丝，小提琴家族最终变得比其它的乐器更受欢迎，因为小提琴乐器在声音上具有更强的穿透力，更适合在大型的音乐会场地演奏。
在18世纪末到19世纪初期，小提琴也经历了一些重大的技术变革。人们把小提琴的指板变得更长，并且还设置成更大的角度以增加小提琴琴弦的张力。通过小提琴琴弦张力的增加，加上指板的变化，使得小提琴的音色更具穿透力。
较老的小提琴在这个时候开始不再适合制琴师的这些新规格，导致很多古老的制琴技术被抛弃，大家纷纷使用新制作技术去制作新规格的小提琴。不过目前还没有人知道是谁最早推行的这些新规格。
随着小提琴的传播和普及，使得小提琴被用于越来越多不同风格的音乐中。而一代代的小提琴大师也不断开发了新的演奏技巧，以及各种流派的诞生，小提琴演奏常常会为了适应新流派的需要做出一定的改变。小提琴逐渐用于演奏凯尔特语，爱尔兰语，吉普赛音乐和匈牙利音乐的传统歌曲的重要乐器，随着时间的推移也不断的影响着更多的地方。
