老施特劳斯出身小旅馆老板家庭。他的童年相当不幸——他七岁时，他的母亲因为发高热去世；而在他十二岁时，他的父亲弗朗茨·博尔基亚斯（Franz Borgias）又在多瑙河中溺水身亡。后来，他的继母将他送到一位叫约翰·利希特舍伊德尔（Johann Lichtscheidl）的图书装订商处做学徒。在此期间，他学会了拉小提琴和中提琴，而且还一度加入了在当地由作曲家米夏埃尔·帕默（Michael Pamer）组织的一个管弦乐队。不过他不久后就转而加入了一个由他日后的对手约瑟夫·兰纳（Josef Lanner）建立的名为“兰纳四重奏”（Lanner Quartet）的通俗弦乐四重奏乐团。乐队的另外两名成员是卡尔·德拉哈内克和约翰·德拉哈内克兄弟（Karl & Johann Drahanek）。这支乐队演出的曲目通常是维也纳圆舞曲和德国的乡村舞曲。到1824年，“兰纳四重奏”已经成为一支有一定规模的小型管弦乐队了。需要指出的是，老施特劳斯并非如许多人所误解的那样为了音乐完全放弃了学徒工作，相反他完成了在那位图书装订商那里的学徒期。在他当学徒期间，他还曾经在约翰·波利申斯基（Johann Polischansky）处学习音乐。
之后，他成为了这支乐队的代理指挥。1825年，老施特劳斯组建了自己的乐队并开始为乐队的演出谱写作品。不久他便成为了全维也纳最知名也是最受欢迎的舞曲作曲家，并先后带领乐队在德国、荷兰、比利时、英格兰和苏格兰的许多地方演出，其中甚至包括1838年维多利亚女王的加冕典礼。期间当他在法国第一次听到当地的四对方舞曲（quadrille）演奏后，他开始自己创作这一类型的作品，并热衷于在维也纳介绍这种舞曲。而也正是在1825年，老施特劳斯在维也纳的利希滕塔尔（Liechtenthal）教区教堂与玛丽亚·安娜·施特雷姆（Maria Anna Streim）举行了婚礼，成为夫妇。不过由于老施特劳斯长期与乐队在国外演出，与家人在一起的时间很少，彼此的疏远使得他的婚姻并不牢固。
终于，在1834年老施特劳斯抛妻弃子，开始与情妇埃米丽·特兰布施（Emilie Trambusch）同居。不过老施特劳斯频繁得惊人的演出所导致的劳累也让他感到，作为一个音乐家是多么不易，他并不希望他的孩子们也成为音乐家。出于爱子之心，他一直禁止小约翰·施特劳斯学习音乐。而小施特劳斯却出于逆反最终踏上了成为一个音乐家的道路。在1844年老施特劳斯公开声明与埃米丽所生的女儿为自己子女之后，玛丽亚·安娜决定与他离婚，并鼓励小约翰继续从事音乐事业。在施特劳斯家族中，老施特劳斯一直以一个严厉的父亲形象出现。在维也纳，施特劳斯家是有名的“Hirschenhaus”（意为“只有男人的房子”）。他总是把他的愿望强加于他的孩子们——他禁止他们从事任何与音乐有关的职业。虽然还不确定他这么做是否是为了避免家庭内部的竞争，不过，他对于作为一个音乐家所要经受的痛苦无疑是有深切的体认的。
虽然家庭纠纷始终困扰着老施特劳斯，他还是频繁地在英伦三岛以及其他地方进行演出。同时他还热心于为许多慈善机构谱写新作品。在他以及其他作曲家的努力下，圆舞曲（华尔兹）从一种四三拍子的乡间舞曲，发展成了一种由五个相互承接的小圆舞曲、一个短小的完结篇和一个激动人心的结尾构成的，具有巨大影响的全新音乐形式。不过他的儿子小约翰·施特劳斯进一步发展了这种音乐形式，他对圆舞曲中配器的使用也比他的父亲更加大胆和广泛。虽然老施特劳斯既没有他的儿子那样天才的音乐才华，又没有精明的商业头脑，但是当时和后世的人们对待他作品的态度无疑证明：他与兰纳一样，是那个时代维也纳少见的几名最为出色的作曲家之一。
小约翰·施特劳斯经常演奏他父亲的作品，而且他毫不隐瞒他对这些作品的无比钦佩，即使在维也纳父子俩的激烈竞争早就不是什么秘密了，更何况当时的舆论还对此火上浇油。举例来说，老施特劳斯终生拒绝在多迈耶赌场（Dommayer's Casino）进行演出，因为小约翰·施特劳斯的首场亲自指挥的演出正是在此举行的。虽然在老施特劳斯有生之年，他凭借着早年的成就始终名气压过他的儿子，但是后来两人在古典音乐上的成就对比让人不难发现，小约翰·施特劳斯在音乐上已经大大超越了他的父亲。
1849年，老施特劳斯因猩红热在维也纳去世。他的遗体最初与他的终生好友兰纳一起葬在德布林公墓（Döbling cemetery）。1904年，为了纪念两人的伟大贡献，他们的遗体被移葬至维也纳的荣誉墓地——中央公墓（Zentralfriedhof）。他们以前的墓地现在已被辟为施特劳斯—兰纳公园（Strauss-Lanner Park）。埃克托·柏辽兹（Hector Berlioz）称赞老施特劳斯是“维也纳圆舞曲之父”（这一称誉流传甚广）。此外还有一种流行的说法，“没有施特劳斯的维也纳就像失去了多瑙河的奥地利一样”。
