1908年4月5日,卡拉扬生于巨扎特的故乡奥地利小城镇萨尔茨堡.
1928年12月17日,在温德拉指挥班学生音乐会上,他首次指挥维也纳音乐学院乐队演奏了罗西尼的《威廉·退尔》序曲.
1929年1月22日,他首次以指挥家的身份公开指挥演出柴科夫斯基的《第五交响曲》、理查·施特劳斯 交响诗《唐·吉诃德》.4月19日,又在萨尔茨堡节日剧院指挥演出理查 施特劳斯 歌剧《莎乐美》.
1933年,卡拉扬首次参与萨尔茨堡音乐节的活动,指挥演出古诺的歌剧《浮士德》.翌年,他在萨尔茨堡首次指挥维也纳爱乐乐团.
1935年,他被委任为德国最年轻的"音乐指挥使者"到布鲁塞尔、斯德歌尔摩、阿姆斯特丹等城市客席指挥演出.1937年,他应瓦尔特之邀,在维也纳首次指挥维也纳国家歌剧院演出《特里斯坦与伊索尔德》(瓦格纳曲).
1938年9月30日,卡拉扬在柏林国家歌剧院首次登台,指挥演出《费德利奥》,接着于10月21日指挥演出《特里斯坦与伊索尔德》.
1939年,被任命为柏林国家歌剧院音乐总监,翌年指挥演出《埃列克特拉》,受到作者理查·施特劳斯的高度赞赏.同年他与DG公司签订录制首张唱片合约.
1947年,卡拉扬成为维也纳爱乐协会负责人,策划维也纳爱乐协会乐团和维也纳交响乐团的演出事务.从1948年起,卡拉扬恢复在萨尔茨堡音乐节的活动,并向国际乐坛进军,与世界各地著名乐团建立关系,走遍欧洲,四处演出,名噪一时,显赫四方.
1949年,他兼任米兰斯卡拉歌剧院常任指挥,1950年,兼任伦敦爱乐乐团常任指挥.1951年,他登上了拜罗伊特音乐节的舞台.
1955年,卡拉扬成为柏林爱乐乐团的终身首席指挥.1956年,卡拉扬又接替指挥大师伯姆,就任维也纳国家歌剧院音乐总监.1957-1970年,他独揽萨尔茨堡音乐节音乐总监的职务.这样,卡拉扬就在短期内顺利地夺取了世界4大王牌歌剧院(米兰、维也纳、纽约、伦敦)的霸权地位,成为欧洲乐坛上的"帝王",被称为"欧洲的音乐总监".他在1967年个人创办了萨尔茨堡复活节音乐节.在3月19日开幕仪式上,由他指挥演出瓦格纳的歌剧《女武神》.
鉴于卡拉扬在家乡贡献良多,功绩赫赫,1968年,萨尔茨堡省授予他名誉指环,受委为萨尔茨堡大学荣誉参议员.
1973年在萨尔茨堡,卡拉扬个人又创办了另一音乐活动,叫圣灵降临节音乐会.1977年,卡拉扬终于与维也纳国家歌剧院和解,重新出任该院音乐总监,并在维也纳音乐周期间,实现了他13年前的构想-4大王牌歌剧院共同演出歌剧.
1979年10月,卡拉扬率领柏林爱乐团首次访问中国,曲目有巨扎特的《第三十九交响曲》、勃拉姆斯的《每一交响曲》和德沃夏克的《第八交响曲》等.他们"美不可言"的,震撼了北京乐坛.1980年12月7日,柏林爱乐乐团举行纪念音乐会,以示庆祝卡拉扬出任该团首席指挥职位25周年.1982年,是卡扬最忙碌的一年.5月,筹备一系列柏林爱乐乐团成立100周年纪念音乐会;7月,在萨尔茨堡音乐节期间,首次录制普契尼的歌剧《图兰多》;10月,率领柏林爱乐乐团;12月,为庆祝柏林爱乐乐团参与萨尔堡音乐活动25周年纪念举行演出.1983年,他在摩纳哥蒙地卡罗投资创办电声公司;同年,伦敦皇家爱乐协会授予卡拉扬金质奖章.他是70年来第一位获得此荣誉者,过去接受此奖章者只有托斯卡尼尼、比彻姆和瓦尔特.
1948年,卡拉扬率领柏林爱乐乐团赴日本演出.1986年,已是78岁高龄的卡拉扬,仍然兴趣勃勃地精心策划第二十届复活节音乐节的演出活动.他带病指挥演出莫扎特的《加冕弥撒曲》、布鲁克纳的《赞美歌》,有点老态龙钟,力不从心.但是他所指挥的《第九交响曲》(布鲁克纳曲),则表现出他那惊人的音乐魅力,大受赞赏.1988年80岁的卡拉扬,老当益壮,精力过人,仍然活跃于世界乐坛,而且还在写一本有关音乐表演的书,他不善于口授,只好自己亲手每天写12行.这也是他日常活动的一部分.
1989年7月16日,卡拉扬病逝,终年81岁.
卡拉扬的指挥特点:严整、条理、完美、瑰丽,精雕细缕,一丝不苟.
他反对音乐比较(比赛),认为各有各的一套,何况音乐又不是体育.他对节奏的要求尤为严格,他说:"我可容忍一个错误的音符,绝不能容忍节奏有一点儿廖误".
卡拉扬灌有900张唱片,这是惊人的记录,也是骄人的成就.他的唱片销量永占世界之最。