翌1937年、今度はドイツの名指揮者ブルーノ・ワルターの招きに応じる形で『トリスタとイゾルデ』（ワーグナー作）でウィーン国立歌劇場に客演を果たします。

この演奏は当時の人々から絶賛を博しました。

そして、1938年4月世界最高峰のオーケストラ、ベルリン・フィルハーモニー管弦楽団を初めて指揮することとなります。

この時期カラヤンはまさに絵に描いたような順風満帆な指揮者人生をしかも早足で駆け抜けていました。

そして私生活にも大きな変化がありました。

1938年7月には、ソプラノ歌手エルミー・ホルガーレフと結婚します。幸せの絶頂にあったカラヤン夫妻がまさか3年後に離婚するなどその時想像する者は誰もいなかったことはいうまでもありません。