W latach 1938–1945, na prośbę Pierre's de Coubertin, Diem kierował Międzynarodowym Instytutem Olimpijskim w Berlinie. W okresie tym Diem napisał wiele ideologicznych i naukowych artykułów na temat sportu, które w jednej trzeciej opublikował na łamach mediów nacjonalistycznych. Wówczas Diem wydał również trzytomowe dzieło „Olympische Flamme” (pol. „Płomień olimpijski”), które obok filmu Leni Riefenstahl Olimpiada uchodzi za najważniejszy dokument nazistowskiej propagandy sportowej.
Carl Diem został wybrany generalnym sekretarzem odpowiedzialnym za organizację zimowych igrzysk olimpijskich w 1940 roku w Garmisch-Partenkirchen. Igrzyska te zostały odwołane po wybuchu II wojny światowej. W 1939 roku Diem objął kierownictwo wydziału zagranicznego Nationalsozialistischer Reichsbund für Leibesübungen, który odpowiadał za organizacje wyjazdów zagranicznych niemieckich sportowców i zawodów międzynarodowych na terenie Niemiec. W okresie tym zacieśniono współpracę z faszystowskimi Włochami i powołano do życia Towarzystwo Niemiecko-Włoskie (niem. Deutsch-Italienische-Gesellschaft, (DIG)), któremu przewodniczył Hans von Tschammer und Osten (1887–1943) a wiceprzewodniczącym został Diem.