Prace projektowe nad ulepszonymi krążownikami rozpoczęto już pod koniec 1925 roku (przed ukończeniem okrętów typu Myōkō), pod kierunkiem komandora Kikuo Fujimoto, a od 1926 roku – wiceadmirała Hiragi. Głównymi ulepszeniami w stosunku do typu Myōkō były: działa nowego modelu, o większym kącie podniesienia i donośności, grubsze opancerzenie komór amunicyjnych, szersze zastosowanie wysokowytrzymałej stali (Ducol), aluminium i spawania, lepsze umieszczenie wyrzutni torpedowych na pokładzie, bogatsze wyposażenie lotnicze oraz większa i obszerniejsza nadbudówka dziobowa.
Budowę dwóch pierwszych okrętów, oznaczonych jako duże krążowniki nr 5 i 6 („Atago” i „Takao”) zamówiono w stoczniach Marynarki w Yokosuce i Kure na początku 1927 roku. Stępki obu okrętów położono 28 kwietnia 1927. Na początku 1928 zamówiono budowę kolejnych dwóch krążowników nr 7 i 8 („Maya” i „Chokai”) w prywatnych stoczniach Kawasaki w Kobe i Mitsubishi w Nagasaki. Wszystkie okręty otrzymały jednak w stoczniach prowizoryczne numery, w kolejności: 9, 10, 11 i 12 (uwzględniające ciągłość od krążowników typów Furutaka i Aoba). Początkowo klasyfikowane były jako krążowniki I klasy, a po unowocześnieniu klasyfikacji 30 maja 1934 – jako krążowniki typu A (Kō kyū Junyōkan), nieoficjalnie jako krążowniki ciężkie.