Od początku okręt miał możliwość przenoszenia 12 miniaturowych okrętów podwodnych typu „A”, przy redukcji grupy lotniczej do 12 samolotów. Na początku 1942 wzmocniono nieco lekkie uzbrojenie przeciwlotnicze, z 12 działek 25 mm do 18 (z 6 do 9 dwulufowych stanowisk). Dalszym rozwinięciem typu „Mizuho” był „Nisshin”.
„Mizuho” zamówiono w ramach programu wymiany floty z 1937 roku. Stępkę pod budowę położono 1 maja 1937 w stoczni Kawasaki w Kure. Kadłub wodowano 16 maja 1938, a okręt wszedł do służby 25 lutego 1939Hiroshi Nishida: Mizuho seaplane tender w serwisie Imperial Japanese Navy [dostęp 23-3-2011].
Służba Wkrótce po wejściu do służby, okręt 1 czerwca 1940 wszedł w skład Floty Połączonej w Yokosuka. W grudniu na krótko był okrętem flagowym 7 Dywizjonu Transportowców Wodnosamolotów. Od końca grudnia 1940 operował na wodach Chin, w rejonie Hajnan. W marcu 1941 został przydzielony do 11. Dywizjonu Transportowców Wodnosamolotów i operował na wodach japońskich.