8 sierpnia 2010 został desygnowany przez prezydenta Lee Myung-baka na stanowisko premiera Korei Południowej. Jego nominacja nastąpiła po rezygnacji premiera Chung Un-chana 29 lipca 2010 z powodu przyjęcia przez parlament wbrew woli rządu planów przeniesienia części ministerstw do projektowanego miasta Sedżong na południe od Seulu, mającego pełnić również rolę nowego centrum przemysłowego i naukowego w regionie. Jednocześnie z jego nominacją prezydent dokonał zmian na stanowiskach 7 ministrów. Zdaniem komentatorów nominacja Kima była częścią akcji zmiany pokoleniowej w strukturach władzy po porażce Wielkiej Partii Narodowej w wyborach lokalnych w czerwcu 2010.
Debata nad zatwierdzeniem składu nowego rządu odbyła się w Zgromadzeniu Narodowym od 24 do 26 sierpnia 2010. 26 sierpnia 2010 głosowanie nad udzieleniem wotum zaufania zostało przesunięte na 1 września 2010 z powodu etycznych i korupcyjnych oskarżeń, jakie pojawiły się pod adresem desygnowanego na urząd premiera. Został on oskarżony o wzięcie nielegalnych funduszy finansowych od biznesmena powiązanego z aferą korupcyjną w czasie gdy był burmistrzem prowincji. Kim Tae-ho odrzucił te zarzuty, jednak opozycja zażądała od niego przedstawienia dowodów potwierdzających jego słowa.