Budowa i służba left|thumb|Budowa pancernika - dolna część kadłuba, ok. 2 mies. po położeniu stępki left|thumb|Wodowanie „Yashimy” „Yashima”, której nazwa pochodziła od dawnej nazwy Japonii, została zamówiona w ramach programu budowy floty na rok 1894. Stępkę położono w stoczni Armstrong Whitworth w Elswick 6 grudnia 1894, nadając okrętowi numer stoczniowy 625. Uroczystość wodowania odbyła się 28 lutego 1896, a okręt został ukończony 17 sierpnia 1897. Całkowity koszt budowy wyniósł 10,5 mln yenów. Po przeprowadzeniu prób morskich „Yashima” opuściła Wielką Brytanię 15 września i przybyła do Yokosuki 30 listopada.
Początkowo przydzielona do Stałej Floty, głównej siły uderzeniowej Cesarskiej Marynarki Wojennej, lecz 20 listopada została przesunięta do rezerwy. 21 marca 1898 przeklasyfikowana na pancernik 1 klasy i przeniesiona do Stałej Floty, lecz dwa lata później ponownie znalazła się w rezerwie i pozostała w niej aż do 28 grudnia 1903, kiedy to otrzymała przydział do 1 Eskadry 1 Floty Połączonej Floty Japońskiej.