Przed swoją śmiercią w 226 Cao Pi mianował Sima Yi jednym z czterech regentów swojego młodocianego następcy, Cao Rui (226–239).
W 226 Sima Yi poprowadził zwycięską kampanię przeciwko Sun Quanowi, w nagrodę za co został mianowany generałem kawalerii (驃騎將軍, piaoji jiangjun). W 228 ujął i zabił generała , który zamierzał przejść na stronę Shu. W 230 został mianowany wielkim generałem (大將軍, da jiangjun), po czym w następnym roku pokonał armię inwazyjną Shu dowodzoną przez Zhuge Lianga. W 233 zablokował siły tego ostatniego pod Jishi (w pobliżu dzisiejszego Linxia). Zhuge Liang wycofał się na , jednak szybko zaatakował ponownie. Sima Yi nie przyjął bitwy w otwartym polu, ale okopał się. Na szczęście dla niego w 234 Zhuge Liang zmarł i wojska Shu wycofały się. Po tych wydarzeniach w 235 Sima Yi został mianowany głównodowodzącym (太尉, ) armii Wei.
Swoje największe zwycięstwo Sima Yi odniósł w 238, kiedy pokonał władcę Liaodongu (w dzisiejszej prowincji Liaoning) i przyłączył jego terytorium do Wei. Był to znaczący militarny sukces, który wydatnie wzmocnił polityczną pozycję Sima Yi i w przyszłości miał być opiewany w rytualnych pieśniach dynastii Jin.