W 1933 Ida i Ottorino z dziećmi przenieśli się do Rzymu. Początkowo mieszkali u brata Idy Domenico. Był on kolejarzem i mieszkał w małym domku w dzielnicy San Giovanni. Miał pięcioro dzieci i z powodu ciasnoty nie był w stanie długo gościć siostry i jej rodziny. Dlatego Ida i Otterino z dziećmi przeprowadzili się do pokoju z kuchnią na dziesiątym piętrze w budynku przy via Gela w dzielnicy San Giovanni. Ottorino pracował dorywczo jako pomocnik malarski i nie zarabiał dużo. W dodatku zachorował na cukrzycę, czego konsekwencją była postępująca ślepota. W tym czasie Marcello skończył szkołę podstawową Armando Diaz i zapisał się do zawodówki Duca d’Aosta.
W 1936 do Rzymu przeniósł się Vincenzo Mastroianni z żoną i ośmiorgiem dzieci. W garażu przy ulicy San Remo Vincenzo i Ottorino otworzyli zakład stolarski. Natomiast Marcello po trzech latach szkoły zawodowej zapisał się do Instituto Carlo Grella, gdzie mógł zdobyć zawód geometry i technika budowlanego. W wolnych chwilach pomagał dziadkowi i ojcu w zakładzie stolarskim. Marcello Mastroianni zaczął interesować się aktorstwem ok. 1934. Występował w przedstawieniach organizowanych przez proboszcza parafii Santi Fabriano e Venanzio przy via Taranto. W 1938 udało mu się wystąpić w filmie Carmine Gallone Marionetki. Był tam jednym z chłopców oklaskujących śpiewających aktorów.