W 976 roku przekazał Bawarię swojemu siostrzeńcowi, księciu Szwabii, Ottonowi, wydzielił też z terytorium Bawarii Karyntię, która stała się osobnym księstwem w rękach Henryka III, oraz Marchię Wschodnią (niem. Österreich), zalążek państwa austriackiego. W 978 roku pokonał z trudem swojego niedawnego podopiecznego, króla Francji, Lotara, usiłującego odebrać Niemcom Lotaryngię. W czasie walk z Francuzami o mało nie dostał się do niewoli. Kłopoty z utrzymaniem niemieckiej korony sprawiły, że dopiero w 980 Otton II udał się do Italii, by poświęcić się sprawom włoskim i umocnić swoją cesarską pozycję i koronować się na króla Włoch. W przeciwieństwie do ojca, przyjął do swej tytulatury pełną formułę „cesarz rzymski” (łac. Romanorum Imperator Caesar Augustus). Wykorzystując rozpad Księstwa Benewentu w 981 roku usiłował podporządkować sobie południową część Włoch, lecz w walce z Saracenami (Arabami) poniósł w roku 982 klęskę w Kalabrii w bitwie pod Stilo, niedaleko Crotone. W 983 roku wybuchło powstanie Słowian, w wyniku którego stracił władzę na Połabiu. W 983 przeprowadził na zjeździe możnych w Weronie elekcję na króla swojego trzyletniego wówczas syna, Ottona III. W tym samym roku Niemcy zostały najechane przez Duńczyków, Obodrytów i Wieletów (plemiona słowiańskie), jednak Otton zmarł w Rzymie zanim zdążył wyruszyć na północ.