W 1931, po serii 6 zwycięstw przez nokaut, doznał porażki 12 października w Nowym Jorku z czołowym bokserem wagi ciężkiej Jackiem Sharkeyem. W 1931 i 1932 dwukrotnie pokonał Kinga Levinsky’ego. 10 lutego 1933 w Nowym Jorku Carnera znokautował w 13. rundzie Erniego Schaafa, który zmarł wskutek obrażeń mózgu 4 dni później. Prawdopodobną przyczyną zgonu były jednak uszkodzenia, których Schaaf doznał kilka miesięcy wcześniej w walce z Maxem Baerem, pogłębione przez ciosy Carnery.

29 czerwca 1933 w Nowym Jorku Carnera ponownie zmierzył się z Jackiem Sharkeyem, który w międzyczasie został zawodowym mistrzem świata wagi ciężkiej. Sharkey prowadził na punkty, ale został znokautowany w 6. rundzie tracąc tytuł mistrza świata. Podnoszono zarzuty, że walka była ustawiona, lecz Sharkey odpierał je aż do śmierci.