W 1338 r. Dytryk uznał prawo Jana do następstwa (chyba że urodziłby się Dytrykowi syn) i stopniowo zwiększał się udział Jana w zarządzaniu księstwem. Gdy Dytryk zmarł w 1347 r., Jan został jego następcą jako hrabia Kleve, obejmując tron właściwie bez problemów (roszczenia jego bratanicy Małgorzaty, żony hrabiego Mark Adolfa II nie znalazły w hrabstwie większego odzewu). Jednocześnie Jan porzucił duchowe beneficja, a w 1348 r. poślubił Mechtyldę, córkę księcia Geldrii Renalda II.
Wsparcie dla cesarza Ludwika IV Bawarskiego, a następnie Karola IV Luksemburskiego zaowocowało nabytkami terytorialnymi (Rindern, obecnie część Kleve). W okresie czarnej śmierci sprowadził do Dinslaken joannitów. Zaangażował się w długotrwałe walki w Geldrii między swoimi szwagrami Renaldem III i Edwardem I (po stronie Renalda). Zyskał przy tym w 1355 r. miasto Emmerich, ale wojna ta opustoszyła hrabiowski skarbiec, a ponadto zapewniła wrogiego sąsiada po zwycięstwie Edwarda w 1361 r. Kłopoty finansowe zmusiły Jana do reform wewnętrznych, którym hrabstwo Kleve zawdzięczało bardzo nowoczesny i skuteczny system zarządzania. Wspierał też rozwój miast, m.in. nadał prawa miejskie Uedem i założył Griethausen (obecnie część Kleve).