Pod dowództwem generała Fredericka Funstona Pershing poprowadził 8 Brygadę w czasie nieudanej ekspedycji karnej do Meksyku w poszukiwaniu Pancho Villi. Jednym z adiutantów Pershinga był w tym czasie George Patton. W czasie pobytu Pershinga w Meksyku, jego żona i trzy młode córki zginęły w pożarze koszar „Presidio” w San Francisco, ocalał jedynie jego sześcioletni syn. Pershing do końca życia obwiniał siebie za ich śmierć i osoby blisko go znające twierdziły, że nigdy sobie tego nie wybaczył.
Po wybuchu I wojny światowej prezydent Woodrow Wilson mianował Pershinga głównodowodzącym Amerykańskich Sił Ekspedycyjnych (AEF) w 1917 r. Pershing był odpowiedzialny za organizację, wyszkolenie i zaopatrzenie młodej i niedoświadczonej armii amerykańskiej, która do końca wojny rozrosła się do ponad 2 mln żołnierzy. W czasie pobytu w Europie Pershing był pod nieustannym naciskiem politycznym ze strony Francji i Wielkiej Brytanii, aby AEF zostały rozbite na mniejsze oddziały służące przy armiach francuskiej i angielskiej. Pershing był przeciwny takiemu rozwiązaniu i tylko dzięki jego uporowi AEF był jednolitą organizacją wyłącznie pod dowództwem amerykańskim.