Okręt został następnie odwołany z patrolu do bazy w Wilhelmshaven, gdzie zawinął 29 marca 1940 roku.
Operacja Hartmut Chcąc uprzedzić aliantów, Niemcy zaczęły przygotowywać własną operację zajęcia Norwegii, zaś kontradmirał Karl Dönitz wysłał na wody norweskie 32 ze swoich 48 okrętów podwodnych, w tym 18 jednostek wszystkich typów IIClay Blair: Hitler’s U-Boat War T. 1, s. 147–148.. 4 kwietnia 1940 roku U-2 wyszedł z Wilhelmshaven na swój drugi wojenny patrol, z umieszczonym w zalakowanej kopercie rozkazem wzięcia udziału w operacji Hartmut.
Następnego dnia, U-2 stał się prawdopodobnie celem nieskutecznego ataku za pomocą czterech torped ze strony brytyjskiego okrętu podwodnego, jednak wystrzelone przez HMS „Unity” torpedy nie sięgnęły niemieckiego okrętuGrzegorz Bukała: Historia operacyjna, s. 35.. Po otwarciu 6 kwietnia rozkazów kadm. Dönitza, dowódcy wszystkich uczestniczących w operacji U-Bootów, zostali poinstruowani o przydzielonych im rejonach patroli wzdłuż wybrzeża Norwegii, gdzie od 9 kwietnia miały wspierać niemieckie lądowo-morskie siły inwazyjne, celem zapobieżenia jakiemukolwiek przeciwdziałaniu ze strony okrętów brytyjskich. U-2 został przydzielony do 8. Grupy U-Bootów, mającej operować w pobliżu Lindesnes, z zadaniem ataku na brytyjskie siły morskie zmierzające z północy Morza Norweskiego.