Podjął studia na bostońskim Northeastern University, podczas których prowadził małą grupę grającą zawodowo w okolicznych lokalizacjach. Naukę przerwało mu powołanie do U.S. Army, w której służył od 1943 do 1946. Uczestniczył w końcowym etapie działań II wojny światowej w Europie i na Pacyfiku, choć sam nie brał udziału w walkach. Po demobilizacji powrócił do kraju i w 1950 dokończył studia w The Boston University College of Liberal Arts. Kilka miesięcy później, we wrześniu otworzył klub jazzowy Storyville, w którym występowało wielu luminarzy jazzu, m.in. Louis Armstrong, Charlie Parker, Duke Ellington i Billie Holiday. On sam również w nim grywał. Klub, noszący nazwę nowoorleańskiej dzielnicy czerwonych latarni, działał dziesięć lat. W 1952 założył także wytwórnię płytową Storyville.
Rok później goszcząca w jego klubie Elaine Lorillard, celebrytka z Newport, poprosiła go o pomoc w zorganizowaniu letniej imprezy jazzowej w zamieszkiwanym przez nią kurorcie. Sfinansowany przez nią i jej męża, Louisa, a zorganizowany przez Weina Newport Jazz Festival rozpoczął swoją wspaniałą historię w 1954. W Newport występował nie tylko w roli organizatora, ale również pianisty prowadzącego formację o zmiennym składzie – George Wein's Newport All-Stars.