W wieku trzynastu lat Hindemith dostał się do konserwatorium, gdzie przez pierwsze lata koncentrował się na doskonaleniu gry na skrzypcach, a od 1912 studiował kompozycję, najpierw u Arnolda Mendelssohna, a potem u Bernharda Seklesa. Paul wykazywał niezwykłe umiejętności instrumentalne, równie dobrze co skrzypce czy altówkę opanował grę na fortepianie, klarnecie i kilku innych instrumentach. W 1915 został drugim skrzypkiem w kwartecie swojego pedagoga, Adolfa Rebnera. W czerwcu tego samego roku dostał się do sekcji pierwszych skrzypiec opery frankfurckiej, a już we wrześniu został koncertmistrzem orkiestry. W międzyczasie ojciec Hindemitha zaciągnął się do wojska i wkrótce poległ we Flandrii. Paul, który już wtedy dokładał się do rodzinnego budżetu, musiał teraz sam utrzymać rodzinę. W 1917 zaciągnął się do wojska. Większość służby spędził w orkiestrze pułkowej w pobliżu frontu. Miał szczęście, jeden z przełożonych poprosił go o stworzenie kwartetu smyczkowego, który dawałby koncerty na prywatnych spotkaniach oficerów. Po wojnie Hindemith wrócił do kwartetu Rebnera, gdzie od 1919 zmienił instrument na altówkę oraz do orkiestry operowej we Frankfurcie.