Po służbie wojskowej w czasie I wojny światowej, rozpoczął w Wiedniu karierę koncertową jako wirtuoz skrzypiec i dyrygent. Należał do kręgu uczniów Schönberga, z którym pozostawał w bliskiej przyjaźni (w 1924 Schönberg poślubił siostrę Kolischa – Gertrud). W latach 1919–1921 odgrywał ważną rolę w założonym przez Schönberga w Wiedniu Stowarzyszeniu Prywatnych Wykonań Muzycznych; był tam Vortragsmeisterem („mistrzem prób” odpowiedzialnym za przygotowanie muzyków do koncertów) oraz wykonawcą – występował jako solista lub w duecie m.in. z pianistą Edwardem Steuermannem.

W 1922 założył Wiener Streichquartett, znany jako . Obok repertuaru klasycznego, zwłaszcza Beethovena, zespół koncentrował się na nowej muzyce współczesnych kompozytorów: Arnolda Schönberga, Albana Berga, Antona Weberna, Béli Bartóka, Dariusa Milhauda i innych. Członkowie Kwartetu początkowo się zmieniali, ale od 1927 występowali w stałym składzie: Rudolf Kolisch (I skrzypce), Felix Khuner (II skrzypce), Jenö (Eugene) Lehner (altówka) i Benar Heifetz (wiolonczela). Zdaniem Schönberga zespół był „najlepszym kwartetem smyczkowym, jaki kiedykolwiek słyszał”, wskazując na jego wirtuozerię, brzmienie, styl i zrozumienie wykonywanych kompozycji.