Szczególnie dobrze znane są jego wykonania koncertów Szostakowicza, ale był również wykonawcą klasycznych koncertów i utworów. Pracował z orkiestrami w Rosji, a także z muzykami w Europie i Stanach Zjednoczonych. Innym sławnym nagraniem jest koncert potrójny Beethovena na skrzypce, fortepian i wiolonczelę, wspólnie ze Swiatosławem Richterem i Mstisławem Rostropowiczem. Najważniejszymi zadedykowanymi mu utworami są koncert skrzypcowy Chaczaturiania i oba koncerty skrzypcowe Szostakowicza.
Ojstrach zdobył międzynarodową sławę wygrywając kilka krajowych i międzynarodowych konkursów, wliczając w to Wszechrosyjski Konkurs Muzyczny w 1935. Zdobył drugą nagrodę na I Międzynarodowym Konkursie Wieniawskiego w Warszawie, ustępując tylko wyjątkowo utalentowanej 16-letniej Ginette Neveu. Jednakże w 1937 zdobył najwyższą nagrodę na Konkursie im. Królowej Elżbiety Belgijskiej (wtedy konkurs Eugène’a Ysaÿe’a) w Brukseli. W tym czasie zaczęła się jego długa przyjaźń i partnerstwo z pianistą Lwem Oborinem. Podczas wojny był aktywny w Związku Radzieckim, prezentując po raz pierwszy nowe koncerty Miaskowskiego i Chaczaturiana, jak również dwie sonaty jego przyjaciela Prokofjewa.