Mając 6 lat dołączyła do kościelnego chóru dla młodzieży. Po ukończeniu szkoły w 1921 chciała uczyć się w szkole muzycznej, gdzie jednak nie przyjmowano Afroamerykanów. Lekcji udzielał jej prywatny nauczyciel.
Kariera Debiutowała 26 sierpnia 1925 z orkiestrą Filharmonii Nowojorskiej i natychmiast odniosła sukces. W 1928 zaśpiewała pierwszy raz w Carnegie Hall. Jej reputacja wzrosła na początku lat 30. podczas występów w Europie, gdzie nie spotkała się z rasistowskimi uprzedzeniami. Słynny dyrygent Arturo Toscanini powiedział, że taki głos jak jej słyszany jest raz na sto lat. W 1935 menedżerem artystki został Sol Hurok, który pełnił tę funkcję do końca kariery śpiewaczki.
W 1939 kobiety z Daughters of the American Revolution nie pozwoliły Marian Anderson na występ przed publicznością o różnym kolorze skóry w Constitution Hall. W geście dezaprobaty z członkostwa w organizacji zrezygnowało wiele kobiet, w tym pierwsza dama Eleanor Roosevelt. W niedzielę wielkanocną 1939 roku odbył się plenerowy koncert pod Pomnikiem Lincolna, na który przyszło ponad 75 000 osób różnego pochodzenia.
Talentem śpiewaczki oczarowany był fiński kompozytor Jean Sibelius, który poznał Anderson w 1933 roku.