W 1894 przeniosła się do Radcliffe College, co dawało jej dostęp do nowoczesnego obserwatorium na Uniwersytecie Harvarda. W 1896 została tam asystentką Edwarda C. Pickeringa. Była autorką uproszczonej i użytecznej klasyfikacji gwiazd, bazującej na temperaturze gwiazd. Poświęciła dekady, żeby sklasyfikować widma około ćwierć miliona gwiazd według opracowanego przez siebie systemu. Jej praca stanowiła fundamenty dla współczesnych systemów klasyfikacji i znajduje zastosowanie dla około 99% obserwowanych gwiazd. W 1907 otrzymała tytuł magistra w Wellesley College. Niejako w uznaniu naukowych dokonań Annie Jump powierzono na Uniwersytecie Harvarda funkcję Kuratora Fotografii Astronomicznej. W latach 1918–1924 opublikowany został Katalog Henry’ego Drapera stworzony przez Annie Jump Cannon i jej współpracowników z obserwatorium Harvarda, pod nadzorem Edwarda Pickeringa. Pracowała również nad późniejszymi uzupełnieniami do tego katalogu. Odkryła wiele gwiazd zmiennych oraz 5 nowych.
Na jej cześć Amerykańskie Towarzystwo Astronomiczne przyznaje nagrodę dla wybitnych astronomek na wczesnym etapie kariery naukowej.