Wczesne lata kształcenia Rodzina Kroebera była dwujęzyczna, ale w domu mówiło się po niemiecku. W dzieciństwie uczył się on również łaciny i greki. Można przypuszczać, że te wczesne zetknięcie z tyloma językami przyczyniło się potem do zainteresowania badacza lingwistyką. Gdy Alfred skończył siedem lat, zakończył naukę domową. Jego oraz szóstkę innych dzieci zaczął uczyć prywatny, niemiecki nauczyciel dr Bamberger. W kolejnych latach przygotowywał się do pójścia na studia w szkole średniej Sachs' Collegiate Institute. Alfred kontynuował tam naukę, z roczną przerwą, aż do czasu, gdy wstąpił na Uniwersytet Columbia w 1892 roku w wieku 16 lat.
Wczesne lata ukształtowały jego charakter i zainteresowanie historią naturalną, zamiłowanie do języków obcych, niezwykłą spostrzegawczość estetyczną, fachowość i chęć do wykonywania wszystkich prac wymagających skrupulatności. Podczas studiów licencjackich na Uniwersytecie Columbia z niewielkim kręgiem przyjaciół założył czasopismo, które choć miało głównie charakter literacki, pozwalało sobie na krytykę wielu podmiotów, w tym uniwersytetu. Kariera Alfred Kroeber rozpoczął studia na Uniwersytecie Columbia w Nowym Jorku, gdy antropologia nie była jeszcze osobną dyscypliną naukową. Do uczestnictwa w seminarium Franza Boas’a w 1896 roku, skłoniła go czysta ciekawość.