Lata młodzieńcze Urodził się w środkowej części obecnej Rosji w ziemi rostowsko-suzdalskiej (obecnie tzw. Podmoskowie) między 1360 a 1370 rokiem. Dokładna data jego urodzin nie jest znana, tak samo jak miejsce jego urodzin oraz środowisko, z którego się wywodził. Istnieją źródła, wedle których urodził się w miasteczku Siergijew Posad (ros. Сергиев Посад) niedaleko od Moskwy, w którym obecnie znajduje się ulica Rublowa, upamiętniająca artystę. Zazwyczaj jako rok jego urodzin podawany jest 1360 lub 1365.

Przydomek „Rublow” mógł pochodzić od staroruskiego słowa oznaczającego narzędzie używane do garbowania skóry, co wskazywałoby na pochodzenie artysty z rodziny rzemieślniczej.

Prawdopodobnie śluby zakonne złożył w Ławrze Troicko-Siergijewskiej w młodym wieku. Tam też przyjął zakonne imię Andrzej. Data powyższych wydarzeń nie jest znana. Pierwsze źródło pisane dotyczące Rublowa pochodzi z 1405 roku i odnosi się do jego prac w Soborze Zwiastowania na Kremlu.

Twórczość Był uczniem św. Sergiusza z Radoneża i Teofana Greka. Brak źródeł pisanych powoduje, że chronologia jego prac ustalana jest przez ich analizę stylistyczną.