Był jednym z najbardziej lubianych jugosłowiańskich piłkarzy – cenionym nie tylko za wyjątkowe umiejętności piłkarskie, ale przede wszystkim za swoją postawę na boisku i poza nim.

Karierę piłkarską rozpoczynał jako niespełna 16-letni chłopiec w zespole Košutnjak w maju 1938. Wkrótce przeniósł się do stołecznego zespołu BSK, w którym najpierw świętował sukcesy juniorskie (mistrzostwo kraju), a następnie zadebiutował w dorosłej piłce. Debiut wypadł wyjątkowo okazale – Mitić zdobył w nim 5 bramek. Świetnie zapowiadającą się karierę zahamował wybuch II wojny światowej. W czasie działań wojennych los zetknął go z duetem Predrag Dzajić – Jovan Jezerković (walczyli w jednym oddziale), z którymi w marcu 1945 wybiegł w pierwszym meczu nowo powstałego zespołu Crvenej zvezdy Belgrad.

Jako kapitan przez niemal 14 lat prowadził zespół Zvezdy na boisku. Poprowadził belgradzką drużynę do pięciu mistrzowskich tytułów i czterech triumfów w krajowym pucharze (w tym trzech z rzędu).