Pod koniec 1969 dołączył do ZZ Top, w którym zastąpił perkusistę Dana Mitchella. W 1970 zaproponował dołączenie do zespołu Dusty’emu Hillowi, którego przedstawił liderowi grupy, wokaliście i gitarzyście Billy’emu Gibbonsowi. Współpraca trójki muzyków zaowocowała pierwszym albumem długogrającym grupy zatytułowanym ZZ Top's First Album. Płyta została wydana nakładem London Records w styczniu 1971. Wraz z jej wydaniem ukształtował się również charakterystyczny styl zespołu oscylujący wokół Texas boogie-blues-rock. Początkowo Beard występował w zespole pod pseudonimem Rube (Rube Beard). Od albumu Fandango! wydanego w 1975 jego pełne imię i nazwisko widnieje na prawie wszystkich albumach zespołu.

Muzyk był współautorem wielu przebojów grupy (w tym takich utworów jak „Gimmie All Your Lovin”, „Sharp Dressed Man”, „Tush”) oraz najdłużej grającym członkiem zespołu zaraz po Billym Gibbonsie.

Życie prywatne Był żonaty z Catherine Alexander (kwiecień 1978 – lipiec 1981). W listopadzie 1982 ożenił się z Debbie Meredith – mają troje dzieci. Mieszkał w Richmond w Teksasie, gdzie był właścicielem i operatorem Top 40 Ranch. Był golfistą, znanym lokalnie z udziału w turniejach i imprezach społecznościowych.