Powiązania z mafią W młodości Ruby pracował dla Ala Capone. W latach 40. XX wieku często bywał na torach wyścigowych w Illinois i Kalifornii. W 1943 roku został przydzielony do służby w siłach powietrznych USA jako mechanik. Po zwolnieniu ze służby w 1946 roku powrócił do Chicago. W roku 1947 Ruby przeprowadził się do Dallas, gdzie wraz z bratem zmienił nazwisko, ponieważ część klientów nie chciała robić interesów z Żydami.
Jego klub był często odwiedzany przez policję z Dallas, Ruby często przekupywał policjantów dużymi ilościami alkoholu. W 1959 roku pojechał na Kubę na spotkanie z wpływowym gangsterem i hazardzistą Lewisem McWilliem, który był krótko więziony przez Fidela Castro. McWillie miał kontakty z wpływowymi gangsterami takimi jak Meyer Lansky, Carlos Marcello i Santo Trafficante Jr.
Raport wydany przez Komisję Śledczą Izby Reprezentantów do Spraw Zabójstw (HSCA) stwierdził, że Jack Ruby znał Sama i Joego Campisich od 1947 roku. Bracia Campisi byli czołowymi figurami przestępczego podziemia w Dallas. Mieli oni kontakty z Carlosem Marcello, bossem mafii, która spiskowała na temat zabójstwa JFK. Dzień przed zabójstwem prezydenta, Ruby poszedł do restauracji Joe Campisiego.