Skuszony łatwymi pieniędzmi, Ōyama współpracował przez pewien czas z japońskimi gangsterami. Po półrocznym pobycie w więzieniu poczuł potrzebę zrehabilitowania się i postanowił poświęcić się karate oraz ciężkiemu treningowi. Zaczął treningi u So Nei-chu, Koreańczyka pochodzącego z tej samej co on prowincji, który trenował styl karate Gōjū-ryū. Nauczył on także Ōyamę podstaw wiary buddyjskiej sekty Nichirena. W tym samym czasie, w którym Ōyama rozpoczął treningi z So, zaczął też ćwiczyć judo, aby po czterech latach uzyskać 4 dan w 1945 roku.
Kształcił się także w innych sztukach walki. Czerpiąc inspiracje z nauk legendarnego mistrza szermierki Musashiego Miyamoto, po długim okresie medytacji w górach Chiba, stworzył nowy styl karate – kyokushin, wymagający doskonałego przygotowania fizycznego.
Od 1952 roku promował karate kyokushin w Stanach Zjednoczonych, odbywając m.in. pokazowe walki i podróżował również w innych krajach. Otworzył szereg szkół karate kyokushin na całym świecie, współorganizował pierwsze turnieje oraz światową federację. Słynął z tego, że gołymi rękami zabił byka, stoczył 300 pojedynków w ciągu 3 dni, w ciągu jednego roku przyjął 270 propozycji walki. Walczył z każdym, kto tylko miał odwagę, by rzucić mu wyzwanie.