Nie potrafił rozsądzić, które wyznanie ma rację w religijnym sporze, i choć sprzyjał metodystom, pozostawał niezdecydowany.

Joseph Smith należał do ubogiej rodziny dlatego wraz z ojcem najmował się do pracy na dniówki u okolicznych farmerów. Przy jednej z takich prac, gdy pomagał sąsiadowi wykopać studnię głęboko w ziemi, natrafił na niezwykły owalny kamień nazwany później „kamieniem widzącego”, który miał mieć ponadnaturalne właściwości. Uważając, że może on służyć do szukania zagubionych rzeczy lub poszukiwania skarbów, posługiwał się nim do jasnowidzenia. W październiku 1825 roku wraz z innymi robotnikami najął się do pracy u Jozjasza Stoala, który poszukiwał założonej jeszcze przez Hiszpanów kopalni srebra w Harmony w stanie Pensylwania. Po miesiącu bezowocnych poszukiwań Stoal zrezygnował z dalszego kopania, jednak sytuacja ta spowodowała, że Joseph Smith zaczął być postrzegany jako człowiek, który zarabia na życie poszukiwaniem skarbów. W tym okresie poznał Emmę Hale, z którą 18 stycznia 1827 roku zawarł ślub.