W wolnym czasie Sholes zajmował się konstruowaniem nowych urządzeń, opracował m.in. maszynę do mechanicznego adresowania gazet, po czym wraz z przyjacielem Samuelem W. Soulé otrzymali w 1864 roku patent na maszynę do numerowania stron w książkach. Pracujący w tym samym warsztacie mechanik Carlos S. Glidden zasugerował im, by przebudowali urządzenie na maszynę do pisania. Sholes, Glidden i Soulé otrzymali patent na maszynę do pisania 23 czerwca 1868 roku. Przez kolejne pięć lat Sholes opracował kolejne przeróbki, które dały jeszcze dwa patenty. Z powodu problemów ze sfinansowaniem produkcji wynalazku, Sholes poszukiwał zewnętrznych źródeł finansowania. W międzyczasie Soulé i Glidden zrzekli się swoich praw patentowych. Ostatecznie Sholes sprzedał patent w 1873 roku za 12 000 dolarów firmie Remington Arms Company. Sam Sholes do końca życia próbował ulepszać swój wynalazek, pomimo słabego zdrowia w ostatnich latach przed śmiercią. Opracowane z pomocą dwóch synów ulepszenia przekazywał firmie Remington. Ostatni patent Sholes otrzymał w 1878 roku.