Systematyka i zmienność Gatunek zaliczany jest do podrodzaju Isocladus (Lindb.) Braithw. i sekcji Squarrosa (Russow) Schimp.. Sekcja obejmuje średnie i dużych rozmiarów torfowce z główką z okazałym pąkiem wierzchołkowym, z liśćmi łodygowymi odstającymi lub częściowo zwieszonymi, dużymi, językowatymi (±prostokątnymi) i na końcu nieco postrzępionymi. Spośród gatunków europejskich do sekcji należy obok torfowca nastroszonego tylko torfowiec obły S. teres (różnice między nimi zestawiono wyżej w sekcji „Gatunki podobne”) (spoza Europy zaliczane są tu także S. mirum i S. tundrae).
Dawniej rangę form nadawano zmienności wynikającej z warunków siedliskowych: f. spectabile – o silnie odstających końcach listków gałązkowych występująca w miejscach wilgotnych; f. imbricata – o listkach gałązkowych przylegających, tworząca zbite darnie, występująca w miejscach wysychających;