Istota szara Ułożona jest w charakterystyczny kształt litery H, a jej ramiona oddzielone są od siebie przez sznury (należące do istoty białej). Ramię przednie substancji szarej określa się nazwą rogu przedniego (łac. cornu anterius), tylne rogu tylnego (łac. cornu posterius), ponadto w części piersiowej rdzenia występuje jeszcze róg boczny (łac. cornu laterale). Wymienione rogi tworzą na całym rdzeniu słupy istoty szarej – słup przedni (łac. columna anterior), słup tylny (łac. columna posterior) i słup boczny (łac. columna lateralis w odcinku piersiowym). Między rogami znajduje się istota szara pośrednia (łac. substantia grisea intermedia), podzielić ją można na część środkową i boczną. Do części środkowej należy: istota galaretowata środkowa (łac. substantia gelatinosa centralis), która otacza bezpośrednio kanał środkowy, spoidło szare przednie (łac. commissura grisea anterior) leżące przed istotą galaretowatą środkową i spoidło szare tylne (łac. commissura grisea posterior) leżące poza istotą galaretowatą środkową. Część środkowa przechodzi bez żadnej granicy w część boczną, która sąsiaduje od przodu z rogiem przednim, a od tyłu z rogiem tylnym.