Południowo-zachodnia granica biegła od Zalewu Kurońskiego wzdłuż rzeki Dejmy na południe, dalej wzdłuż od Pregoły do Łyny, aż do miejscowości Drużba, a następnie na południe wzdłuż rzeki Oświnki do jeziora Oświn, a stamtąd na wschód do granicy Litwy.
Szerzej rozumiany obszar Litwy Mniejszej obejmuje tereny na zachód od Łyny i na południe od dolnego biegu Pregoły i Półwyspu Sambijskiego.
Wyraźne granice region posiada na odcinkach graniczących z krainami historycznymi: na północy i północnym-wschodzie graniczy ze Żmudzią, a na wschodzie ze Suwalszczyzną. Na pozostałych odcinkach granica Litwy Pruskiej jest zarówno jest płynna, jak i się pokrywa z pozostałymi regionami: na południu graniczy z Mazurami, na południowym zachodzie z Barcją i Natangią, a na zachodzie z Sambią.
Pod względem administracyjnym Mała Litwa obejmuje obszar dawnego okręgu Kłajpedy na terenie Litwy, reszta regionu znajduje się w obwodzie królewieckim i fragmentarycznie na terytorium Polski (Gołdap).