Od XIII/XIV wieku do roku 1795 wieś należała do Wielkiego Księstwa Litewskiego i wówczas dawne tereny jaćwieskie zasiedliła ludność wywodząca się z ziem Wielkiego Księstwa Litewskiego, najprawdopodobniej z okolic Grodna. Według badań etnograficznych przeprowadzonych w 1907 r. Jatwieź Dużą zamieszkiwali białoruskojęzyczni katolicy. Fakt ten potwierdziły kolejne badania dialektologiczne z 1955 r. Jednakże mieszkańcy wsi jak i jej okolic nigdy nie wykształcili białoruskiej odrębności narodowej, przyjąwszy polską świadomość narodową. Obecnie białoruską gwarę mieszkańców Jatwiezi Dużej, niegdyś nazywaną przez nich samych językiem prostym, uznać należy za wymarłą bądź pozostającą na granicy wymarcia, gdyż umiejętność posługiwania się nią ograniczona jest do niewielkiej, najwyżej kilkunastoosobowej grupy osób w podeszłym wieku i nie jest ona przekazywana młodszym pokoleniom
Historyczna nazwa wsi to Jatwieź Wielka, zaś współczesna nazwa Jatwieź Duża, wprowadzona po 1995 r., jest spolonizowaną odmianą jej historycznego nazewnictwa.
W 2021 Adolf i Janina Kiszło i ich córka Marianna z Jatwiezi Dużej koło Suchowoli otrzymali pośmiertnie odznaczenia "Sprawiedliwy wśród Narodów Świata" za pomoc osobom narodowości żydowskiej.