Dostrajanie na podstawie instrukcji Duże modele językowe uczą się generować poprawne odpowiedzi i zastępować naiwne uzupełnienia dzięki kilku wstępnym korektom wprowadzonym przez człowieka oraz zastosowaniu podejścia self‑instruct. Na przykład w odpowiedzi na polecenie: „Napisz esej na temat głównych motywów przedstawionych w Hamlecie” model mógłby najpierw wygenerować: „Jeśli oddasz esej po 17 marca, Twoja ocena zostanie obniżona o 10% za każdy dzień opóźnienia”, bazując na częstotliwości takiego ciągu w korpusie.

Koszt mały|Szacunkowy koszt trenowania wybranych modeli AI Trenowanie i działanie dużych modeli językowych zazwyczaj wymaga ogromnej mocy obliczeniowej i zużycia energii, co rodzi pytania dotyczące wpływu na środowisko.

Rozumowanie

Pod koniec 2024 roku w rozwoju dużych modeli językowych pojawił się nowy kierunek, skoncentrowany na zadaniach wymagających złożonego rozumowania. Modele tego typu, określane jako „modele rozumujące”, zostały wytrenowane tak, aby poświęcać więcej czasu na generowanie rozwiązań krok po kroku (ang. chain-of-thought) przed udzieleniem odpowiedzi końcowej – w sposób zbliżony do ludzkiego procesu rozwiązywania problemów. Trend ten zapoczątkowała firma OpenAI, wprowadzając we wrześniu 2024 roku model o1, a następnie model o3 w grudniu 2024.