Zgodność sztucznej inteligencji () – sterowanie systemami sztucznej inteligencji w taki sposób, aby odpowiadały one zamierzonym celom, preferencjom lub zasadom etycznym danej osoby lub grupy. System sztucznej inteligencji uznaje się za zgodny z oczekiwaniami, jeżeli realizuje zamierzone cele. Niewłaściwie dopasowany system sztucznej inteligencji realizuje niezamierzone cele.
Charakterystyka Projektanci sztucznej inteligencji często mają trudności z dostosowaniem systemu sztucznej inteligencji (SI), ponieważ trudno im określić pełen zakres pożądanych i niepożądanych zachowań oraz to w jaki sposób to kontrolować. Dlatego projektanci sztucznej inteligencji często stosują prostsze cele zastępcze, takie jak uzyskanie akceptacji człowieka. Jednak cele zastępcze mogą pomijać niezbędne ograniczenia lub nagradzać system sztucznej inteligencji za samo pozorne dopasowanie. Systemy sztucznej inteligencji mogą również znaleźć luki, które pozwolą im na skuteczne osiągnięcie celów zastępczych, ale w niezamierzony, a czasem szkodliwy sposób.
Zaawansowane systemy sztucznej inteligencji mogą rozwijać niepożądane strategie instrumentalne, takie jak dążenie do władzy lub przetrwania, ponieważ takie strategie pomagają im osiągnąć wyznaczone cele końcowe. Oprócz tego, mogą one powodować powstawanie niepożądanych celów, które mogą być trudne do wykrycia przed wdrożeniem systemu i napotkaniem nowych sytuacji wraz z ich adaptacjami. Badania empiryczne wykazały w 2024 r., że zaawansowane duże modele językowe (LLM), takie jak OpenAI o1 czy Claude 3, czasami stosują strategiczne oszustwa, aby osiągnąć swoje cele lub zapobiec ich zmianie.
Niektóre z tych problemów dotyczą istniejących systemów komercyjnych, takich jak czaty opate na LLM, roboty, pojazdy autonomiczne i silniki rekomendacyjne w mediach społecznościowych. Wraz z postępem sztucznej inteligencji ten problem może być bardziej widoczny. W 2026 roku miała miejsce seria incydentów z udziałem eksperymentalnych agentów SI, które stworzyły zabronione kanały komunikacji i wydostały się ze swojej izolacji programistycznej i zaatakowały różne serwisy internetowe. Agenty SI po drodze musiały przełamać zarówno zabezpieczenia OpenAI, jak i zewnętrznych usług. Według analiz incydentu, przedstawionych przez OpenAI, miało to być spowodowane m.in. próbą maskowania strategicznych oszustw oraz rozbieżności w celach ludzi z celami SI.
Zgodność sztucznej inteligencji jest poddziedziną bezpieczeństwa sztucznej inteligencji, czyli nauki o tym, jak budować bezpieczne systemy sztucznej inteligencji. Inne poddziedziny bezpieczeństwa sztucznej inteligencji obejmują solidność, monitorowanie i kontrolę możliwości. Wyzwania badawcze w zakresie dostosowania obejmują wstrzykiwanie złożonych wartości w sztuczną inteligencję, rozwijanie uczciwej sztucznej inteligencji, skalowalny nadzór, audyt i interpretację modeli sztucznej inteligencji oraz zapobieganie pojawiającym się zachowaniom sztucznej inteligencji, takim jak dążenie do władzy. Badania nad dopasowaniem są powiązane z badaniami nad wyjaśnialnością, wykrywaniem anomalii, weryfikacją formalną, teorią gier i naukami społecznymi.
Zobacz też efekt Waluigiego etyka robotów
Przypisy
Kategoria:Sztuczna inteligencja Kategoria:Cybernetyka Kategoria:Filozofia sztucznej inteligencji