Przykładem ataku uniku jest spam graficzny, w którym treść spamu jest osadzona w załączonym obrazku, aby uniknąć analizy tekstu przez filtry antyspamowe.
Ataki uniku można podzielić na dwie różne kategorie: atak czarnej skrzynki i ataki białej skrzynki.
Ekstrakcja modelu Ekstrakcja modelu polega na tym, że przeciwnik analizuję system oparty na uczeniu maszynowym w celu wyodrębnienia danych, na których został on wytrenowany. Może to powodować straty w sytuacji, gdy dane uczące lub sam model są poufne i wrażliwe. Przykładowo, ekstrakcję modelu można wykorzystać do wyodrębnienia zastrzeżonego modelu obrotu akcjami, który przeciwnik mógłby wykorzystać w celu osiągnięcia własnych korzyści finansowych.
W skrajnym przypadku ekstrakcja modelu może doprowadzić do jego kradzieży przez wydobycie z modelu wystarczającej ilości danych, aby umożliwić jego całkowitą rekonstrukcję.
Zobacz też Bezpieczeństwo sztucznej inteligencji
Przypisy
Kategoria:Bezpieczeństwo komputerowe Kategoria:Uczenie maszynowe