Атручэнне даных — від , наўмысная падмена даных, што выкарыстоўваюцца для навучання сістэм штучнага інтэлекту, з мэтай спарадзіць памылкі ў працы сістэмы. Часта выклікана выкарыстаннем публічных і ненадзейных даных з адкрытых крыніц.
Існуюць розныя тыпы атручэння даных: Падмена разметкі: замена сапраўднай разметкі для невялікага падмноства даных, напрыклад каб мадэль класіфікацыі распазнавала злачынныя і небяспечныя элементы як бяспечныя. Атручэнне прыкмет: змена прыкмет у даных, каб збіць мадэль. Напрыклад, дадаванне нерэлевантных слоў у апісанне тавару каб заблытаць . Ін’екцыя даных: даданне несапраўдных даных у набор для навучання мадэлі. Напрыклад, фабрыкацыя водгукаў для скажэння вынікаў . Атака праз таемны ход: устаўка сакрэтнага ўзору (таемнага ходу) ў даныя для навучання. Мадэль пачынае паводзіць сябе хібна і небяспечна, калі сутыкаецца з сакрэтным узорам.
Крыніцы
Катэгорыя:Машыннае навучанне Катэгорыя:Інфармацыйная бяспека