Nenadzirano učenje () jest pristup u mašinskom učenju pri kojem algoritam uči obrasce iz podataka bez unaprijed zadanih oznaka ili ciljnih vrijednosti. Cilj mu nije neposredno predviđanje poznatog izlaza, nego otkrivanje strukture podataka, kao što su grupe sličnih primjera, skrivene varijable, raspodjela vjerovatnoće ili prikaz u prostoru manje dimenzionalnosti.

Za razliku od nadziranog učenja, skup za obuku ne sadrži parove ulaznih podataka i poznatih odgovora. Model zato mora pronaći pravilnosti oslanjajući se na osobine i međusobne odnose samih primjera. Nenadzirano učenje obuhvata metode grupiranja, smanjenja dimenzionalnosti, procjene gustine, otkrivanja anomalija i učenja reprezentacija.

Osnovni princip

Neka je skup za obuku sastavljen od primjera , pri čemu za njih nisu poznate ciljne oznake. Algoritam pokušava naučiti model unutrašnje strukture skupa, poput raspodjele , pripadnosti pojedinih primjera grupama ili funkcije koja podatke preslikava u sažetiji prikaz.

Šta predstavlja korisnu strukturu zavisi od zadatka i pretpostavki ugrađenih u algoritam. Dva primjera mogu se smatrati sličnim prema Euklidskoj udaljenosti, gustini podataka, vjerovatnoći da pripadaju istoj raspodjeli ili odnosima među njihovim susjedima. Zbog toga različiti algoritmi na istom skupu mogu pronaći različite, ali matematički opravdane obrasce.

Iako se pri obuci ne koriste oznake, one se ponekad primjenjuju naknadno radi procjene rezultata. Naprimjer, poznate kategorije mogu poslužiti za provjeru odgovaraju li pronađene grupe stvarnim klasama, ali ne učestvuju u postupku učenja.

Glavni zadaci

Grupiranje

Grupiranje ili klasteriranje postupak je raspoređivanja primjera u grupe tako da su članovi iste grupe međusobno sličniji nego članovima drugih grupa. Među najčešćim metodama nalaze se k-sredina, hijerarhijsko grupiranje, DBSCAN i grupiranje zasnovano na Gaussovim mješovitim modelima.

Algoritam k-sredina dijeli podatke na unaprijed određen broj grupa i nastoji umanjiti zbir kvadriranih udaljenosti primjera od središta njihove grupe. Hijerarhijske metode grade stablo grupa njihovim postepenim spajanjem ili razdvajanjem, dok DBSCAN izdvaja područja velike gustine i može označiti izolirane primjere kao šum.

Rezultat grupiranja zavisi od izabrane mjere sličnosti, skaliranja obilježja i pretpostavki o obliku grupa. Stoga pronađene grupe ne moraju odgovarati kategorijama koje bi odredio čovjek.

Smanjenje dimenzionalnosti

Smanjenje dimenzionalnosti pretvara podatke s velikim brojem obilježja u prikaz s manjim brojem varijabli, nastojeći pritom sačuvati njihove najvažnije osobine. Koristi se za vizualizaciju, uklanjanje šuma, sažimanje podataka i pojednostavljivanje kasnijeg učenja.

Analiza glavnih komponenti linearna je metoda koja podatke projicira na međusobno okomite pravce duž kojih je njihova varijansa najveća. Nelinearne metode, poput t-SNE-a i UMAP-a, često se koriste za dvodimenzionalno ili trodimenzionalno prikazivanje složenih skupova podataka. Njihovi prikazi mogu naglasiti lokalne odnose, ali udaljenosti i veličine grupa na dobijenoj karti ne moraju vjerno predstavljati cjelokupnu strukturu izvornog prostora.

Procjena gustine

Procjenom gustine određuje se raspodjela vjerovatnoće iz koje su podaci mogli nastati. Parametarske metode pretpostavljaju određeni oblik raspodjele i uče njene parametre, dok neparametarske metode, poput procjene gustine jezgra, omogućavaju prilagodljiviji oblik modela.

Generativni modeli naučenu raspodjelu mogu koristiti za stvaranje novih primjera. U ovu skupinu ubrajaju se mješoviti modeli, Boltzmannove mašine, varijacijski autoenkoderi i pojedini generativni suparnički modeli.

Otkrivanje anomalija

Kod otkrivanja anomalija traže se primjeri koji znatno odstupaju od većine podataka. Takvi primjeri mogu ukazivati na grešku mjerenja, kvar uređaja, neuobičajenu transakciju ili rijedak događaj. Metode se mogu zasnivati na udaljenosti, lokalnoj gustini, izoliranju primjera ili vjerovatnoći prema naučenom modelu raspodjele.

Odstupanje nije samo po sebi dokaz greške ili neželjenog ponašanja. Primjer može biti neuobičajen zbog stvarne rijetke pojave, pa rezultate algoritma obično treba tumačiti u kontekstu oblasti iz koje podaci potječu.

Učenje reprezentacija

Učenjem reprezentacija model automatski pronalazi obilježja koja sažimaju korisne osobine ulaznih podataka. Autoenkoder se sastoji od kodera, koji ulaz pretvara u unutrašnji prikaz, i dekodera, koji iz tog prikaza pokušava rekonstruirati izvorni ulaz. Ograničavanjem veličine ili drugih osobina unutrašnjeg prikaza model se podstiče da nauči sažetu strukturu podataka.

Naučene reprezentacije mogu se koristiti za vizualizaciju, pronalaženje sličnih primjera ili kao ulaz u nadzirani model. Time nenadzirano učenje može poslužiti kao pripremni korak za druge postupke mašinskog učenja.

Mreže Ova tabela prikazuje dijagrame povezivanja različitih nenadziranih mreža, čije će pojedinosti biti navedene u odjeljku Poređenje mreža. Krugovi predstavljaju neurone, a veze među njima težine povezivanja. Promjenom strukture mreže dodaju se osobine koje omogućavaju nove mogućnosti ili se uklanjaju radi ubrzavanja učenja. Naprimjer, neuroni mogu biti deterministički (Hopfieldova mreža) ili stohastički (Boltzmannova mašina) kako bi izlaz bio otporniji, veze unutar istog sloja uklanjaju se kod ograničene Boltzmannove mašine radi ubrzavanja učenja, a veze mogu postati i asimetrične, kao kod Helmholtzove mašine.

Hopfieldova Boltzmannova OBM Naslagana Boltzmannova

Helmholtzova Autoenkoder VAE

Od mreža nazvanih po ljudima samo je Hopfield neposredno radio s neuronskim mrežama. Boltzmann i Helmholtz djelovali su prije razvoja umjetnih neuronskih mreža, ali su njihovi radovi iz fizike i fiziologije nadahnuli kasnije korištene analitičke metode.

Odnos prema samonadziranom učenju

Samonadzirano učenje također koristi podatke bez ručno dodijeljenih oznaka, ali iz samih podataka stvara pomoćni zadatak s privremenim ciljnim vrijednostima. Jezički model, naprimjer, može učiti predviđanjem izostavljene riječi ili narednog dijela teksta, dok model za slike može rekonstruirati zaklonjeni dio slike.

Samonadzirano učenje često se smatra posebnom vrstom nenadziranog učenja, ali se ta dva izraza mogu razdvajati radi naglašavanja načina obuke. Klasično nenadzirano učenje neposredno modelira strukturu ili raspodjelu podataka, dok samonadzirani postupak oblikuje zadatak predviđanja iz neoznačenih primjera.

Procjena rezultata

Procjena nenadziranih modela teža je nego kod nadziranog učenja jer najčešće ne postoji jedinstven tačan odgovor s kojim bi se rezultat mogao porediti. Kod grupiranja se koriste unutrašnje mjere, poput koeficijenta siluete, koje procjenjuju zbijenost grupa i njihovu međusobnu odvojenost. Kada su poznate vanjske oznake, moguće je koristiti prilagođeni Randov indeks, uzajamnu informaciju i slične mjere.

Modeli smanjenja dimenzionalnosti mogu se procjenjivati prema količini sačuvane varijanse, grešci rekonstrukcije ili očuvanju odnosa među susjednim primjerima. Kod procjene gustine upotrebljavaju se vjerovatnoća podataka i mjere kvaliteta predviđanja na izdvojenom skupu.

Dobra vrijednost određene matematičke mjere ne znači nužno da je rezultat koristan za konkretnu primjenu. Izbor modela zato često uključuje vizuelni pregled, stručno znanje i provjeru ponašanja na kasnijem zadatku.

Primjena

Nenadzirano učenje primjenjuje se u istraživačkoj analizi podataka, segmentaciji slika, grupiranju dokumenata, analizi genskih podataka i pronalaženju obrazaca u zapisima senzora. U sistemima preporučivanja može pomoći pri otkrivanju sličnosti među korisnicima ili proizvodima, dok se u računarskoj sigurnosti koristi za prepoznavanje neuobičajenog mrežnog saobraćaja.

U obradi prirodnog jezika primjenjuje se za učenje prikaza riječi i dokumenata, modeliranje tema i grupiranje tekstova. U računarskom vidu može izdvajati vizuelna obilježja, grupirati slične slike i otkrivati neuobičajene uzorke bez potrebe za ručnim označavanjem svakog primjera.

Ograničenja

Rezultati nenadziranog učenja snažno zavise od odabira obilježja, mjere sličnosti, pretpostavljene raspodjele i parametara algoritma. U podacima može postojati više mogućih struktura, pa algoritam ne može sam odrediti koja od njih najbolje odgovara ljudskom tumačenju ili praktičnom cilju.

Metode su osjetljive i na razlike u mjernim skalama, šum, nedostajuće vrijednosti i velik broj dimenzija. Priprema podataka, poput standardizacije i uklanjanja očiglednih grešaka, može znatno promijeniti rezultat.

Nenadzirani model može otkriti korelacije koje odražavaju društvene pristranosti ili nedostatke izvornog skupa. Pronađene grupe ne treba automatski tumačiti kao prirodne, objektivne ili uzročne kategorije, naročito kada se koriste za donošenje odluka o ljudima.

Također pogledajte

Nadzirano učenje Polunadzirano učenje Samonadzirano učenje Podržano učenje Duboko učenje Rudarenje podataka Analiza podataka

Reference

Kategorija:Mašinsko učenje