The Social Dilemma je americká dokumentárna dráma z roku 2020 režírovaná Jeffom Orlowskim. V dokumente účinkujú bývalí zamestnanci veľkých technologických spoločností a sociálnych sietí, ktorí hovoria o vplyve produktov týchto spoločností na správanie ich používateľov a dopade na spoločnosť. Dej je prekrývaný hranými scénami, ktoré poukazujú na ich tvrdenia. Táto dokumentárna dráma skúma hlboký vplyv sociálnych médií na globálne politické systémy a demokratické procesy a zároveň demonštruje, ako môžu technologické spoločnosti a sociálne platformy zneužívať rozsiahle zbierky údajov o používateľoch. Herci a produkčný tím navyše zvažujú dôsledky a možné riešenia týchto okolností.
Účinkujúci Odpovedajúci na otázky v dokumente:
Tristan Harris Aza Raskin Justin Rosenstein Shoshana Zuboff Jaron Lanier Tim Kendall Rashida Richardson Renée DiResta Lynn Fox Anna Lembke Roger McNamee Catharine O'Neil Alex Roetter Jeff Seibert Bailey Richardson Sandy Parakilas Randy Fernando
Herci: Skyler Gisondo v roli Bena Kara Hayward v roli Cassandri Vincent Kartheiser v roli umelej inteligencie Sophia Hammons v roli Isli Catalina Garayoa v roli Mami Chris Grundy v roli nevlastného otca
Ústredné postavy Medzi ústredné postavy dokumentu patrí Tristan Harris, ktorý je bývalým zamestnancom spoločnosti Google v ktorej pracoval na pozícií etický dizajn (). Počas práce v spoločnosti Google vypracoval prezentáciu s názvom A Call to Minimize Distraction & Respect Users' Attention (), ktorá na 141 snímkach naznačuje, že spoločnosti Google, Apple a Facebook „majú cítiť obrovskú zodpovednosť“ aby ľudstvo nestrávilo celé dni sledovaním svojich smarfónov. Túto prezentáciu videli desiatky tisíc zamestnancov spoločnosti Google a bola predmetom rozhovorov o zodpovednosti tejto spoločnosti aj dlho po odchode Trisana Harrisa z jeho pracovnej pozície. V roku 2020 je Tristan Harris prezidentom a spoluzakladateľom Center for Humane Technology (Centrum pre humánne technológie) ktorého poslaním je zvrátiť zostup ktorému ľudia kvôli technológiám čelia a znovu zosúladiť technológiu s ľudstvom.
Jaron Lanier je americký počítačový odborník, spisovateľ, muzikant a skladateľ. Píše autorské články na rôzne témy vrátane high-tech biznisu, sociálneho dopadu technológií, filozofie vedomia a informácií, internetovej politiky a budúcnosti humanizmu. Okrem iných napísal aj knihu Ten Arguments For Deleting Your Social Media Accounts Right Now ().
Justin Rosenstein je americký podnikateľ a softvérový programátor. Je tiež spoluzakladateľom softvérovej spoločnosti Asana a okrem iného pracoval v spoločnostiach Google a Facebook. V roku 2020 sa vo viacerých oblastiach sústredí na zlepšovanie technológií s dôrazom na etickú spoluprácu medzi ľuďmi.
Aza Raskin je americký podnikateľ, spisovateľ, vynálezca a dizajnér rozhraní (). Jeho otcom bol odborník na rozhranie človek a počítač a tiež iniciátor projektu Macintosh v spoločnosti Apple. Aza Raskin je spoluzakladteľom Center for Humane Technology a Earth Species Project.
Dej dokumentu
Dokument začína predstavením zamestnancov a bývalých zamestnancov technologických spoločností a sociálnych sietí, ktorí okrem iného vysvetľujú, že vytváranie sociálnych sietí a s nimi súvisiacich nástrojov malo dobrý úmysel. Málokto si vedel predstaviť dôsledky, ktoré to bude v priebehu budúceho viacročného obdobia mať. Nejde o „jednu zlú osobu“, ktorá by to mala na svedomí.
Počas celého dokumentu je dej prekrývaný hranými scénami slúžiacimi na ilustráciu tvrdení, o ktorých účastníci interview hovoria, a krátkymi informáciami zo spravodajstiev amerických televízií k danej téme. Dej pokračuje rozprávaním Tristana Harrisa o jeho snahe poukázať na dôležitosť zodpovednosti technologických spoločností prezentáciou, ktorú vytvoril počas práce v spoločnosti Google a rozprávaním ďalších účinkujúcich, ktorí opisujú vývoj technologických spoločností a sociálnych sietí.
Dokument sa tiež snaží poukázať na fakt, že postupom času sa z užívateľov sociálnych sietí stali produkty. Klientmi sociálnych sietí sú zadávatelia reklamy, čo sociálne siete motivuje k tomu, aby vytvárali nástroje, ktoré motivujú užívateľov venovať sociálnym sieťam čo najviac času. Na tieto účely využívajú zber obrovského množstva dát, ktoré v roku 2020 nepodliehajú výraznejšej regulácií. Tým sa vytvoril úplne nový trh, kde je predmetom obchodovania ľudská pozornosť a tým samotný človek. Vďaka tomu technologické spoločnosti so sociálnymi sieťami patria v súčasnosti medzi najbohatšie firmy na svete.
V dokumente je vysvetlené, že každá interakcia, ktorú na internete spravíme, je zaznamenaná a monitorovaná. Na základe nich sú o užívateľoch vytvárané modely, ktoré o nich veľmi veľa vypovedajú, v niektorých prípadoch možno viac, než vie o sebe sám človek. Všetky tieto dáta idú do systémov, ktoré takmer nie sú pod ľudským dohľadom a vytvárajú stále lepšie a lepšie predpovede toho, čo urobíme a kým sme. Tieto spoločnosti dáta o ľuďoch nepredávajú, ale vytvárajú na ich základe modely, ktoré predpovedajú naše činy. Ten, kto má lepší model, dosahuje v danej oblasti lepšie výsledky. V dokumente je vysvetlené fungovanie časti ľudskej mysle a psychológie, ktorá pomáha spoločnostiam manipulovať ľudí, ktorí si prezerajú obsah sociálnych sietí alebo využívajú technológie s nimi spojené. Tvorcovia v dokumente poukazujú aj na to, že medzi negatívne zasiahnuté skupiny patria tínedžeri. To potvrdzujú aj dáta z prieskumov medzi rokmi 2011 a 2013, ktoré dokazujú prudký nárast vyskytujúcich sa depresií, psychických problémov a samovrážd u mládeže. Tieto prieskumy tiež dokazujú, že mladiství žijúci v Spojených štátoch narodení po roku 1996 trávia svoj voľný čas po škole so svojimi zariadeniami, čo ich robí zraniteľnejšími, viac trpia úzkosťami a depresiami, sú menej ochotní vystavovať sa riziku. Výrazne klesá počet tých, ktorí mali rande alebo inú romantickú interakciu, čo predstavuje veľkú zmenu za jednu generáciu a každá hospitalizácia má veľký vplyv na celú rodinu.
Randima Fernando, účinkujúci v dokumente, považuje za pravdepodobne najnebezpečnejší fakt, že celý tento proces riadi technológia, ktorá sa exponencionálne zlepšuje. Od roku cca. 1960 po rok 2020 sa totiž výkonnosť výpočtovej techniky asi bilión krát zvýšila a nič z toho, čo máme, neprešlo v takejto miere zlepšením. Naše mozgy, naša ľudská fyziológia, sa ďalej nevyvinula vôbec. Tristan Harris v dokumente tiež porovnáva ľudský mozog, ktorý má za sebou milión ročné obdobie a obrazovku, na ktorej druhej strane sú tisíce inžinierov a superpočítačov, ktoré majú iné ciele, než sú tie vaše. Pýta sa, kto vyhrá.
Medzi ďalší dôležitý moment dokumentu patrí skutočnosť, že na základe dát, ktoré o nás spomenuté spoločnosti získavajú, vytvárajú každému užívateľovi jeho vlastný „svet“. Sociálne siete, vyhľadávače a iné nástroje na internete, ktoré používame, sú prispôsobené individuálne na každého užívateľa. To vyvoláva v ľuďoch množstvo reakcií, ktoré im vytvárajú pocit, ktorý nevyhovuje užívateľom, ale sociálnym sieťam a technologickým spoločnostiam. Nezobrazuje pravdu, ale obsah, ktorý algoritmus aj na základe našich vstupov určí a snaží sa nás motivovať a manipulovať k tomu, aby sme sa na dané platformy stále vracali, trávili tam čo najviac času a motivovali k tomu aj ostatných ľudí. Toto vytváranie reality na „mieru“ má rôzne dôsledky. Veľmi nebezpečným je osobná a politická polarizácia spoločnosti, ktorá dosiahla v Spojených štátoch za posledné 20 ročné obdobie vrchol. Guillaume Chaslot, ktorý pracoval na systéme odporúčaných videí v internetovej databáze videí YouTube, v dokumente vysvetlil, že algoritmus, na ktorom pracoval zvyšuje polarizáciu spoločnosti, ale z hľadiska času stráveného sledovaním videí dokáže polarizácia veľmi efektívne udržať ľudí na internete. Hovorí tiež o tom, že ľudia si myslia, že algoritmus im má dať to, čo naozaj chcú, ale tak to nie je. Algoritmus sa snaží nájsť pár lákavých zajačích nôr, do ktorých môžete spadnúť, snaží sa zistiť, ktorá z nich je najbližšia vašim záujmom. A keď sa začnete pozerať na jedno z videí, bude vám ich odporúčať stále znovu a znovu.
Kým v roku 2020 dokáže algoritmus presvedčiť menšie množstvo menej inteligentných ľudí napríklad o tom, že Zem je plochá, tým, že sa algoritmus stále zlepšuje, je dôvod predpokladať, že v budúcnosti o nepravdivej informácií presvedčí aj iných ľudí. Preto sa nielen medzi ľuďmi, ktorí sú členmi rovnakých skupín na sociálnych sieťach, dokážu šíriť konšpiračné teórie, dezinformácie a nepravdivé informácie rýchlo a presvedčivo. Podľa štúdie výskumnej univerzity MIT sa na sociálnej sieti Twitter falošné správy šíria 6 krát rýchlejšie než pravdivé správy, čo vytvára výraznú nerovnováhu v negatívnom zmysle. Väčšina ľudí má možnosť vyvinúť väčšie snaženie a vyhľadať si napríklad viac informácií z relevantných zdrojov, ale len málo ľudí to urobí. Používa sa systém, ktorý uprednostňuje falošné informácie, nie preto, že by sme ich chceli, ale preto lebo spoločnostiam zarábajú viac peňazí než pravda. Pravda je v tomto zmysle nudná. Je to obchodný model výnosných dezinformácií. Situácia je už tak vážna, že v súvislosti so šírením pandémie sú na internete dezinformácie, ktoré v najhorších prípadoch môžu spôsobiť smrť.
Zo sociálnej siete Facebook sa postupom času stal podľa Rogera McNameeho najefektívnejší presvedčovací nástroj čo považuje za jeden z problémov tejto sociálnej siete. Cynthia M. Wong z organizácie Human Rights Watch následne v dokumente opisuje situáciu ktorá nastala v Mjanmare, kde je možné pozorovať dôsledky ktoré patria medzi najhoršie zneužitia sociálnych médií vládami a verejnými činiteľmi.
Tristan Harris ďalej v dokumente vysvetlí, že súčasná situácia speje k tomu, že ľudia nebudú dôverovať pravde, budú si myslieť že im vláda nehovorí pravdu, všetky teórie budú považovať za konšpiračné, nebudú si navzájom dôverovať a budú nenávidieť tých, s ktorými nesúhlasia a vznikne obrovský chaos. V dokumente je ďalej vysvetlené, že polarizácia spoločnosti, šírenie dezinformácií a ďalšie možnosti sociálnych sietí zneužívajú politickí predstavitelia a iní verejní činitelia na svoje účely čím priamo ohrozujú demokraciu. Renée DiResta v dokumente hovorí, že čelíme priamemu útoku na demokraciu a Roger McNamee vysvetlí že tieto útoky môžu prísť aj zvonku, čo sa stalo pri voľbách v roku 2016 v Spojených štátoch, keď východný štát zneužil už fungujúce nástroje sociálnej siete Facebook. Tieto nástroje menia a ničia fungovanie spoločnosti v mnohých vyspelých demokraciách na svete. Sila sociálnych sietí umožňuje zasiahnuť do demokracie v danom štáte tým, že keď si zadávateľ nakúpi priestor napríklad na sociálnej sieti Facebook má možnosť získať výrazný dosah na myslenie ľudí, propagovať nepravdivé informácie pre určitú skupinu populácie a tým budovať v ľuďoch nenávisť. V dokumente na negatíva poukazujú aj vysoký politickí predstavitelia Spojených štátov.
Účinkujúci v dokumente ďalej upozorňujú na to, že sociálne siete tým, že zobrazujú každému užívateľovi obsah, ktorý je totožný alebo veľmi podobný jeho vlastným názorom v ňom vyvolávajú falošný pocit že nie je potrebné hľadať spoločné riešenia, stretávať sa s ostatnými a v podstate ani to, aby spolu ľudia rozprávali. Roger McNamee sa tiež snaží vysvetliť, že spoločnosť potrebuje mať spoločné chápanie reality.
O fungovaní umelej inteligencie ďalej hovorí Cathy O'Neil pričom objasňuje že umelá inteligencia nedokáže rozoznať pravdu od klamstva alebo určiť čo je konšpiračná teória pretože A.I nemá nič čo by pravdu zastupovalo lepšie než počet kliknutí. Tristan Harris tieto slová následne potvrdzuje zistením, že keď sa nezhodneme na tom čo je pravda, alebo na tom že niečo také existuje, je s nami koniec. Považuje to tiež za ten najhlavnejší problém, pretože keď sa nezhodneme na pravde, nebudeme môcť vyriešiť žiadne ďalšie problémy.