„Sociální sítě znají jen přátelství založená na podobnosti,” říká novomediální teoretička Wendy Chun

Chci začít citací z recenze vaší knihy Updating to Remain the Same (Aktualizovat, ale zůstat stejní): „Wendy Chun píše, jaké to je být v současnosti subjektem“. Kniha vyšla v roce 2016. Změnil se od té doby nějak pocit z bytí v současné mediální krajině?

Čtěte také

„Budoucnost bude patrně hodně pitomá,“ říká kritik technologií Max Read

No teda, je to šílená doba. Mnoho technologických společností a sociálních médií funguje tak, že vás nechají si zvyknout natolik, abyste se v jejich prostředí cítili spokojeně, a pak vám pevnou půdu pod nohama zase vezmou. Změní se, donutí vás se přesunout. Tenhle koloběh se ohromně zrychlil. Řeším to hodně ve své poslední knize Discriminating Data (Datová diskriminace). Co se týče subjektivity, přijde mi fascinující extrémní magnetizace, resp. polarizace lidí. Vaše subjektivita je běžně definovaná prostřednictvím algoritmů. Podle toho, jak s nimi nakládáte, vám pak vracejí částečky vašeho vlastního nitra. Algoritmy vás dají do stejné škatulky s lidmi s podobnými vzorci chování, a pak tyhle často naštvané shluky uživatelů využívají.

Je v tomhle ohledu nějak zajímavý postupující úpadek Twitteru, nyní sociální sítě X? Někteří mají dojem, že možná končí jedna éra otevřených sociálních médií. A čeká nás mnohem víc uzavřených platforem.

Nejsem si jistá, ale co se akademické práce týče, je pád Twitteru možná dobrá věc. Twitter byl jedno z posledních míst, které mělo veřejné API, bránu pro automatizovaný přístup k datům. A akademici tam sbírali data velmi problematickým způsobem. Velké množství výzkumu se stávalo formou dohledu, sledování. Pokud budeme analyzovat nějaká data, nemůžeme používat stejné metody jako sociálně-síťové firmy. Navíc je používáme velmi špatně, protože nemáme srovnatelný přístup k datům jako ony. V naší laboratoři jsme také data shromažďovali a interpretovali je, ale vždycky jsme nad nimi přemýšleli ve vztahu k dalším analytickým metodám. Řešili jsme jejich limity.

A co sociální síť BeReal? Možná to naznačuje určitou touhu nebo návrat po ztracené online autenticitě…

Myslím, že autenticita je v dnešní době zajímavý a přitom problematický termín. Používá se totiž často v souvislosti s nástupem fake news a s příchodem takzvané postpravdivé doby. Problém není jen v tom, co je pravdivé a co ne. V debatách o autenticitě jde spíš to, že nějaké tvrzení vyvolává dojem pravdivosti bez ohledu na fakta. Když se podíváte na volby z roku 2016, říkalo se jim fake news volby nebo volby o autencitiě. A Trump měl obojího na rozdávání. Autenticita, jak jí rozumíme dnes, je často využívána nejen k vytváření naštvaných komunit či bublin, ale také k vyvolávání dojmu pravdivosti. A to se, zdá se, přebíjí fakticitu samotnou.

Stalo se od roku 2016 v tomto ohledu něco zajímavého?

Ano. Třeba co se týče takzvané algoritmické autencitity. Na autenticitě je nejzajímavější, že je údajně jaksi mimo definici. Zároveň je ale poplatná pravidlům. Například, když byla na vrcholu své popularity reality TV, tak si také definovala autenticitu určitým konkrétním způsobem, a to naprosto programaticky, plánovaně. Fascinující mi připadá, že dnes se autenticita různými způsoby stává víc a víc algoritmickou.

Cítím to, když v jedné ze svých prací dělám marketing. Pokud se budu snažit naši značku vykreslovat jako autentičtější, například budu klást důraz na osobní příběh, tak mě bude třeba TikTok algoritmus zobrazovat víc lidem. A mám dojem, že se tímhle způsobem nás internetový svět a internetový byznys proměňují mnohem víc, než třeba před pěti lety.

Čtěte také

Dávat svá videa z války na sociální sítě může být nebezpečné, říká forenzní architekt Eyal Weizman

Rozhodně. Hodně to souvisí s představou důvěry. Je důležité si uvědomit, že v angličtině důvěra a pravda, trust a truth, mají stejný etymologický původ. Podle historiků vědy, jako je Stephen Chaplin a další, jsme až do osmnáctého století neměli koncept vědecké pravdy. Teprve z něj ale vzešla myšlenka, že těm lidem, co tehdy dělali experimenty a vytvářeli teorie, můžete věřit. Od začátku byla touhle důvěrou obdařena jen malá skupinka lidí. Svazek pravdy a důvěry v někoho je velmi moderní věc.

Všiml jsem si taky toho, že k popisování našeho online života používáme víc a víc herní jazyk. Například termín NPC. Ve hrách se jím označují postavy, které neovládá žádný hráč, ale jsou řízené přímo herní mechanikou. Dnes se ale používá také pro názorové oponenty, když o nich chceme říct, že se chovají jako nemyslící stádo. Mluvíme o tom, že internet má „lore“, což je původně slovo označující fiktivní svět a penzum znalostí o něm.

Co je na tom zajímavé je způsob, kterým se vědění, znalost něčeho, obalilo určitými gamifikačními procesy. Jako kdyby to v některých komunitách a oblastech chodilo tak, jako byste v nějaké hře překonávali nějaké stupně, levely. Něco víte, dostanete se dál a otevře se vám něco dalšího. V jiném ohledu mi to připomíná třeba televizní soap opery. V nich byl děj také hodně spletitý a události vzájemně provázané, takže čím víc jste je sledovali, tím víc náznaků a věcí jste chápali. Tyhle seriály vytvořené během zlaté éry amerických kabelovek samozřejmě byly laciné a ztřeštěné, ale zajímavé na nich bylo, jak vás jako diváky za pečlivé sledování odměňovaly. Už v osmdesátých letech o tom psala Mimi White. 

Připomíná mi to Andrewa Tatea, který své sledující také odměňoval za účast na privátním Discordu a cíleně s tím v novomediálním prostředí pracoval.

Rozhodně. Čím víc víte, tím víc dostanete.

Chtěl bych se teď věnovat vaší novější knize Discriminating Data. Hodně zmiňujete termín homofilie, což je představa, že lidé nejlépe a nejraději vyhledávají vztahy se sobě podobnými lidmi. Vy vzestup homofilie jako způsobu uvažování stopujete až do osmdesátých let. Mě by zajímalo, jestli se nějak neproměnila. Jestli třeba není všudypřítomnější, participativnější.

Souhlasím s vámi. Homofilie se poprvé jako termín vynořila, když lidé studovali segregaci amerických obydlí ve čtyřicátých letech a způsoby, kterými tamní lidé uzavírali přátelství. Byl to tehdy čistě popisný termín, jeden z několika typů vztahů –⁠ například heterofile, tedy naopak přitahování protikladů. Co je na tom zajímavé a fascinující, je to, že dnes máte tyto doporučující systémy a algoritmy, které jsou na homofilii kompletně založené. Je to pro ně axiom, naprostý základ, takže na lásce, resp. náklonnosti ke stejnému, stojí všechna taková strojová doporučení. Najednou tím ztrácíte všechny další formy přátelství, připravujete se o další informační cesty, spojení. Všechno, co pak děláte, je zesilování jednoho jediného principu.

Přijde mi ohromně důležité a překvapivé, že význam a vliv homofilie jde daleko za sociální média, algoritmy jejich feedů a tak podobně. V knize ji dáváte do vztahu například s kontroverzní a masivní rekonstrukcí New Yorku z rukou urbanisty Roberta Mosese. Mohla byste to lehce přiblížit?

Jistě. Takže takhle představa, že stejnost vede k propojování lidí, jež je základním axiomem všech sociálních sítí a možná sítí obecně, vychází alespoň jako termín z konkrétní studie. Ta proběhla na konci čtyřicátých let v amerických veřejných rezidenčních domech. Bylo to po druhé světová válce, kdy se Amerika potýkala s krizí bydlení. Rozhodovalo se tehdy, jestli se bude stavět víc veřejného bydlení, nebo zda se budou spíš financovat soukromé hypotéky. Samozřejmě to skončilo u hypoték, což vedlo k obrovskému nárůstu nerovnosti v bohatství. Tu můžeme ve Spojených státech pozorovat mezi bělochy a afroameričany dodnes. Sama o sobě má dlouhou historii, kořeny, které souvisí s redliningem a dalšími rasistickými praktikami. V zásadě na hypotéky tehdy dosáhli jen běloši.

Čtěte také

Potřebujeme nové způsoby boje proti koloniální nespravedlnosti, říká teoretička Denise Ferreira da Silva

Během toho proběhla zmíněná studie, jejíž autoři a autorky se věnovali dvěma veřejným obytným objektům. Jeden byl čistě bělošský družstevní komplex v New Jersey, druhý rasově napůl rozdělený v Pittsburghu. Výzkumnice Liza Shelton Merton chtěla pochopit, jak se v takové situaci formují přátelství a jak s tím souvisí sociální inženýrství. Její otázka zněla: mohou takové bytové komplexy vytvářet demokratické občany? A jaký druh sociálního inženýrství a demokratické participace k tomu vede? Už od počátku tyto komplexy výzkumníci otevřeně viděli jako místa, kde je v pořádku dělat sociální inženýrství. Víc to rozebírám v knize, ale jejich studie měla spoustu chyb a bylo v ní vynecháno obrovské množství dat. Právě z ní ale koncept homofilie, lásky ve stejnosti, vzešel. A stal se základem, na kterém vznikla spousta dalších věcí.  

Když se rozhlédneme po aktuální krajině nových médií, mohli bychom se taky kriticky ptát, jakou ideologií jsou prostoupena –⁠ a jestli to není například ideologie kybernetiky, která s sebou nese představy o efektivitě, optimalizaci společnosti, počitatelnosti, předvídatelnosti. Nesouvisí homofilie trochu s takovou snahou náš sociální život analyzovat a usměrňovat?

Zajímavé je, že vzniká spoustu prací, které se věnují alternativním formám optimalizace a ptají se, co vlastně optimalizací myslíme. Na vaši otázku jde odpovědět několika způsoby. Zaprvé, dějiny výpočetní vědy dvacátého století jsou hodně zvláštním způsobem prostoupeny americkými koncepty i strukturou vědění. Myslím tím Von Neumannovu architekturu a taky různé myšlenky z teorie her, se kterými Von Neumann a Oskar Morgenstern přišli a jež jsou pro analýzu sítí zásadní. Ale týká se to i skutečnosti, že se byrokratické struktury padesátých let dvacátého století zdají být zásadní pro vznik třeba samotného myšlenkového rámce, který vedl k počátkům výzkumu umělé inteligence. Tomu se věnuje Stephanie Dick a další historici a historičky vědy. Ti říkají, že pokud chceme pochopit umělou inteligenci, musíme se podívat na byrokratické procesy, jež začaly za studené války a daly vznik způsobům přemýšlení, které poháněly rozvoj výpočetní techniky. 

Když se ale díváme do minulosti, není to proto, abychom si mohli říct: dobře, takhle se to stalo a muselo to tak být. Nejde o to hledat, jak něco podmiňuje něco dalšího, ale za jaké situace, v jakém kontextu se něco stalo. Například homofilie jako koncept vznikla v situaci, kdy bylo bez problémů přípustné provádět sociální inženýrství. Konkrétně v bytovém komplexu, kde probíhal v zásadě masivní dohled, živený dost nesamozřejmou představou, že samotné procesy formování přátelství je potřeba systematicky sledovat. Jen v takovém kontextu vůbec mohly být výsledky takové studie publikovány. A právě tyto souvislosti musíme zkoumat a přemýšlet o nich.

Nejsme v takové sociálně-inženýrské situaci stále?

Rozhodně. Je zjevné, že sociální média jsou zcela nestydatě plná sociálního inženýrství. Vezměte si třeba analýzu sentimentu, například emočního zabarvení příspěvků, která přímo vychází z technik dohledu nad zaměstnanci z počátku dvacátého století. Nebo fakt, že se z nás stávají vzorky pro statistickou analýzu, a způsoby, jakými k tomu dochází. Není to něco, co je potřeba příliš objevovat –⁠ vždyť technologické společnosti svá sídla nazývají kampusy po vzoru univerzit. Mají to být místa k experimentování. Sociální inženýrství je zkrátka podmínkou existence sociálních médií.

Myslíte to tak, že to bylo nevyhnutelné, jakmile jsme dali praxi sociálních sítí dohromady s ideou homofilie?

Totéž platí, co se týče dohledu. Dohledový systém jsme nemuseli postavit zrovna takhle. Ale jakmile se dohled stal tak pevnou součástí našeho současného kontextu, pak důsledky byly nevyhnutelné.

Čtěte také

Hrozí nám západní intelektuální kolonizace, říká teoretik digitální kultury Lev Manovich

Myslíte, že kdyby devadesátá léta proběhla jinak, nemuselo by to tak dopadnout?

Ano. Sice jsme shromažďovali, ukládali hodně věcí, ale ještě jsme neměli to pnutí ukládat úplně všechno, i to, co je pomíjivé. Byla to doba dost jiného druhu sociálního experimentování. Ale mám za to, že s příchodem širokého státního dohledu se to změnilo.

Je nějaká událost, která je pro tento zlom symbolická? Napadá mě třeba počátek takzvané války proti teroru po 11. září.

Je to několik věcí. Souvisí to například s komercializací internetu v devadesátých letech v USA a s rozvojem internetové pornografie. Lidé tehdy měli pocit, že internet je neregulovatelný. Můžeme o tom ale přemýšlet i skrze normalizaci takových věcí, jako je praxe indexování u internetových vyhledávačů. Protože vyhledávací mechanismy, které indexování prováděly, vlastně nic nevyhledávaly, ale jen vytvářely databázi všeho, co byste mohli chtít hledat vy. Na fundamentálnější úrovni to souvisí s určitými představami o vyhledávání jako takovém, o navigovatelnosti kyberprostorem. Zdá se nám samozřejmé, že je třeba vše ukládat do mezipaměti. Je samozřejmé, že je třeba vše uchovávat.

Když se zamyslím nad možnou protiváhou homofilie, v minulém století by to byla demokratická kavárna, kde by podle vzoru Jurgena Habermase probíhala otevřená výměna názorů mezi různými částmi a třídami společnosti. Když na chvíli zapomeneme, že takový ideál nikdy neexistoval a asi ani nemohl, jak by vypadal dnes?

Mně osobně nejvíc zajímá něco, čemu říkám život v lhostejnosti. Nejlepším příkladem je veřejná doprava. Neustále jezdím autobusem, a abych byla vůbec schopná autobusem jet, spousty věcí si nesmím všímat, ale zároveň musím stále dávat pozor na lidi okolo mě a podobně. Můžu si sednout tam, kde seděl někdo jiný, dotknout se místa, kterého se dotýkala něčí ruka, a podobně – setkávám se s jinými, vystupuji ze svého soukromého prostoru.

Myšlenka o diskuzích v kavárně je samozřejmě idylická. I za Habermasova života se ale uskutečnila nanejvýš na pár chvilek.  Mnohem zajímavější mi připadá promýšlet způsoby našeho bytí ve veřejném prostoru. Jaké jsou vůbec podmínky jeho existence? Protože naše každodenní zkušenost není o homofili. A přesto se do ní homofilie zase pokradmu vrací. Tedy, záleží na tom, kde bydlíte... Ve Spojených státech a Kanadě máme extrémní segregaci, do níž homofilie promlouvá. Když si čtěte nějaké učebnice o analýze sociálních médií a analýze sítí, tak v kapitole o homofili vám obvykle tvrdí, že když se projdete po jakémkoliv americkém městě, vidíte tam údajně přirozené vzory rasové segregace. Přitom na nich nic přirozeného není. Souvisí totiž se zákony, příjmovými nerovnostmi a dalšími věcmi. 

Takže jedním z nástrojů v našem areználu je offline tělesná zkušenost.

Naprosto. Stačí třeba jen přemýšlet, co vše se děje, když se pohybujeme nějakým prostorem.

V paměti mi utkvěla pasáž z vaší knihy Updating to Remain the Same: „Překonaná média zůstávají v našich tělech.“ Můžete trochu víc přiblížit, jak nad vztahem těla a médií přemýšlíte?

Je to fascinující otázka. Chci se nejdřív vrátit na začátek naší konverzace, ke zvyku, zvykovému používání nějakých médií a podobně. Důležité je, že zvyk není úplně náš, zcela ho neovládáme. Ukazuje, že jsme ohromně plastičtí. Zvykové chování se učíme od ostatních a teprve pak se stává naší součástí a identifikujeme se s ním. Když nějaký zvyk zvnitřňujeme, tak bereme něco, co je vně nás, a pak to používáme, jako kdyby to bylo naše.

Nevím jestli se v Česku nějak ve velkém rozmohl telefon Blackberry, ale přestože ho měli zejména manažeři, byl to první typ skutečně návykového telefonu. Spolu s jeho úspěchem se objevily „fantomové vibrace“, pocit, že telefon vibruje, i když tomu tak není. Řada uživatelů a uživatelek mobilů takové vibrace stále zažívá. Takže Blackberry jsou pryč, ale fantomové vibrace zůstávají. Sociální síť Friendster už dávno zavřeli, ale představa, že na internetu navazujeme přátelství, přetrvává.

Stará média tak žijí dál nikoli v podobě konkrétních vlastností, ale jako předpoklady, očekávání. A ta se nemusí týkat jen tělesných interakcí. Sice už nemáme skeumorfický design, který se snažil napodobovat fyzické předměty, ale stále obrazovce říkáme anglicky „screen“, plátno. Tělo je v mnoha ohledech velmi zajímavý archiv.

Čtěte také

„Nepodřizujeme se potřebám našich technologií příliš?“ ptá se antropoložka Lucy Suchman

Čemu se vlastně věnujete aktuálně?

Několika věcem. Dívala jsem se na analýzu sentimentu a její historii. Zajímá mě ve vztahu k dohledu nad pracujícími, tak třeba v kontextu internovaných japonských Američanů za druhé světové války. Zaměřuji se na způsoby, kterými se analýza sentimentu používá k ospravedlňování určitých dalších forem dohledu. Ve vztahu k vaší otázce jsem dost přemýšlela, kdo je vlastně subjektem nových médií. Takzvaná interpelace s tím má podle mě společného o dost méně, než si myslíme. Interpelace označuje moment, kdy vás někdo nebo něco osloví „hej, ty“, vy se otočíte a tím si vytvoříte určitou pozici. Subjekt sociálních médií vás ale mnohem spíš osloví neodbytným a plazivým „jak se máš?“, „jak se máš?“, „jak se máš?“. Děje se to skrze analýzu sentimentu, prostřednictvím systémů na rozpoznávání emocí. A dokonce i odpovědi, jež dostanete z velkých jazykových modelů jako je Chat GPT, pokud je podrobíte analýze sentimentu, bývají často velmi pozitivní.

Je ve vztahu k homofilii, nebo jiným tématům, o nichž jsme mluvili, něco zajímavého na aktuální AI vlně, komercializaci strojového učení a tak podobně?

Evropská unie rychlý rozvoj velkých jazykových modelů a strojového učení zabrzdila z dobrých důvodů. V zásadě to je celé postavené na spoustě ukradeného duševního vlastnictví, že? V základu AI je totiž myšlenka, že můžete scrapovat, strojově sbírat a ukládat všechno. To je zneklidňující, a proto je dobré promýšlet, co takhle lze nebo nelze využívat. Zajímavé je ale ještě něco jiného. Většinou se má za to, že na těchto jazykových modelech je skvělé, že jsou generativní – tedy že vám mohou dát něco, co byste čekali, ale trošku jinak, než už to existuje. Jenže stavějí jen na základě existujících trénovacích dat. Opakují tedy minulost, a to v nějaké formě, kterou rozpoznáváme proto, že vychází z něčeho, co už tu máme. A to je velký limit jejich generativnosti.

Zároveň máme zejména v akademickém světě, v USA a Kanadě, krizi: protože studenti jazykové modely používají, hledají si přes ně odpovědi. Řeší se, co s tím uděláme. Podle mě je třeba dobré využívat takové modely při učení kritického myšlení. Pokud jste si někdy s jazykovými modely hráli, víte, že vytváří předvídatelné, ale trošku potrhlé odpovědi. Studenty a studentky můžete nechat se jimi prohrabat a ptát se, proč model odpověděl zrovna takto, z čeho vycházel, co předpokládal. Taky můžete zkusit se studenty a studentkami vytvořit jinou odpověď, jež by byla skutečně nepředvídatelná. Mám za to, že je to velmi zajímavý způsob, jak se dostat ke kriticko-teoretickému uvažování. V mnoha ohledech tyto modely používáme k popisování globální změny klimatu. Dávají nám budoucnost na základě minulosti, abychom budoucnost mohli změnit. A přesně tak bychom o AI měli přemýšlet.

Zároveň mám ale pocit, že na subjektivní urovni se taky dějí zajímavé věci. Psát do Googlu nebo se ptát OpenAI jsou dvě dost odlišné věci. Stejně tak je rozdíl, když se vás ptá facebooková homepage nebo jeho chatbot. Případně si vezměte aplikaci Replica a jejího AI společníka nebo společnici.

Čtěte také

„Stavíme digitální chudobince, algoritmy ničí náš vztah k potřebným,“ říká politoložka Eubanks

Ano, a velká část těchto rozdílů vychází ze struktury interview. Proto je to osobní. Interview jako metoda se objevuje jak během rozvoje dohledu nad zaměstnanci, tak v tom má prsty taky psychoanalýza a způsob vytváření znalostí z dvacátého století celkově. Takže myslím, že otázka formy těchto nástrojů je naprosto klíčová. A chatboti nebo nástroje jako ChatGPT 3 a 4 jsou právě proto tak atraktivní. I když si od nich čteme něco, co jsme tak nějak čekali, tak protože se tak děje skrze odpovědi a otázky, obousměrně tam a zpátky, působí to to určitým způsobem spontánně.

Se strojovým učením souvisí i prediktivní analýzy využívané např. v policejní práci. Když si čtu o firmách jako je Palantir a jeho předpovídání zločinů, o algoritmech, které vytipovávají problematické čtvrti nebo možné pachatele, přemýšlím přitom o Tomu Cruisovi a filmu Minority Report. Když jsem ho před 15 lety viděl, přišlo mi to jako znepokojivá fantazie. A dnes to vypadá až příliš jako současnost.

Rozhodně. A víte, že Minority Report vychází z povídky Philipa K. Dicka, stejně jako Bladerunner? Kyberprostor máme od Williama Gibsona a Metaverzum od Neila Stephensona. Takže myslím, že sci-fi bylo pro kulturu Silicon Valley ohromně důležité. Nakonec i Donna Haraway mluví o teorii kyborgů. Frederic Jameson prohlásil, že sci-fi není o budoucnosti, ale o současnosti. O tom, jak si budoucnost vlastně neumíme představit. A pokud to je pravda, je fascinující, jak se naše neschopnost představit si budoucnost přesto stala plánem pro její uskutečnění.

Překlápění sci-fi do něčeho, co skutečně existuje, se zdá naprosto jednoznačně ukazovat, že nedokážeme přemýšlet o utopické budoucnosti mimo zaběhlé koleje. Stále znovu zakoušíme a předěláváme věci z osmdesátých let. Což dává úplný smysl, protože co děláme, je, že přebíráme předpovědi o budoucnosti, které ale ve skutečnosti byly o současnosti. Takže paradoxně místo toho stále znovu prožíváme minulost.

Může nás AI naučit kritickému myšlení? Proč sociální sítě oslovují své uživatele vlezlou formulací „jak se máš“? Vedou vize budoucnosti k tomu, že znovu prožíváme minulost? Poslechněte si celý rozhovor.