Newsletter, o který si tolik píšete, se vrátil do pravidelného rytmu, zase chodí denně ráno v šest.

Lanierovo inferno

Počítačový vědec a průkopník virtuální reality Jaron Lanier se svými hlubokými znalostmi oboru vykreslil hrůzný příběh sociálních sítí jako prostředku manipulace, co obrací člověka proti člověku, a reklama je ten nestoudný šašek, který toho netvora krmí, píše James Swift.

Lanierovo inferno. Ilustrace. Pat Perry, Contagious

Lanierovo inferno. Ilustrace. Pat Perry, Contagious

Jaron Lanier nevede válku s reklamou, vyjadřuje se však velmi kriticky zejména o jednom konkrétním aspektu naší branže, o němž si myslí, že šíří nemoc, kterou trpí celý svět. Jde o mašinerii, neboť takto lze volně označit sociální média. Lanier si předsevzal, že lidstvo přesvědčí, aby se sociálních sítí – v zájmu zachování zdravého rozumu a společnosti obecně – vzdali.

Lanier tvrdí, že Facebook, Twitter a spol. jsou navržené v takovém duchu, aby v lidech vzbudily závislost a připravily je na příjem sdělení, která mají změnit jejich chování. Dokonce ani nechce označovat ty, kteří využívají sociálních médií pro propagaci svých produktů a služeb, za inzerenty. Místo toho je nazývá manipulátory. „Reklama je něco, co vám cosi sděluje; a vy na to vzápětí reagujete,“ tvrdí Lanier. Podle něho cokoliv, co vám něco sdělí, změří vaši reakci a podle ní upraví sdělení, někdy i opakovaně (tomu se říká feedback loop), aby dosáhlo žádoucí změny chování, „už není reklama, ale manipulace“.

Možná s ním nesouhlasíte, ale měli byste ho vyslechnout. Lanier není žádný amatér, co šíří paniku. Je veteránem Silicon Valley, uznávaným počítačovým vědcem, a je považován za zakladatele virtuální reality. A trefuje se do reklamního průmyslu v místě, kde to bolí nejvíc.

Sociální laboratoř

Lanier napsal knihu Ten Arguments for Deleting Your Social Media Accounts Right Now (Deset důvodů, proč byste měli okamžitě smazat svoje účty na sociálních sítích), jež varuje před nebezpečím sociálních médií. Z pohledů těchto platforem nemohla kniha vyjít v horší dobu. Provalily se skandály Cambridge Analytica a ruských tajných služeb, které údajně manipulovaly přes Facebook volby v západních zemích; navíc přibývá vědeckých důkazů o tom, že sociální sítě škodí při vývoji dítěte.

V jedné americké studii, publikované na konci roku 2017, autoři tvrdí, že oblíbenost v online prostředí, respektive její nedostatek, může mladé lidi dohnat až k sebevraždě. V Británii nadace 5Rights Foundations vydala v červnu 2018 zprávu Disrupted Childhood, v níž označila exploatativní vztah technologií k dětem za „riziko pro veřejné zdraví“.

Lanier však nebrojí proti sociálním médiím jako takovým; uznává, že se dají efektivně využít pro dobrou věc. Vymezuje se ale proti business modelu, který stojí na engagementu a maximálním vlivu na uživatele jen proto, aby přinesl inzerentům vyšší zisky.

Tento model nazval Bummer (Behaviour of Users Modified and Made into an Empire for Rent, neboli „měníme chování uživatelů, abychom vybudovali impérium, které vám pak za peníze pronajmeme“).

Už jste se pravděpodobně s některými jeho názory setkali, ale Lanier je nedávno ve své londýnské přednášce na akci How To: Academy šikovně vykreslil v ještě hororovějších barvách. Přirovnal technologické firmy k behaviorálním vědcům staré školy, jako byli například Burrhus Frederic Skinner a Ivan Pavlov, kteří zacházeli se zvířaty jako s neživými objekty a kontrolovali jejich chování pomocí stimulů a zpětnovazebních mechanismů.

Lanier tvrdí, že sociální sítě jsou také postaveny na metodě stimul-zpětná vazba, směřují však k tomu, aby stimulovaly engagement a ovládaly lidi, a proto cíleně upravují to, co uživatelé vidí a čtou. S ironickým obdivem se vyjádřil o vědcích pracujících pro Facebook, kteří v roce 2014 zveřejnili, že manipulací se zprávami na této sociální síti dosáhli toho, že uživatele (bez jejich vědomí a souhlasu) rozesmutnili.

Lanier přirovnává sociální média k hazardu; stejně jako gambling drží sociální sítě lidi ve své pasti tím, že je odměňují nepravidelně a nepředvídatelně.

„V mozku je funkce, která vyhledává vzorce,“ vysvětluje Lanier. „Hledá a hledá, a dokud nenajde vzorec, nepustí vás od toho. Takhle to funguje u gamblerů; myslí si, že vidí nějaký vzorec, který tam není.“

„Sociální sítě účinkují na úplně stejném základě. Místo výhry v automatu vám ale nabízejí ten ‚hezký sociální‘ pocit, když váš příspěvek někdo sdílí, nebo když se dokonce virálně šíří – jako by vám to dodávalo nějakou váhu. Ale tyto okamžiky střídají dlouhé časové úseky, kdy máte pocit, že vás ostatní ignorují nebo obtěžují.“

Když jsou mechanismy hazardu a sociálních médií stejné, dopadají stejně i následky pro jejich závislé oběti.

„Závislí lidé si většinou vypěstují určitou poruchu osobnosti,“ vysvětluje Lanier. „Hlavně díky tomu, že věnují více času cyklu závislosti než realitě mimo něj. Někdy jsou zahledění sami do sebe a mohou se chovat necitlivě vůči lidem kolem sebe. Téměř vždy se ale cítí – podle svých vlastních slov – méně šťastní.“ 

Strach a hnus

Podle Laniera sociální sítě v lidech pěstují nejen závislost, ale i temné a zlé chování. Laniera vždy zajímalo, proč sociální média budí v lidech více negativních než pozitivních pocitů. Pokud, jak se píše ve vědeckých studiích, vyznívají odměny a tresty stejně přesvědčivě, neměl by pro to být žádný důvod.

Lanier se domnívá, že má srozumitelnou teorii, jež tento nepoměr vysvětluje: negativní emoce vznikají „ochotněji“ a drží se v nás déle než pozitivní. Strach a zlobu v nás lze probudit celkem rychle, ale než vznikne uvolnění a důvěra, trvá to delší dobu. Sociální sítě fungují na algoritmech, preferujících krátkodobé výsledky a cíle, a proto jsou předurčeny k negativitě.

„Sampling [algoritmický, na sociálních platformách] probíhá natolik bleskově, že lépe zachytí rychle vznikající emoce,“ vysvětluje Lanier. „Ukáže vám to reklamu v konkrétním fontu, poté co jste zhlédli konkrétní video, a už to měří vaši reakci: kliknete nebo ne?“

Lanier toto dokládá na příkladu: „Iniciativu Black Lives Matter nejdříve lidé přijímali dobře. Ale algoritmy ji začaly využívat k vyhledávání lidí, kteří na ni reagovali. A reagovali přirozeně spíše lidé, jimž ležela v žaludku, síť je propojila, vznikla smyčka s pozitivní zpětnou vazbou a ti lidé byli víc a víc popuzení, až to vedlo k znovuvzkříšení neonacistických tendencí v měřítku, které tu nebylo celé generace.“

Něco se pokazilo

A proč je tato „bummer“ mašinerie podle Laniera věru zákeřná? Její efekt je statistický, například jako globální změna klimatu. Nemůžete nikdy říci, že tuto konkrétní bouřku způsobila globální změna klimatu, ale je jisté, že s jeho přispěním vznikne obecně více bouřek.

„Když reklama na Facebooku působí efektivně, obvykle se to děje proto, že je obecně efektivní napříč populací,“ komentuje Jaron Lanier. „Většinou nemůžete ukázat na jednoho člověka a říct, že na něj sociální média účinkují tak a tak.“

„Což ale neznamená, že tyto mechanismy nejsou velmi mocné. Rád to vysvětluji pomocí metafory složeného úroku,“ pokračuje Lanier. „I nízký složený úrok, konzistentně uplatňovaný po dlouhou dobu, může vynést spoustu peněz. A obdobně i malé a předvídatelné změny ve společnosti, pokud k nim dochází soustavně a dlouhodobě, mohou otočit volby a společnost změnit.“

Přitom to tak nemuselo být. Platformy sociálních sítí nebyly předurčeny k tomu, aby se staly „bummery“. Jsou produktem dvou velmi silných, ale protichůdných filosofií technokomunity kolem Silicon Valley z doby na přelomu století.

„Digitální kultura intenzivně politicky směřovala k otevřenosti a svobodě,“ vzpomíná Jaron Lanier. „Zastánci tohoto směru měli čisté srdce; byli to ryzí a chytří lidé. Ale problém znamenal fakt, že jejich ideál se neukázal sám o sobě životaschopným.“

„Potom přišel druhý ideál: adorace technologických supermozků – hackerů a podnikatelů. Mysleli jsme si, že potřebujeme tyhle fantastické superhrdiny, kteří budou dělat úžasné startupy.“

„Příjmy založené na reklamě byly jediným modelem, který umožnil sloučit oba principy – tedy alespoň zkraje se zdálo, že to bude pokojné soužití,“ říká Lanier.

„Takový způsob fungování nebyl neškodný, ale vypadalo to tak, protože zpočátku byl relativně neefektivní. Dle Moorova zákona se ale rapidně zlepšoval a brzy se dostal do bodu, kdy jsme měli dostatečné objemy dat pro programy strojového učení, aby mohly na určité úrovni účinkovat. To, co začalo jako reklama, se transformovalo na něco, co se dá s klidem označit jako ‚masové sledování uživatelů spojené se smyčkou měnící chování‘.“

Mafie na síti

Inzerenti propadli „bummer“ modelu stejně jako uživatelé. Jaron Lanier vzpomíná, jak to chodilo na uzavřených akcích, kde technologické společnosti prodávaly své algoritmy inzerentům.

Nechyběla ani taneční čísla jako na Broadwayi. Lanier si vysloveně pamatuje, jak jeden zástupce pitchoval: „Máme tu moc zařídit, aby lidé dělali, co chceme.“ Ale to není jediné, co si pamatuje. Bylo tam ještě cítit něco „mezi řádky“. Společnosti provozující sociální sítě podle Laniera na brandy tlačily: „Dejte nám peníze, nebo skončíte. Když nebudete vidět na naší platformě, nikdo o vás nebude vědět.“

Lanierovi to připomnělo staré dobré výpalné, proto se nyní nezdráhá provozovatele sociálních sítí označovat jako „existenciální mafii“. Ale pokud jeho varování ohledně „bummerů“ začnou lidé brát vážně a domáhat se vysvětlení, inzerentům asi nepostačí obhajoba, že byli do své role dotlačeni.

Lidé, kteří mají zkušenosti s kampaněmi na sociálních sítích, mohou brát zkazky o zákulisních machinacích jako poněkud přehnané. Ale reklama a manipulace mají dlouhodobé „vztahové problémy“.

V padesátých letech minulého století existovala vědecká disciplína s názvem výzkum motivace (motivational research). Její proponenti tvrdili, že se jim podařilo dekódovat podvědomé impulzy, nutící lidi ke koupi. A s úspěchem – tedy do doby, kdy se o tom dozvěděla veřejnost, a pranic se jí to nelíbilo. Aby si zachránila kůži, musela se reklamní branže stáhnout z vědeckého zkoumání přesvědčovacích taktik.

Mnohé z toho, co tvrdil výzkum motivace, bylo přehnané; ale to nevadilo. Lidé netolerují pochybné či pololegální praktiky v reklamě; účel nikdy nesvětí prostředky.

Možná to tak nevypadá, ale ve vší té dystopii objevíme i pozitivní moment. Jelikož se reklamní průmysl musel vzdát vědeckého zkoumání motivace, vedlo to k tomu, že svoji energii začal směřovat do umění. Vznikla tím kreativní revoluce a s ní přišly osobnosti a kampaně, jež se dnes oslavují jako legendy oboru.

Když se Lanierovi podaří přesvědčit veřejnost, aby se bránila proti sledování na síti a „optimalizaci“ reklam, možná to bude to nejlepší, co se reklamě mohlo stát za více než půlstoletí.

Převzato z české edice magazínu Contagious

Have you got it yet? 

Contagious je platforma, která značkám a agenturám pomáhá dosáhnout toho nejlepšího v komerční kreativitě

Contagious