Umělá inteligence není golem. Neopakujme chyby z debaty o Facebooku

Nástup umělé inteligence připomíná úsvit sociálních sítí – pouze se to celé děje rychleji a tušíme ještě dalekosáhlejší dopady. Debata tomu odpovídá a přináší skutečně hodně nového. Vznikají otevřené dopisy s požadavkem na zastavení vývoje i návrhy na bombardování datových center. Něco však zůstává stejné jako před dekádou. Nové téma s velkým T vábí technologické mudrlanty, kteří zvěstují příchod spasitele, nebo naopak apokalypsu. Právě někdejší debata o sociálních sítích by nás před nimi měla varovat.

Nové technologie nás ovládají jako loutky. Jedná se o monstra s tisíci chapadel, která využívají našich kognitivních slabin, s nimiž ovšem nic neuděláme – naše mozky tak zkrátka fungují od pravěku. Tohle ve zkratce říká populární dokument Sociální dilema. Vznikl pro Netflix a ukazuje nebezpečí sociálních sítí, z jejichž dezinformačních osidel vysvobodí hlavního hrdinu až dobří policisté. Jeden z hlavních vystupujících, napravený hříšník z Googlu Tristan Harris, teď svůj hit zopakoval. Ve svém AI dilema ještě trochu přitvrdil. Umělá inteligence vykresluje armádu golemů, který lidstvo dovede ke zkáze.

Harris není zdaleka sám, kdo upozorňuje na hrozbu katastrofy. Potřebujeme proto rychle adekvátní regulace. Metaforou židovských mystických postav však kvůli tomu šermovat nemusíme. Odhlédněme od toho, že není úplně šťastné hrozit tak-trochu-židovskou nadvládou. Harris dělá to, co sám kritizoval, když byl ještě odborník pouze na sociální sítě. Kritizoval, připomíná Techdirt, že vyhrávají nejvíc ukřičení, co využívají nejvíc morálně pobuřující jazyk. Teď s oporou v pochybně poskládaných zdrojích hovoří o armádě golemů. Vytváří představu technologie jako něčeho docela lidského, zároveň děsivého. Vyvolává až iracionální paniku.

Technologičtí mudrlanti takhle postupovali vždycky. Říkají něco ve smyslu: podílel jsem se v Silicon Valley na něčem extrémně důležitém, teď mám ještě důležitější misi – přináším varování. Stejnou dynamiku můžeme stopovat i v otevřených dopisech, které volají po zpomalení vývoje umělé inteligence. Na jedné straně věřím dobrým úmyslům řady podepsaných, u některých mám ale podezření, že chtějí akorát sdělit světu (a investorům), na jak přelomové technologii dělají.

Debatu o AI by neměli určovat pouze lidé, kteří mají byznysový zájem na jejím vývoji či morální panice okolo ní. Právě to nastalo u sociálních sítí, všímá si technologický novinář Max Read. Mark Zuckerberg se ocitl po trumpovských volbách ve složité situaci. Nechtěl uznat kritiku, že by snad jeho platforma masivně šířila dezinformace, zároveň nemohl ani říct, že Facebook nemá na lidi vliv. Právě schopnost ovlivňovat své uživatele přece prodává svým klíčovým klientům z řad inzerentů. Nakonec proto začal Facebook šířit podobné sdělení jako jeho největší kritici. Tedy že má zásadní vliv na veřejnou debatu. Představitelé sociální sítě pouze dodávali, že si svou odpovědnost uvědomují a pracují na chytrých řešeních. Debatu o svém odvětví tak měli nadále pod svou kontrolou.

Diskuse o umělé inteligenci snad prostoupí i veřejný zájem. Musí to být rychle. ChatGPT už vyzkoušelo na 15 % Čechů, ukázal reprezentativní výzkum společnosti Ipsos ve spolupráci s katedrou žurnalistiky na Fakultě sociálních věd Univerzity Karlovy. Odbornice na digitální právo Alžběta Solarczyk Krausová během představování výsledků připomněla, že zatím absolutně chybí řešení pro otázky spojené s ochranou soukromí, duševního vlastnictví nebo odpovědností. Odpovědi na konkrétní problémy a výzvy budou vždy důležitější, než naslouchání těm, kterým jde hlavně o pozornost. Ostatně Twitter pod Elonem Muskem by nás z úžasu nad velkolepými žvanily mohl trochu vyléčit.

Sdílejte