Ochrana dětí neospravedlňuje celoevropské šmírování

Zdroj: DALL·E 2

Na málo tématech existuje taková shoda jako na ochraně dětí před sexuálním zneužíváním. Konsenzus se silným emočním základem – těžko hledat něco hrůznějšího – nicméně otevírá prostor pro nešťastné politiky. I špatné návrhy získávají na relevanci, pokud se zaštiťují ochranou dětí. Vystupuje se proti nim naopak těžko: kritikům-nelidům snad nezáleží na dětech?! Kritiku bychom však měli trénovat. Evropský parlament projednává nebezpečný návrh, který chce pod záštitou ochrany dětí šmírovat veškerou digitální komunikaci.

Platformy jako Google, Meta či Microsoft dohlíží na své aplikace a úložiště už teď. Mažou závadný obsah a když mají podezření na sexuální zneužívání, nahlašují i příslušným orgánům. Činí tak nicméně dobrovolně a bez vnější kontroly. Evropská komise to chce změnit – a vynucovat kontrolu všech zpráv, emailů, hlasovek, fotek či streamů, u nichž hrozí dětem a mladistvým nebezpečí. Návrh „pravidel pro předcházení pohlavnímu zneužívání dětí a boj proti němu“ představila loni v květnu, europoslanci teď odevzdávali návrhy pozměňovacích návrhů, na podzim přijde projednávání na plénu a trialog.  

Nová realita by vypadala následovně. Platformy musí předcházet sexualizovanému zneužívání dětí. Rizika spojená s každou sítí, cloudem či aplikací posuzují státní regulátoři. Pokud úředníci shledají „významné riziko“ zneužívání dětí, mohou požádat soud o takzvaný detekční příkaz. Platformy tehdy musí zapojit schválený software, který kontroluje komunikaci uživatelů. Pravidla pro posuzovaní závadnosti dodává nově zřízené „Středisko EU pro prevenci pohlavního zneužívání dětí a boj proti němu“, u něhož se i shromažďují hlášení. Středisko je zpracovává a řeší přímo s policií.

Existuje řada důvodů, proč to celé není dobrý nápad. V centru rozsáhlé kritiky stojí obava o soukromí. Útok na něj zosobňuje hlavně snaha Evropské komise zahrnout i šifrovanou komunikaci. Dohled by se týkal i kanálů, jako jsou Signal či Proton Mail. Znamenalo by to zásadní zpochybnění jejich smyslu. Provozovatelé aplikací s takzvaným koncovým (end-to-end) šifrováním dnes nemají přístup ke zprávám. Nově by proto museli spolu s aplikací instalovat lidem do telefonů software podobný nechvalně známému Pegasu, který využívají zejména autoritářské vlády ke šmírovaní nepohodlných.

„Vkládání softwarových ‚štěnic‘ do našich telefonů a počítačů není ospravedlnitelné ani za účelem ochrany dětí. Použití těchto detekčních technologií představuje nepřiměřený zásah do našich práv na soukromí,“ reagovala na unijní návrh neziskovka Electronic Frontier Foundation, patrně nejslavnější organizace zaměřená na ochranu digitálního soukromí. Experti varují i před vynuceným vznikem „zadních vrátek“ v aplikacích, kterých mohou zneužívat zločinci i autoritáři.

Legislativa by zpochybňovala i anonymitu, stěžejní princip svobodného internetu. Škoda by přitom byla globální. Většina platforem nebude dělat extra evropské verze, pokud budou tlačeny k identifikaci svých unijních uživatelů, promítne se to i na jejich fungování v ostatních regionech. Disidenti či menšiny v řadě zemí životně závisí na anonymitě, kterou by Evropská unie pomáhala absurdně bourat. Autoritativním vládám by přitom EU dávala vzor, že mohou po online službách požadovat důvěrné údaje o uživatelích.

Směrnice by poškozovala i ty, které chce chránit. Svoboda – a sexuální zejména – vyžaduje experimentování, k němuž nemá nikdo zvnějšku přístup. Vědomí dohledu by od něj odrazovalo. Kontrola samotná by přitom přinášela i traumatizující momenty. Nikdo by neměl mít iluze o tom, jak brzy se mladí lidé setkávají s online erotikou a věnují se mezi sebou různým formám flirtování a sextingu. Představa, že středisko Evropské unie vyhodnocuje závažnost nudes, které si posílají dva čtrnáctiletí lidé, je úděsná. Dohled proto nepřekvapivě odmítají i samotní mladiství, jak ukazuje čerstvý reprezentativní výzkum, který zadali evropští Piráti.

Zásadní problém představují i limity technologií. Návrh počítá se třemi druhy materiálů, které by měla umělá inteligence rozpoznat. První nemusí být složitý: jedná se o stávající záznamy zneužívání, jejichž databázi spravuje EU, kontroluje se shoda. Komplikovanější by ale byla identifikace „nových“ případů a taky takzvaného groomingu, jak se označuje cílený kontakt s dětmi a mladistvými. Slovu chybí dobrý český ekvivalent, všichni ale vědí, o co jde: ukázal to dokument V síti od Barbory Chalupové a Víta Klusáka. Těžko však vymyslet nástroj, který mezi miliardami zpráv rozpozná skutečné případy groomingu. Spíš by přibývaly případy, jako bylo vyšetřování muže, který lékaři poslal fotku svého nemocného dítěte – a Google ho nahlásil vyšetřovatelům.

„Opatření budou omezena na nezbytně nutnou míru,“ tvrdí EK v sekci otázek a odpovědí. Sebelepší vládě bych však nevěřil, že se nepokusí zneužívat tak nebezpečný nástroj. Pod pláštíkem ochrany dětí sledujeme soustavné útoky na LGBTQ+ lidi, i některé unijní vlády by nepochybně přivítaly možnost šmírovat jejich komunikaci. A existují i další oblasti, na kterých panuje podobná shoda jako na péči o děti. Terorismus. Zbraně. Drogy. Software existuje, proč ho nevyužít pro dobrou věc.

Evropská komise většinou nedává návrhy, co neprojdou. Doufejme, že tady se minimálně zásadně zmenší plánovaný rozsah dohledu. Jako příliš invazivní ho kritizuje Evropský sbor pro ochranu osobních údajů a Evropský inspektor ochrany údajů, ve stávající podobě podle nich návrh porušuje ochranu osobních údajů a nerespektuje soukromý a rodinný život, jak to požaduje Listina základních práv Evropské unie. Kritiku od začátku vznáší i Německo, jemuž se nelíbí hlavně konec šifrované komunikace. Stanovisko české vlády je celkově spíš shovívavé, sněmovní Výbor pro evropské záležitosti nicméně také zmiňuje šifrování. „Výsledná úprava musí respektovat právo na ochranu šifrované komunikace,“ stojí v jeho stanovisku.

Sexuální zneužívání a obtěžování dětí a mladistvých na internetu je obrovsky závažný problém. Jeho skutečný rozsah se těžko odhaduje, o jeho existenci ale patrně nikdo nepochybuje, vzpomeňme na zmíněný dokument. Návrhy na ochranu dětí proto dávají hluboký smysl. Existují však i cesty, které hrubě nezpochybní soukromí úplně každého – včetně dětí a mladistvých. Doufejme, že převáží. Původní návrh naprosto selhává na příliš mnoha frontách.

Sdílejte