- AKTUALIZACE 19:00 – Česká vláda nakone rozhodla, že se při hlasování v Radě EU zdrží
- AKTUALIZACE 20. 6. 13:10 – Hlasování v Radě EU bylo nakonec zrušeno, protože by návrh patrně nezískal většinovou podporu
Při používání komunikačního programu, jako je WhatsApp, Messenger, iMessage či Signal, budete muset odsouhlasit, že provozovatel může vaše vzkazy prohledávat na přítomnost dětské pornografie. Pokud provozovatel dostane tzv. příkaz k odhalení (detection order) a vy souhlas nedáte, bude vám komunikátor muset zakázat posílání obrázků, videí a odkazů. Příkazy se budou moci týkat libovolně velkých skupin a typů uživatelů a budou potřebovat soudní povolení. Provozovatel služby bude muset obsah skenovat i v případě, že konverzace chrání koncovým šifrováním (end-to-end encryption).
Tyto novinky má přinést nové nařízení pro prevenci a boj proti sexuálnímu zneužívání dětí (CSAM). Jeho hlavním účelem je nastavit jednotná pravidla pro potírání obsahu a chování, které na internetu ubližuje dětem.
Návrh tento čtvrtek čeká důležité hlasování v Radě EU. Výbor stálých zástupců EU (tzv. COREPER) má na stole jeho kompromisní znění (PDF), které má v případě schválení putovat do tzv. trialogu – definitivního vyjednávání mezi Komisí, Europarlamentem a Radou.
Česká vláda bude o svém stanovisku jednat během dnešního zasedání. Ministerstvo vnitra, které má vypracování české pozice na starosti, podle informací Lupy kabinetu navrhne, aby se český zástupce hlasování zdržel. To se v rámci hlasování tzv. kvalifikovanou většinou obvykle považuje za hlas proti návrhu. Stačit to ale nemusí.
Proti mají pravděpodobně být Německo, Rakousko, Polsko a Nizozemsko. Aby byl návrh přijat, musí pro něj hlasovat nejméně 15 členských států zastupujících nejméně 65 % obyvatelstva EU.
Ministerstva vnitra jsme se zeptali na český postoj k návrhu. Ondřej Krátoška z tiskového odboru odpověděl:
Belgické předsednictví plánuje v tomto týdnu skutečně požádat Výbor stálých zástupců (Coreper) o podporu pro svůj kompromisní návrh předmětného nařízení, jenž by poté tvořil pozici Rady pro následné vyjednávání s Evropským parlamentem. O pozici k tomuto teprve v pátek předloženému revidovanému znění návrhu bude rozhodovat vláda, aby se k němu ČR mohla na jednání Výboru stálých zástupců vyjádřit.
Ministerstvo vnitra považuje koncové šifrování komunikace (E2EE) za důležitý nástroj ochrany soukromí uživatelů internetu, spolupracuje také s NÚKIB na množství vzdělávacích aktivit týkajících se bezpečného chování v online. Možnost prolomení šifrování je nicméně důležitá zejména pro policii v konkrétním trestním řízení, což již dnes umožňují platné procesní postupy.
Pokud jde o detekci závadového materiálu včetně dětské pornografie na internetu, ta není v zašifrovaném prostředí v současné době možná. Nicméně do budoucna bude záležet na rozvoji technologií. Z tohoto důvodu se domníváme, že navrhované nařízení má být jako obecný právní předpis technologicky neutrální, tzn. nemá upravovat konkrétní technologie. Jeho cílem má být zajištění odpovídající ochrany dětí na internetu, které jsou též jeho uživateli, a to tím, že budou stanoveny jasné a závazné procesní postupy detekce a ohlašování závadového materiálu, které dnes probíhají na dobrovolné, tedy nekontrolovatelné bázi. Během projednávání návrhu na pracovní úrovni byly do textu postupně přidávány záruky pro vyšší bezpečnost komunikací, a tím i uživatelů. Mezi nimi i např. upload moderation v případě služeb využívajících koncové šifrování. Dalšími zárukami jsou i kategorizace služeb a zúžení působnosti návrhu pouze na obrazové materiály, videa a URL adresy. Pro úplnost doplňujeme, že v žádném případě nepodporujeme plošnou nekontrolovanou detekci ani prolamování bezpečnostních prvků. To má být možné jen v konkrétních opodstatněných případech (viz výše).
Vnitro tedy návrh spíše podporuje, jiné české úřady (například ÚOOÚ a NÚKIB) jsou ale podle informací Lupy proti. S návrhem nesouhlasí ani vicepremiér pro digitalizaci Ivan Bartoš, jehož Piráti proti návrhu dlouhodobě aktivně bojují: „Návrh stále obsahuje obcházení šifrování, které je důležité pro ochranu soukromí a důvěru lidí v digitální služby. Ač je proklamovaná ochrana dětí důležitá, tento návrh nemůžeme podpořit, jde o tvrdý zásah do soukromí občanů,“ říká.
Zranitelnost místo ochrany
Co je vlastně špatného na tom, aby úřady mohly hledat online materiály týkající se sexuálního zneužívání dětí? V zásadě nic. Jde ale také o to, aby se s vaničkou nevylilo i to chráněné dítě. Návrh nařízení zavádí řadu užitečných povinností: povinnost minimalizovat možnosti, že online služby budou k šíření takových materiálů používány, povinnost takové materiály mazat nebo vyřazovat z výsledků vyhledávání a další body.
Problematická ale je navrhovaná pravomoc, aby specializovaný úřad mohl v případě podezření na riziko šíření dětské pornografie vydávat příkazy k odhalení, a především to, že se mají týkat i osobní komunikace chráněné koncovým šifrováním.
Příkaz k odhalení má znamenat, že provozovatel služby bude muset instalovat a provozovat technologie na detekci závadných materiálů – obrázků, videí či odkazů (text a audio se prohledávat nemají). Nařízení neurčuje, jaké konkrétní nástroje to mají být, jen obecně říká, že mají být šetrné k soukromí uživatelů a nesmí představovat hrozbu pro bezpečnost služby. V případě chatů mají konverzace skenovat ještě před jejich odesláním. Nařízení nesmí zakazovat nebo znemožňovat koncové šifrování. Nesmí také po provozovateli služby požadovat dešifrování šifrovaných dat nebo přístup k nim, dodává návrh.
Přečtěte si také:
Krátké vlny: Právo šifrovat ve světle rozhodnutí Evropského soudu pro lidská práva
To vše by mohlo vypadat skvěle, dokud si neuvědomíme, co by to vlastně znamenalo v praxi. Přístup k obsahu šifrované komunikace je bez prolomení šifrování možný v podstatě jen v okamžiku, kdy ještě není zašifrovaný. Provozovatelé chatů by tak museli do svých služeb implementovat možnost fotky, videa či odkazy skenovat (a vytvářet z nich hashe) a teprve poté je zašifrovat a odeslat. Ve službách by tak vznikla možnost koncové šifrování vlastně obcházet.
O něčem podobném uvažovala firma Apple, která v roce 2021 oznámila, že bude na přítomnost CSAM skenovat fotky uploadované uživateli do iCloudu. O rok později ale od záměru ustoupila a posléze uznala, že by skenováním vytvořila nové vektory útoků na data uživatelů a vytvořila by potenciální nástroj pro špehování lidí.
„Skenování jednoho typu obsahu otevírá dveře masovému sledování a mohlo by vyvolat nutkání prohledávat další šifrované chatovací systémy napříč typy obsahu,“ citoval časopis Wired ředitele Applu pro soukromí a ochranu dětí Erika Neuenschwandera. Apple tak nakonec zprovoznil „jen“ možnost skenovat komunikaci na dětských účtech v iMessage na přítomnost explicitních obrázků. Jde ale o funkci lokální, omezenou a opt-in.
Z Applu se postupně stal velký odpůrce skenování, který protestoval proti podobným záměrům v Austrálii i Velké Británii. A není jediný.
„Povinnost hromadného skenování soukromé komunikace zásadně podkopává šifrování. Tečka. Ať už se tak děje například manipulací s generováním náhodných čísel v šifrovacím algoritmu, implementací systému na úschovu klíčů, nebo tím, že komunikace musí před zašifrováním projít sledovacím systémem. Můžeme tomu říkat zadní vrátka, přední vrátka nebo ‚upload moderation‘. Ale ať tomu říkáme jakkoli, každý z těchto přístupů vytváří zranitelnost, která může být zneužita hackery nebo nepřátelskými státy, odstraňuje neprolomitelnou ochranu a na její místo staví zásadní zranitelnost,“ napsala ve svém stanovisku k návrhu evropské regulace prezidentka komunikační služby Signal Meredith Whittaker.
Doufejme, že představitelé členských států EU tyto hlasy vyslyší.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete dostávat exkluzivní tištěný speciál Lupa 3.0?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU