Komunikační služba Signal je známá důrazem na ochranu soukromí svých uživatelů. Konverzace chrání koncovým šifrováním a snaží se o lidech sbírat co nejméně údajů. Signal provozuje americká firma Signal Messenger LLC, kterou ovládá nezisková organizace Signal Foundation. Službu druhým rokem z pozice prezidentky vede Meredith Whittaker.
Třináct let pracovala v Googlu, kde se věnovala mimo jiné možným dopadům pokroků ve výzkumu umělé inteligence. V roce 2018 byla jednou z organizátorek protestu části zaměstnanců proti tomu, jak Google řešil případy sexuálního obtěžování a další problémy (tzv. Google Walkout). Z firmy poté odešla. V září 2022 se stala prezidentkou Signalu.
V poslední době veřejně vystupuje proti snahám o prolomení nebo obcházení koncového šifrování. V EU stále probíhá vyjednávání o návrhu tzv. CSAM nařízení, které má mimo jiné zavést povinnost skenovat soukromé konverzace lidí na možnou přítomnost materiálů souvisejících se zneužíváním dětí online.
„Nic podobného dělat nebudeme. To bychom raději odešli ze země, která by nás k tomu nutila,“ říká Whittaker v rozhovoru pro Lupu. Proč potřebujeme šifrovanou komunikaci? Jak bezpečný Signal je? A proč vůbec neuvažuje o implementaci AI funkcí?
Všiml jsem si, že si hodně chráníte své soukromí. V rozhovorech nikdy nemluvíte o podrobnostech ze svého osobního života, ani když se vás na ně novináři výslovně ptají. Jaký to má důvod?
Jednoduchá odpověď je, že o nich prostě mluvit nechci. Od chvíle, kdy jsem začala používat internet, jsem detaily o svém životě online nezveřejňovala. Vyrůstala jsem v době, kdy byl internet mnohem anonymnější než dnes. Jako dítě jsem si užívala možnost chodit debatovat na diskusní fóra, aniž by lidé věděli, že jsem malá holka. Neviděla jsem důvod, proč by cizí lidé měli vědět něco o mém soukromí. Z toho vznikla má citlivost ohledně soukromí a ceny, kterou jako společnost můžeme zaplatit za to, když se informační asymetrie a sledování stanou nástroji velkých korporací nebo států.
A ta pak vedla k tomu, že jste se stala členkou představenstva Signalu a poslední dva roky Signal řídíte i z funkce prezidentky?
Ano, rozhodně. Signalu jsem fandila a podporovala ho od samotného začátku. Nárůst nekontrolovaného sledování našich každodenních aktivit, komunit a infrastruktury mě už velmi dlouho znepokojuje. Když jsem pracovala v Googlu, měla jsem možnost pozorovat, jak roste a vyvíjí se byznys model, který stojí za dnešním masovým korporátním sledováním.
Proč podle vás potřebujeme mít možnost šifrované komunikace?
Komunikovat potřebujeme, ať už jako studenti, pracující, přátelé, nebo prostě obecně lidské bytosti. A naše komunikace stále častěji probíhá online: používáme komunikační služby, posíláme e-maily a tak dále. Za posledních 20 lety byly tyto komunikační prostředky utvářeny a dnes jsou v rukou hrstky velkých firem. Shromažďují o nás velké množství informací, které kombinují s údaji nakoupenými od dalších obchodníků s daty. Dělají to, aby mohli přístup k nám prodávat inzerentům. Myslím, že nemůžeme podrobit každou naši komunikaci masovému korporátnímu sledování, které společnosti navíc velmi často předávají vládním úřadům, takže se může stát nástrojem útlaku nebo kontroly společnosti.
Ještě donedávna to vypadalo, že se většina lidí o ochranu soukromí nezajímá. Používají sociální sítě, kde dobrovolně publikují hodně osobních údajů, včetně svých fotek nebo snímků svých dětí. Vypadá to ale, že se tento přístup mění. Čím to podle vás je?
Neřekla bych, že se lidé dříve o ochranu soukromí nezajímali. Myslím, že zde fungoval průmyslový a mediální lobbistický aparát, který se snažil prosadit narativ, že soukromí je mrtvé a že nikoho nezajímá. Jako důkaz zmiňoval právě fakt, že lidé používají sociální sítě. Kdyby je zajímala ochrana soukromí, přece by s tím přestali a už by sociální média nebo e-maily nepoužívali, ne?
Nemyslím, že tento argument platí. V dnešní společnosti je prakticky nemožné tyto komunikační nástroje nepoužívat. Když žádáte o nějakou vládní podporu, těžko to jde bez e-mailové adresy. Pokud nastoupíte na vysokou školu, je vysoce pravděpodobné, že používá e-mailové služby nebo software na práci s dokumenty od Googlu nebo Microsoftu. A když se ucházíte o práci, je dnes většinou podezřelé, když nemáte profily na sociálních sítích.
Komunikační služby a infrastruktura se staly základem našich životů, takže v souvislosti s nimi nemůžeme mluvit o individuální volbě, zda chceme nebo nechceme chránit soukromí, ale spíš o jisté formě donucení. To, že lidé tyto služby používají, se tak nedá považovat za důkaz, že je soukromí nezajímá, a že by tedy jeho ochrana neměla zajímat ani nás.
Není internet jakýmsi veřejným prostorem, kde se jakákoli publikovaná informace stává viditelná pro všechny?
Existuje řada různých definic veřejného prostoru. Veřejné koupaliště je veřejným prostorem, ale to neznamená, že kdokoli může vidět vaši nahou fotku promítanou na velké plátno nad bazénem. Ten prostor je veřejný ve smyslu, že každý může jeho služby využívat za rovných podmínek, že je provozován prostřednictvím veřejné infrastruktury a že, v určitém slova smyslu, jde o veřejný zdroj.
V čele Signalu působíte dva roky. Jak se za tu dobu podle vás online svět změnil? Vypadá to, že dnes bojujete za ochranu soukromí více než dříve, je to tak?
Rozhodně žijeme v neklidné době, v technologickém světě i obecně. Ohledně soukromí panuje určité napětí a vedeme velmi vyostřené souboje zejména kolem legislativních a regulačních návrhů, které ohrožují možnost používat silné end-to-end šifrování. Jde přitom o jedinou technologii, která dokáže při komunikaci zajistit soukromí. Snažíme se těmto návrhům vzdorovat.
Na druhou stranu se firmy na ochranu soukromí znovu více zaměřují. WhatsApp, Apple a další společnosti investují do drahého marketingu, který zahrnuje velké sliby ohledně jejich záruk soukromí. Průmysl si tedy poptávku po ochraně soukromí uvědomuje. Signal přitom má v této oblasti náskok skoro deset let. Vytvořili jsme standard pro šifrování komunikace a už řadu let tuto technologii nabízíme jako opensource, aby ochranu soukromí mohly vylepšit i další služby. Jsem rádi, že dominantní hráči uznali, byť opožděně, že lidem na soukromí záleží.
Jak bezpečný je Signal? Nedávno jsem četl články o problému ve vašem desktopovém klientu. Viděl jsem i nedávná obvinění, která na X přiživoval Elon Musk…
Signal je zlatý standardem pro skutečně soukromou komunikaci a nemá žádné známé zranitelnosti. Nasloucháme bezpečnostním expertům, kteří mohou případné problémy nahlásit. Zároveň žijeme ve velmi znečištěném informačním prostředí, kde se objevují dezinformační kampaně, které Signal často očerňují a tvrdí, že má bezpečnostní problémy. Myslíme si, že jejich cílem je přesvědčit uživatele, aby používali méně bezpečné alternativy. Signal je ale bezpečný. To ovšem neznamená, že byste zároveň neměli myslet na to, aby i vaše zařízení – mobil či laptop –, na kterém Signal provozujete, bylo patřičně zabezpečené.
Není nevýhodou Signalu, že jde o centralizovanou službu? Co si myslíte o decentralizovaných komunikátorech, jako je Element, Matrix a další? Nebude se Signal posouvat směrem k decentralizovanému modelu fungování?
Služby jako Element nebo Matrix jsou velmi malé, zatím se ani neblíží velké uživatelské základně, kterou má Signal. Myslím, že jsou skvělé a že přinášejí do světa zabezpečených komunikačních služeb řadu dobrých inovací. Pokud ale mluvíme o centralizované architektuře ve smyslu, že jsme závislí na hostingu ve velkých cloudových službách, tak stejně fungují snad všechny velké komunikační služby pracující v reálném čase a zaručující vysokou dostupnost.
Pokud chcete provozovat globální službu zahrnující textovou komunikaci a volání, která dokáže zvládat takové množství konverzací jako Signal, tak dnes v podstatě neexistuje alternativa k využívání služeb provozovatelů vysoce škálovatelné cloudové infrastruktury.
Decentralizace má také nevýhody týkající se přímo bezpečnosti. V případě nějaké skutečné zranitelnosti Signalu musíme být schopni velmi rychle do našich systémů nainstalovat opravný patch. Pokud bychom fungovali decentralizovaně a například člověk, který by provozoval servery v Řecku, by odjel na pár měsíců na dovolenou, mohlo by to narušit bezpečnost celého systému.
O decentralizaci tedy nemůžeme uvažovat jen ve smyslu otevřených protokolů nebo architektury služeb. Musíme zohlednit otázku provozování takových služeb v prostředí technologického průmyslu, který je závislý na malé skupině cloudových hráčů. Tyto problémy potřebují hlubší řešení, nedají se vyřešit mávnutím kouzelné hůlky, která jednoduše rozdělí náklady na fungování služby mezi skupinu provozovatelů decentralizovaných serverů.
Dostali jsme se k penězům. Četl jsem, že roční náklady na provozování Signalu mají v příštím roce dosáhnout asi 50 milionů dolarů. Službu přitom stále financujete z darů. Bude to stačit? Nechystáte pro Signal nějaký nový byznys model?
Dostáváme velké množství štědrých darů a zatím neplánujeme náš byznys model měnit. Jedním z důvodů, proč se nesnažíme vydělávat peníze a jsme nezisková organizace závislá na dobrovolných příspěvcích, je to, že základní byznys model v technologickém průmyslu spočívá ve sledování uživatelů. Tento model je v přímém protikladu s naším posláním zajišťovat ochranu soukromí.
Nechceme měnit financování Signalu tak, abychom prodávali soukromí uživatelů, protože by to mohlo vést ke snahám vedení firmy snižovat ochranu soukromí, aby nestála v cestě ziskům. Technologický svět vydělává peníze sledováním lidí. Firmy buď sbírají data k vytváření uživatelských profilů, které prodávají inzerentům, nebo používají data k trénování AI modelů.
Zároveň jsou konverzace na Signalu end-to-end šifrované, takže vlastně k jejich obsahu nemáte přístup.
Přesně tak. Fungujeme v přímém protikladu k byznys modelu založeném na sledování. Chceme o uživatelích sbírat tak málo dat, jak je to jen možné.
Kromě sběru dat existuje i další byznys model: předplatné. Neplánujete jeho zavedení?
Neustále zkoumáme nové způsoby, jak zvýšit příjmy. Nemyslím, že bychom chtěli přijít s modelem, že by všichni lidé za používání Signalu museli platit. Jedním z důvodů je, že vám komunikační služba není k ničemu, pokud ji nepoužívají vaši přátelé. Takže pokud by neplatili předplatné, neměl byste žádný důvod k placení ani vy, čímž bychom si velmi omezovali růst a síťový efekt, který je pro vybudování robustního komunikačního ekosystému zásadní.
Ale možnost plateb za nějaké prémiové funkce nevylučujete.
Určitě ne. Debatujeme o možných variantách a jsme otevření uvedení něčeho podobného v budoucnu, pokud to bude v souladu s naším posláním.
Aktivně protestujete proti návrhu evropského CSAM nařízení, které má zavést povinnost skenovat obsah soukromých konverzací na možnou přítomnost dětské pornografie. Návrh v červnu jen těsně neprošel hlasováním v Radě EU. Evropské komisi teď předsedá Maďarsko, které návrh podporuje. Co se vám na návrhu nelíbí a co budete dělat při nadcházejících pokusech jej znovu prosadit?
Návrh představuje radikální zvýšení možností, jak sledovat soukromou komunikaci lidí, protože by mohl zásadně narušit zabezpečení základní komunikační infrastruktury. Zároveň neexistují důkazy, že bude skutečně plnit účel, kterým jeho zastánci argumentují, i když by narušení robustnosti a užitečnosti end-to-end šifrování bylo pro řadu zástupců bezpečnostních složek splněným přáním.
Ano, policie o prolomení koncového šifrování usiluje už delší dobu. Říká, že bez něj nemůže efektivně vyšetřovat vážné zločiny. Je podle vás možné nějaké kompromisní řešení, které by na jedné straně zachovalo soukromí konverzací a na druhé dalo policii přístup k jejich obsahu?
U šifrování není kompromis možný. Buď je obsah zašifrovaný pro každého a mohou jej vidět jen odesilatel a příjemce, nebo šifrování nefunguje a přístup k obsahu může mít kdokoli, včetně policie, úřadů, ale také třeba hackerů, Ruska, Číny a podobně. Prolomením vytvoříte v end-to-end šifrovaném systému zásadní zranitelnost. Žádný možný kompromis prostě neexistuje, to je dokázaný matematický fakt.
Ani způsobem, který Evropská komise navrhuje, to znamená, že by se konverzace skenovaly na hashe dětského porna v zařízení uživatele ještě dříve, než jsou zašifrovány a odeslány?
Ani takto ne. Je to jen hra se slovy. Pokud end-to-end šifrovaný systém nejprve nuceně napojíte na nešifrovaný sledovací systém, koncové šifrování tím zničíte. Připojili jste totiž end-to-end chráněný systém k mnohem, mnohem zranitelnějšímu cíli, který mohou napadnout útočníci a zobrazit si obsah konverzací. Tahle rétorická cvičení používá řada vlád i Evropská komise, ale na skutečnosti to nic nemění.
Firma Apple má v iMessages funkci, která umožňuje rodičům zapnout určitou ochranu svých dětí. Telefon pak skenuje jejich konverzace na přítomnost možného závadného obsahu, například fotek s nahotou, které děti chtějí někomu poslat. Tato funkce není ve výchozím stavu zapnutá, uživatel ji musí výslovně povolit. Pokud ale Apple toto on-device skenování provádí, není to argument, kterým vás mohou vlády či Komise tlačit k tomu, abyste něco podobného zavedli i v Signalu?
Tlačit nás mohou, ale nic podobného prostě dělat nebudeme. To bychom raději odešli ze země, která by nás k tomu nutila. Samozřejmě až po velkém boji.
Důležité je dodat, že Apple koncem roku 2023 velmi jasně řekl, že se pokusil vybudovat systém na skenování obsahu a hlášení případného závadného obsahu úřadům tak, aby to nenarušilo soukromí a bezpečnost uživatelů. A ani se svými obrovskými zdroji nebyl schopný takové řešení vyvinout a nevěří, že to je možné.
Takže ano, existuje tu podobnost mezi funkcí na skenování obsahu v zařízení, kterou Apple nabízí, a já z ní mám rozporuplné pocity, a režimy skenování na straně klienta, které předávají vaše konverzace sledovací službě hlásící případný problém úřadům nebo nějaké pověřené neziskové organizaci. Ale když jdeme do detailu, nejde o stejné záležitosti. A stejná firma, Apple, říká, že skenování bez narušení šifrování není technicky možné.
Jsou podle vás nějaké způsoby, jak chránit děti před zneužíváním online a zároveň zachovat end-to-end šifrování?
To není úplně můj obor. Ale můžu vás odkázat na experty, od kterých čerpám informace. Signal spolupracuje například s Kate Sim a Julií Powles, které k tématu online rizik pro děti vedou výzkumné centrum na University of Western Australia. Jednou z věcí, která z jejich práce vyplývá, je, že se tento problém nedá zúžit jen na online svět.
Potíž pokusů o zjednodušení příčin komplikovaných společenských problémů, jako je zneužívání dětí, jen na online prostředí spočívá v tom, že se tato témata často pokoušejí zneužít nevěrohodné osoby nebo firmy, které se snaží prodávat jednoduchá technická řešení. Ta mohou vypadat velmi lákavě, a to zejména ve společnosti, která o souvislostech zneužívání dětí nerada diskutuje. Například o tom, že dvě třetiny zneužívání se odehrávají v rodinách. Nebo o incestu, který je velmi častou formou zneužívání. Jde o závažné problémy, které bychom jako společnost měli řešit. Nevyřešíme je ale tím, že zneužívání označíme za problém, který se týká čistě online světa.
Na technické možnosti boje proti zneužívání dětí online se ptám proto, že šifrované komunikační služby jsou občas obviňovány z toho, že end-to-end šifrováním umožňují šíření dětské pornografie a chrání zločince.
Nemáme důkazy, které by potvrzovaly, že je šifrování prokazatelně spojeno s vyšším rizikem pro děti. V současné vyhrocené prezidentské kampani v USA ale máme republikánského kandidáta na viceprezidenta, který navrhuje sledovat ženy, zda nehledají možnost potratu. A jedna žena z Nebrasky už je ve vězení poté, co Facebook předal úřadům její konverzaci, ve které si s dcerou psaly o metodách ukončení těhotenství. Takže máme důkaz, že odstranění ochrany soukromí a předání dat o všech našich soukromých myšlenkách a komunikaci se svými blízkými velkým korporacím, které se vždy nakonec podvolí státní moci, může být velmi škodlivé pro děti, dospělé i pro naši schopnost využívat svá základní práva.
Jak na požadavky státních úřadů reaguje Signal? Kolik žádostí o vydání dat o vašich uživatelích na vás míří?
Na našem webu Signal.org/BigBrother se můžete podívat na všechny úřední žádosti, na které jsme byli nuceni reagovat a které smíme zveřejnit. Je tam vidět, jak velmi málo dat o uživatelích máme a jak málo jsme jich schopní policii předat.
Velká Británie loni přijala zákon Online Safety Act, který zavazuje online komunikační služby ke skenování konverzací na možnou přítomnost nelegálního obsahu. Jak se s tím Signal vyrovnal? Skutečně konverzace v Británii skenujete?
Online Safety Act je objemný a složitý dokument a Ofcom (britský telekomunikační regulátor, pozn. redakce) stále vyhodnocuje všechny jeho aspekty. Zatím jsme velice potěšeni tím, jak Ofcom k tomto problému přistoupil. Vydal jasné prohlášení, že neexistuje technicky proveditelný způsob, jak zavést masové skenování a zároveň zachovat bezpečnost a ochranu soukromí. To odpovídá konsenzu mezi technologickými experty. V současné době nevnímáme ze strany vedení Ofcomu riziko, že by se úřad snažil implementovat potenciálně nejnebezpečnější části zákona, takže jsme opatrně optimističtí.
A co kdyby Ofcom změnil názor a začal vás nutit konverzace skenovat?
Nemohli bychom uposlechnout. Nejdřív bychom proti tomu bojovali, ale kdyby to nestačilo, odešli bychom z britského trhu.
Četl jsem nedávno několik vašich prohlášení týkajících se AI. Jste spoluautorkou odborného článku o otevřených AI systémech, o tom, zda jsou skutečně opensource, nebo zda nejsou jen marketingovým nástrojem velkých firem. Co si o aktuálním nadšení pro generativní AI myslíte? Jsou s ní spojena nějaká rizika?
Generativní AI přináší řadu rizik. Jedno se týká například klimatu, AI systémy totiž vyžadují pro své trénování velké množství energie. Další možná potíž se týká známého problému deep fake obsahu.
A už se projevuje také riziko další koncentrace moci malé skupinky společností, které mají na vývoj a provoz velkých jazykových AI modelů zdroje. Podobné zdroje nemá nikdo další. Generativní AI je pro tyto firmy darem z nebes. Pomáhá jim posilovat jejich monopolní status pomocí narativu o tom, že AI je nevyhnutelná a každý ji musí používat, nebo zaostane. Vlády a další firmy se na těchto monopolech stávají stále více závislými.
Vypadá to ale, že se tyto dopady trochu zmírňují. Generativní AI zatím neprokázala, že by v praxi byla příliš užitečná a že by našla na trhu své místo. Proto vidíme řadu podivných pokusů nacpat AI do všech možných produktů a služeb, i když v nich není k ničemu. Myslím, že je to i tím, jak obří náklady byly k vývoji AI potřeba. Firmy tak potřebují najít nějaké uplatnění AI na trhu, které jim investované miliardy vrátí. Myslím, že tento trh je předurčen k rychlému splasknutí a nesplnění příliš velkých očekávání, což je věc, kterou z technologických hype cyklů velmi dobře známe.
Co Signal a AI? Plánujete ve vaší aplikaci nějakým způsobem generativní umělou inteligenci využívat?
To ne. Jsme pyšní na to, že pro AI nemáme žádnou strategii. Upřímně řečeno, je to dost otravné. Nikdo nechce otevřít WhatsApp a najít tam velký, tlustý AI prompt. Je to důsledek současného hype. Mark Zuckerberg se nejspíš jednoho dne vrátil z jednání představenstva a řekl: máme novou strategii, do konce roku budeme mít AI úplně všude. Nějaký nešťastný produktový tým pak musí něco vyvinout a je úplně jedno, jestli to funguje a jestli se to lidem líbí. Výsledkem je přeplněné rozhraní se službami, které nikdo nepotřebuje.
Jednou z výhod Signalu je, že tohle nedělá. AI je také v rozporu s naším fungováním. Snažíme se sbírat co nejméně dat. Takže na čem bychom mohli vytrénovat svůj AI model?
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete dostávat exkluzivní tištěný speciál Lupa 3.0?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU