Skryté klauzule, které umožňují AI sbírat vaše data

Stále více společností a sociálních sítí sbírá data o vašem zdravotním stavu, financích či soukromém životě. V TITANS objasňujeme, k jakým údajům má ještě AI dosah, aniž byste si to uvědomovali, a proč se vyplatí hlídat si své soukromí.

Co se stane, když si lidé projdou podmínky používání služby pouze za 73 sekund? Ušetří sice půlhodinu času, kterou by jim četba technického žargonu zabrala, ale zároveň často umožní AI sbírat data o jejich soukromí, aniž by o tom vůbec věděli. AI totiž používá jako tréninková data nesrovnatelně větší množství informací než dosavadní technologie, přičemž obvykle sbírá i biometrické údaje, osobní data ze sociálních sítí či informace o financích a zdravotním stavu uživatelů.

Proč je ztráta soukromí problém

Problémový vztah AI k osobním údajům potvrdili i výzkumníci z University College London a Mediterranea University of Reggio Calabria. Jejich studie dokázala, že AI asistenti ve webových prohlížečích ve velké míře využívají praktiky sledování, profilování a personalizace, které vyvolávají vážné obavy o ochranu soukromí.

„Platformy aktualizují své zásady ochrany osobních údajů, což je poněkud podezřelé. Ve skutečnosti takové aktualizace – a to je důležité – obsahují ustanovení, která umožňují využívání údajů. V konečném důsledku však nevíme, jak společnosti a jejich inteligentní systémy využívají naše osobní data,“ tvrdí Hervé Lambert z Panda Security.

Největší obavou je transparentnost. Jelikož lidé nemají přehled o tom, co se děje s jejich údaji, nemohou vědět, zda jsou porušována jejich práva, a následně se nedokážou bránit. Tento nedostatek transparentnosti označil Dr. Randazzo z Charles Darwin University za „problém černé skříňky“. Kromě toho spotřebitelé většinou přijímají podmínky, aniž by si je přečetli nebo o nich přemýšleli, a to buď kvůli zajištění kontinuity služby, nebo z čiré uspěchanosti.

Pokud to firmy povolí, k osobním datům uživatelů mohou mít přístup i třetí strany, jako jsou reklamní agentury, společnosti zabývající se analýzou údajů nebo orgány činné v trestním řízení se soudním příkazem. Citlivé údaje tak možná zpočátku získá společnost, které lidé důvěřují, ale snadno skončí u někoho, komu by je dobrovolně nikdy nepředali. Jindy mohou být data o soukromí předmětem nedovoleného shromažďování, využívání, krádeže či náhodného úniku.

Kybernetické útoky mohou provádět zločinci, jejichž motivací jsou peníze, nebo takzvané pokročilé perzistentní hrozby (APT), které obvykle tvoří útočníci podporovaní státem. Ti získají přístup do sítí a systémů, kde tajně sbírají informace a osobní údaje, aby nakonec způsobili chaos nebo škody. Dalšími potenciálními riziky jsou podle Hervé Lamberta komerční a geopolitická manipulace, vyloučení, vydírání a krádež identity.

Sociální sítě toho o vás vědí příliš mnoho

Funkce AI, které čerpají údaje z veřejných profilů nebo z e-mailů uživatelů, zavedly například Meta (vlastník Facebooku, Instagramu, Threads a WhatsAppu), Google (pod který spadá i YouTube) a LinkedIn. Pouze Google a LinkedIn přitom nabízejí možnost tyto AI funkce vypnout.

Marc Rivero ze společnosti Kaspersky zdůrazňuje rizika spojená se šířením citlivých informací a poukazuje na to, jak je AI získává z WhatsAppu: „Aplikace pro soukromé zasílání zpráv jsou pro uživatele jedním z nejcitlivějších digitálních prostředí, protože obsahují intimní konverzace, osobní údaje a dokonce i důvěrné informace. Pokud platforma umožní automatický přístup AI nástroje k těmto zprávám, aniž by získala jasný a výslovný souhlas uživatelů, podkopává to jejich důvěru.“

Za nedůvěryhodnou je považována i další sociální síť. Když se začátkem roku americké obyvatelstvo dozvědělo, že TikTok US sbírá kromě jiných osobních údajů i data o občanství a imigračním statusu, propadlo obavám. Právě v té době totiž probíhaly rozsáhlé protesty po celé zemi proti zpřísnění imigračních opatření prezidenta Donalda Trumpa. Aktivity agentů Imigračního a celního úřadu (ICE) vedly k tisícům zatčení a několika úmrtím místních občanů. Někteří lidé se domnívali, že TikTok buduje databázi imigračního statusu, jiní dokonce slíbili, že si kvůli tomu smažou své účty.

Kdy je správný čas?

V tomto případě však šlo spíše o špatné načasování. Tato formulace podmínek používání se poprvé objevila již kolem srpna 2024 a na veřejnost se dostala až tehdy, když probíhal přesun amerického provozu TikToku pod nového tamního majitele. Přestože update podmínek nesouvisel s protesty, stojí za povšimnutí, že TikTok potichu odstranil svůj závazek informovat uživatele předtím, než bude sdílet jejich data s orgány činnými v trestním řízení. Navíc se odmítl vyjádřit k tomu, zda je sdílí nebo by je sdílel s Ministerstvem vnitřní bezpečnosti (DHS) nebo ICE.

Další významná změna v aktualizovaných zásadách sítě se týkala sledování polohy. Zatímco dříve se shromažďovaly pouze přibližné údaje, nyní již TikTok sbírá přesná data o poloze uživatelů. Ti se údajně mohou z tohoto sledování odhlásit. Síť také rozšířila svá oprávnění ke shromažďování informací o interakcích uživatelů s jejími AI nástroji.

Sarah Perez z TechCrunch upozorňuje na ironii, že přesun sociální sítě do USA pod nové vlastnictví nastal kvůli obavám z potenciálního sledování uživatelů Čínou. Podle ní se však nyní Američané více obávají, že to bude dělat jejich vlastní vláda.

Případy, kdy byla zneužita osobní data

Společnost Clearview AI bez souhlasu uživatelů shromáždila ze sociálních médií a jiných internetových stránek miliardy osobních fotografií. Ty následně použila pro svůj software na rozpoznávání obličejů, který byl původně zpřístupněn široké škále podnikatelů a orgánům činným v trestním řízení. Když se skandál provalil, společnost se stáhla z Velké Británie a několika dalších evropských trhů.

Další kauza se týkala Cambridge Analytica, která spolupracovala s volebním týmem Donalda Trumpa a stála i za vítěznou brexitovou kampaní. Společnost pod záminkou osobnostních kvízů posbírala miliony facebookových profilů amerických voličů. Získané údaje o nich využila k vytvoření výkonného softwaru, který pak pomocí hyperpersonalizovaných politických reklam ovlivňoval volby v USA v roce 2016. Přestože se o tom Facebook koncem roku 2015 dozvěděl, v té době na to neupozornil uživatele a podnikl jen omezené kroky k zabezpečení soukromých informací.

Veřejnost pobouřily i nové podmínky používání WeTransfer, jedné z nejznámějších platforem pro sdílení souborů v kreativním průmyslu. Na jejich základě získala značka rozsáhlá práva, se kterými mohla obsah nahraný uživateli reprodukovat, upravovat, komerčně využívat a trénovat s ním modely strojového učení. Pod veřejným tlakem společnost rychle ustoupila a problematickou klauzuli vymazala. Podobný scénář se opakoval i v případě Adobe, Zoom, Dropbox, Slack a dalších SaaS platforem.

WeTransfer nebyli jediní

Další přešlap se „podařil“ společnosti Strava, která lidem umožňuje zaznamenávat své cvičení a sdílet ho s ostatními. V roce 2018 zveřejnila mapu s vizualizací údajů, která zobrazuje všechny aktivity zaznamenané jejími uživateli. Touto cestou nechtěně odhalila i utajené informace o umístění a personálním obsazení vojenských základen a špionážních stanovišť po celém světě.

Administrativa Donalda Trumpa loni podpořila společnost Palantir, která buduje rozsáhlou centralizovanou datovou platformu. Ta má propojit citlivé záznamy obyvatel USA z klíčových agentur, včetně daňového úřadu (IRS), sociálního zabezpečení, imigračních databází a dalších. Cílem je pomocí AI v reálném čase analyzovat vzorce chování, upozorňovat na potenciální hrozby a podporovat rozhodování v oblasti veřejné bezpečnosti a odhalování podvodů.

Někteří odborníci to nazývají nejrozsáhlejší civilní sledovací infrastrukturou v historii USA. Organizace na ochranu občanských svobod se obávají nejen toho, kam údaje směřují, ale i kdo je kontroluje, jak se používají a co se stane, pokud jsou nesprávné. Bez jasného veřejného dohledu nebo právních zábran by se mohly použít pro politické účely, cílené sledování nebo dokonce pro represivní opatření vůči přistěhovalcům.

Neviditelná cena za služby

Mnohé nástroje využívající AI nepotřebují, aby osoba vykonala jakoukoli přímou činnost k tomu, aby o ní mohly shromažďovat údaje. Smart zařízení, jako jsou fitness náramky a hodinky, sbírají informace i prostřednictvím biometrických senzorů, rozpoznávání hlasu a sledování polohy. Domácí smart reproduktory neustále čekají na příkaz ke své aktivaci, a tak zachycují všechny rozhovory v jejich okolí. Zatímco dříve měli uživatelé zařízení Amazon Echo možnost omezit sběr osobních údajů, od loňského roku se všechny hlasové nahrávky standardně odesílají do cloudu Amazonu. Uživatelé smart asistentky Alexa tak již nemají možnost tuto funkci vypnout.

Mnoho lidí se zase obrací na chatboty s otázkami, o kterých by nezvládali mluvit s jinou osobou, například s intimními, trestněprávními, zdravotními či mezilidskými tématy. Chatboti však ve skutečnosti nikdy nejsou úplně zdarma. I když je uživatelům řečeno, že jejich údaje budou použity k trénování modelu, zřídka jsou informováni o potenciálních rizicích nebo jiných způsobech, jakými by mohla být jejich data zneužita.

S progresem technologií se musí vyvíjet i naše chápání osobní identity a vlastnictví. Právní rámce by neměly bránit pokroku, ale měly by najít rovnováhu mezi ochranou práv jednotlivců a podporou technologického pokroku. Přestože údaje uživatelů by měly chránit zákony a nařízení, jako je Obecné nařízení o ochraně osobních údajů v Evropské unii (GDPR) či Kalifornský zákon o ochraně soukromí spotřebitelů (CCPA), legislativní proces často zaostává za rychlostí vývoje a mírou využívání AI. Momentálně se doporučuje předpokládat, že jakékoli zařízení nebo platforma využívající AI sbírá údaje o vašich vstupech, chování a vzorcích.

Jak uvedl mediální teoretik Douglas Rushkoff – pokud je služba zdarma, vy jste produktem.

Jak chránit svá data

„Organizace jsou zranitelnější vůči kybernetickým hrozbám. Důvodem je nárůst geopolitického napětí, hospodářská nestabilita a stále složitější provozní prostředí spolu s útoky využívajícími AI,“ říká Agustín Muñoz-Grandes, ředitel Accenture Security ve Španělsku a Portugalsku. „Kybernetická bezpečnost už nemůže být jen last-minute fix. Měla by být integrována již od fáze návrhu každé iniciativy využívající AI.“

Nemusíte být datový analytik, abyste porozuměli, jaké významné kroky se vyplatí zvážit. Níže jsme shromáždili 7 doporučení, pomocí kterých můžete lépe chránit své soukromé údaje:

1. Přečtěte si obchodní podmínky, protože je v nich často uvedeno, jak budou vaše údaje použity a zda budou poskytnuty třetím stranám. Při nedostatku transparentnosti vyžadujte od poskytovatelů, aby vám srozumitelným způsobem vysvětlili, jaká práva si nárokují, jak se údaje využívají a co je zakázáno.
2. Pokud vaše firma používá nástroje jako WeTransfer, Zoom nebo Slack ke sdílení citlivého obsahu, přehodnoťte míru, jakou se vystavujete riziku. Alternativou jsou evropská řešení, která kladou důraz na soukromí, jako je Wire, Pydio, Nextcloud a další.
3. Snažte se omezit sdílení dat narození, telefonních čísel a adres, abyste minimalizovali šíření osobních údajů.
4. Chatbotovi prozraďte jen to, co byste řekli před hledištěm obrovského stadionu. Kromě toho využívejte více chatbotových služeb, abyste rozložili svou stopu a žádná o vás „nevěděla“ všechno.
5. Klíčová jsou nastavení ochrany soukromí v aplikacích a prohlížečích. Omezením přístupu k poloze, mediálním souborům a kontaktům snižujete rozsah sběru údajů.
6. Využívejte nástroje pro anonymizaci, například službu VPN, proxy či šifrované aplikace pro zasílání zpráv.
7. Vytvářejte si silná hesla a používejte dvoufaktorovou autentizaci. Pravidelně se informujte o nových hrozbách a doporučeních odborníků.