Britské ministerstvo vnitra prosazuje blokování nahoty na úrovni OS a ověřování věku

Britské ministerstvo vnitra vyzývá Apple a Google k implementaci opatření pro blokování nahoty a ověřování věku na úrovni operačního systému, čímž efektivně tlačí technologické giganty k oživení kontroverzní technologie klientského skenování (CSS). Tato technologie byla dříve opuštěna kvůli obavám o soukromí.

Navrhovaná opatření a implementace

Podle navrženého rámce by explicitní obrázky byly ve výchozím nastavení blokovány na chytrých telefonech a počítačích. Uživatelé by museli ověřit svůj věk prostřednictvím biometrických kontrol nebo oficiálního průkazu, aby mohli omezení obejít. Jak uvádí Financial Times, původně byla tato opatření představena jako dobrovolná iniciativa zaměřená na snížení násilí vůči ženám a dívkám. Úředníci však naznačili, že by tato opatření mohla být povinná pro všechna zařízení prodávaná ve Velké Británii.

Tento posun představuje významný odklon od regulace obsahu na sociálních platformách k přímému dohledu nad hardwarem. Zastánci soukromí varují, že takový mandát by mohl narušit šifrování typu end-to-end (E2EE) a zároveň vytvořit sledovací infrastrukturu na osobních zařízeních. Tyto obavy připomínají odpor, který zmařil návrh společnosti Apple na skenování CSAM v roce 2021.

Výchozí detekce nahoty a ověřování věku

Iniciativa konkrétně požaduje, aby Apple a Google integrovali algoritmy pro detekci nahoty přímo do svých operačních systémů iOS a Android. Na rozdíl od stávajících rodičovských kontrol, které jsou volitelné a obvykle spravované opatrovníky, by navržený systém fungoval jako výchozí filtr pro všechny uživatele, bez ohledu na jejich věk.

Podle Financial Times tento přístup zahrnuje integraci detekčních schopností hluboko do softwarové architektury, což umožňuje zachytávání obsahu ještě před jeho opuštěním zařízení. Mluvčí ministerstva vnitra upřesnil, že „Ministerstvo vnitra chce vidět operační systémy, které zabrání zobrazování jakékoli nahoty na obrazovce, pokud uživatel neověří, že je dospělý, prostřednictvím metod, jako jsou biometrické kontroly nebo oficiální průkaz totožnosti.“

Rozšíření na desktopové systémy

Ačkoli je počáteční zaměření na chytré telefony, úředníci naznačili, že politika by se mohla rozšířit na desktopové operační systémy, včetně macOS a Windows. To odráží strategický posun od odpovědnosti poskytovatelů služeb podle zákona o online bezpečnosti k zaměření na samotná zařízení.

Ačkoli je momentálně prezentováno jako dobrovolné opatření, vláda zvažuje legislativu, která by tyto funkce učinila povinnými pro všechna zařízení prodávaná ve Velké Británii. Další ustanovení mohou zahrnovat odstupňovaný systém omezení zařízení pro odsouzené zločince. Například návrh naznačuje, že pachatelé sexuálních trestných činů na dětech by museli mít takové blokátory trvale aktivované.

Obavy o soukromí a bezpečnost

Implementace detekce nahoty na úrovni OS vyžaduje technologii CSS, protože moderní šifrované aplikace pro zasílání zpráv, jako jsou WhatsApp, iMessage a Signal, neumožňují analýzu obsahu na straně serveru, aniž by narušily šifrovací protokoly. Aby se tento limit obešel, skenování by probíhalo lokálně na zařízení před zašifrováním a odesláním zpráv.

Tento návrh odráží opuštěnou technologii Apple „NeuralHash“, která měla za cíl skenovat iCloud Photos na přítomnost CSAM přímo na zařízení. Apple od plánu upustil v prosinci 2022 po kritice ze strany zastánců soukromí, kteří argumentovali, že to podkopává osobní vlastnictví a vytváří potenciální zadní vrátka pro autoritářské zneužití.

Bezpečnostní výzkumníci varují, že vývoj schopnosti skenování pro jednu kategorii obsahu by mohl otevřít cestu pro širší aplikace, jako je identifikace politického nesouhlasu nebo jiných „ilegálních“ materiálů. Kromě toho by zařízení na bázi AI mohla mít problém rozlišovat mezi konsensuálním obsahem dospělých, lékařskými snímky a uměleckým materiálem, což zvyšuje riziko automatizované cenzury.

Nařizování skenování na úrovni OS efektivně obchází E2EE, čímž poskytuje dodavatelům operačního systému přístup k obsahu, který by jinak zůstal během přenosu šifrovaný. Pro Apple by znovuzavedení této technologie bylo v rozporu s jeho dlouhodobým závazkem k ochraně soukromí, což je základní kámen jeho značky.

Srovnání s globálními přístupy

Přístup Spojeného království zaměřený na hardware ostře kontrastuje s australskou strategií zaměřenou na platformy. Austrálie zavedla přísná opatření pro ověřování věku, například zákaz přístupu na sociální sítě pro uživatele mladší 16 let, což donutilo platformy jako Meta a Snap deaktivovat účty mladších uživatelů. V reakci na to podal Reddit žalobu k Nejvyššímu soudu s tvrzením, že omezení účasti mládeže podkopává demokratický proces. Australské úřady tyto nároky odmítly jako rétoriku motivovanou ziskem, přičemž ministr zdravotnictví Mark Butler uvedl: „Myšlenka, že jde o akci Redditu na ochranu politických svobod mladých lidí, je naprostý nesmysl.“

Tyto rozdílné strategie ilustrují rostoucí trend regionálně specifických regulací, které komplikují operace globálních technologických platforem. Přizpůsobení infrastruktur pro splnění různých místních požadavků riskuje zhoršení univerzality uživatelského zážitku.

Výzvy při vymáhání

Vynucení navrhovaného mandátu Spojeného království představuje jedinečné výzvy napříč různými ekosystémy. Model „walled garden“ společnosti Apple umožňuje těsnější kontrolu, což usnadňuje implementaci mandátů na úrovni OS. Naopak otevřený ekosystém Androidu představuje významné překážky při vynucování. Například uživatelé by potenciálně mohli obejít omezení rootováním svých zařízení nebo instalací vlastních ROM.

Navíc centralizace ověřování věku prostřednictvím biometrie přináší významná rizika pro soukromí. Databáze ověřených identit spojená s používáním zařízení by se stala vysoce atraktivním cílem pro hackery. Nutit dospělé uživatele k předkládání biometrických údajů nebo oficiálních dokladů k přístupu k legálnímu obsahu zvyšuje také míru tření, což by mohlo uživatele přimět k využívání VPN nebo neregulovaných zařízení. Kromě toho by infrastruktura potřebná k ověření identity milionů uživatelů mohla způsobit značné náklady, které by pravděpodobně byly přeneseny na spotřebitele.