Kinderhandys müssen bis September Nacktbilder blockieren, so die britische Regierung

Entwickeln Sie etwas, das es noch nicht gibt. Sammle dabei keine Daten. Machst du es falsch, könnte der CEO strafrechtlich verfolgt werden. Das kommt dem Ultimatum nahe, das die britische Regierung Apple und Google am 8. Juni gestellt hat. Die beiden Unternehmen haben drei Monate Zeit, um Schutzmaßnahmen auf Geräteebene einzuführen, die Nacktdarstellungen auf allen in Großbritannien verkauften Smartphones und Tablets blockieren. Tun sie dies nicht, wird die Regierung gesetzliche Maßnahmen ergreifen – einschließlich Geldstrafen und, als letztes Mittel, strafrechtlicher Haftung für die Chefs der Tech-Unternehmen.

Premierminister Keir Starmer kündigte diesen Schritt auf der London Tech Week an und erklärte gegenüber den Unternehmen:

„Wenn sie sich dagegen entscheiden, werden wir handeln und das Gesetz ändern.“

Die Richtlinie ist klar formuliert. Die Umsetzung ist es nicht.

Was ist bereits auf dem Handy Ihres Kindes installiert und was nicht?

Beide Unternehmen haben bereits Maßnahmen ergriffen, um zu verhindern, dass Kinder mit Nacktbildern in Berührung kommen. Apples Funktion „Kommunikationssicherheit“ warnt Kinder mit einem Kinderkonto, wenn sie über „Nachrichten“, „AirDrop“, „FaceTime“ und andere Apps Bilder und Videos mit Nacktdarstellungen senden oder empfangen. Auf der Worldwide Developer Conference (WWDC) in dieser Woche wurde die Funktion um neue Funktionen erweitert.

Die Warnungen vor sensiblen Inhalten von Google verwischen sensible Bilder in Google Messages für beaufsichtigte Nutzer und angemeldete, unbeaufsichtigte Jugendliche – allerdings gilt diese Funktion nur für Bilder, nicht für Videos.

Apple wird in Großbritannien und einigen anderen Ländern bald verlangen, dass Nutzer bestätigen, dass sie über 18 Jahre alt sind, um auf bestimmte Funktionen ihres Smartphones zugreifen zu können. Dazu gehört je nach Region eine Altersüberprüfung anhand eines amtlichen Ausweises, von Zahlungsdaten oder anderer Verifizierungsmethoden.

Nach Ansicht der britischen Regierung reichen diese Maßnahmen nicht aus. Sie bemängelt, dass die bestehende Nackterkennung nicht auf die Kamera oder andere Apps, Messaging-Dienste von Drittanbietern oder Suchfunktionen angewendet wird. Mit anderen Worten: Die Schutzmaßnahmen lassen den größten Teil des Smartphones unberücksichtigt. Die Kamera, WhatsApp, Signal, Safari und die Fotobibliothek liegen alle außerhalb des Schutzbereichs, von dem Eltern möglicherweise annehmen, dass er bereits besteht.

Ist ein datenschutzkonformes Scannen möglich?

Die Mitteilung enthält zudem einen Satz, der sich nur schwer mit dem Rest vereinbaren lässt:

„Unternehmen müssen diese Maßnahmen einführen, ohne die Privatsphäre zu gefährden oder Daten zu erheben.“

Erwachsene können sich abmelden, jedoch nur nach Durchführung einer Altersüberprüfung.

Das ist eine große Herausforderung. Privacy argumentieren, dass die Altersüberprüfung unweigerlich neue Risiken bei der Datenerhebung mit sich bringt, selbst wenn Unternehmen versuchen, die gespeicherten Informationen auf ein Minimum zu beschränken. Was auch immer Apple und Google entwickeln, eine Form der Datenerfassung scheint unvermeidlich. Wenn Führungskräfte bei Nichteinhaltung persönlich haftbar gemacht werden können, muss jemand nachweisen können, was das System wann getan hat.

Der Beweis der Regierung dafür, dass all dies realisierbar ist, stützt sich auf ein einziges Produkt: HarmBlock von SafeToNet, das das Innenministerium als „bewährtes Beispiel“ für einen von Haus aus sicheren Geräteschutz bezeichnet. Der Quellcode von HarmBlock (der nicht öffentlich zugänglich ist) analysiert Bilder und Live-Streams vollständig auf dem Gerät selbst.

Datenschutzorganisationen zeigten sich von der Ankündigung nicht begeistert. „Big Brother Watch“ wies darauf hin, dass Kinder leicht auf Geräte zugreifen könnten, die auf Erwachsene registriert sind, und warnte, dass obligatorische Identitätsprüfungen für Erwachsene „das Ende der Anonymität und der Privatsphäre im Internet“ bedeuten würden.

Die private Messaging-App Signal erklärte, die Zusicherung, dass die Überprüfung ausschließlich auf dem Gerät selbst erfolge, sei „ein schwacher Trost“, da die Reichweite des Systems letztlich nicht von der Technologie, sondern von der Regierung bestimmt werde, unabhängig davon, wo es zum Einsatz komme:

„Sein Anwendungsbereich wird von den Launen und Verboten der Regierung bestimmt werden, die heute Nacktheit und morgen politische Äußerungen unterbinden.“

Apple hat das schon einmal versucht. Im Jahr 2021 kündigte das Unternehmen einen separaten Plan an, mit dem bekannte Bilder von sexuellem Kindesmissbrauch auf Geräten durch den Abgleich von Bild-Hashes mit einer Datenbank bekannter Inhalte erkannt werden sollten, und legte diesen Plan nach anhaltender Kritik von Datenschützern stillschweigend auf Eis.

Was Familien heute tun können

Der September wird entweder mit freiwilliger Einhaltung der Vorschriften oder mit einer überstürzten Gesetzgebung enden. So oder so ändert das nichts daran, was sich derzeit auf dem Handy Ihres Kindes befindet. Derzeit sind die von Teenagern am häufigsten genutzten Messaging-Kanäle nicht geschützt. Viele Fälle von Grooming und Sextortion beginnen in Apps, die außerhalb der integrierten Sicherheitsfunktionen des Betriebssystems laufen. Eltern und Kinder können zusätzliche Schutzmaßnahmen ergreifen:

Aktivieren Sie die Kommunikationssicherheit auf iPhones mit einem Kinderkonto und die Warnungen vor sensiblen Inhalten in Android beaufsichtigten Android . Das mag das Problem zwar nur an einer einzigen Stelle abmildern, ist aber besser als gar nichts.
Sprechen Sie mit Ihren Kindern über erzwungenes Teilen. Die Internet Watch Foundation berichtete, dass 91 % der Meldungen, die sie im Jahr 2024 geprüft hat, selbst erstellte Inhalte enthielten, die von den Kindern selbst übermittelt wurden. Kinder werden oft dazu gezwungen, explizites Material an Online-Täter zu senden. Die Internet Watch Foundation stellt eine Liste mit Hilfsangeboten für Personen bereit, die dazu gezwungen werden, intime Bilder online zu versenden.
Beachten Sie die grundlegenden Sicherheitsmaßnahmen, die über jede Richtlinie hinausgehen: Verwenden Sie für alle Konten individuelle Passwörter und richten Sie eine Multi-Faktor-Authentifizierung ein.
Seien Sie vorsichtig, wenn Sie Bilder von Kindern, die Sie kennen, online teilen. Kriminelle nutzen zunehmend nicht-explizite Bilder, um mithilfe von KI sexuelle Inhalte zu erstellen, die wiederum für Erpressungszwecke verwendet werden können.