Wieso sich Ashton Kutcher für unsere Chats interessiert

Kutcher wollte darüber sprechen, wie sexueller Missbrauch an Kindern durch Gesetzgebung auf europäischem Level bekämpft werden kann. Ein hehres Ziel mag man meinen. Damals wurde diese ungewöhnliche Kontaktaufnahme eher belustigt rezipiert - Kevin Kühnert wollte sich daraufhin mit Leonardo DiCaprio über das Sozialstaatskonzept der SPD austauschen. Wenn man damals jedoch schon geahnt hätte, in welchem Zusammenhang diese etwas kuriose Twitter-Episode wieder relevant wird, wäre manchem wohl kaum zu Lachen zumute gewesen.

Am 11. Mai 2022 stellte die EU-Kommission ein neues Gesetz zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern im Internet vor. Der Vorschlag soll Messengeranbieter dazu verpflichten, private Inhalte nach Darstellungen von Kindesmissbrauch zu durchsuchen. Darüber hinaus soll zukünftig auch das sogenannte cyber grooming aufgedeckt werden: Situationen, in denen Erwachsene den sexuellen Kontakt zu Minderjährigen suchen. Neben den klassischen Kommunikationsdiensten wie WhatsApp, Signal oder E-Mail Diensten wären auch Dienste von der Verordnung betroffen, bei denen die persönliche Kommunikation nur eine Nebenfunktion ist. Dies soll vermutlich vor allem auf Online-Gaming Plattformen abzielen, in denen cyber grooming durchaus verbreitet ist. Es erfasst aber auch TikTok oder Quiz-Apps mit Chatfunktion. Die Verordnung würde Behörden ermächtigen, eben diesen Anbietern die sogenannte Chatkontrolle anzuordnen, wenn das Risiko besteht, dass der Dienst für Online-Kindesmissbrauch genutzt wird.

Schutzmechanismus oder Überwachungsinstrument?

Auf dem Papier ist also nicht automatisch jeder Kommunikationsdienst zur anlasslosen Überwachung von privaten Chats verpflichtet. Faktisch jedoch wird es alle allgemein zugänglichen digitalen Kommunikationsmittel treffen, da ein Risiko des Online-Kindesmissbrauchs wohl auf jeder Plattform zu bejahen ist. Dies ist auch sonst das Stilmittel des Entwurfs. Es wird viel von Schutzmaßnahmen gesprochen, die den ohnehin „minimalen“ und „gezielten Eingriff“ begrenzen soll. Stattdessen ist es – um mit den Worten von Kryptographie-Professor Matthew Green zu sprechen – „the most sophisticated mass surveillance machinery ever deployed outside of China and the USSR“.

Doch wie passt das mit der (zu Recht) hochgepriesenen Ende-zu-Ende Verschlüsselung von Messenger-Diensten zusammen? Die Antwort lautet wie so oft: Ja, aber. Denn erstens nutzen bei weitem nicht alle von dem Kommissionsentwurf betroffenen Anbieter Ende-zu-Ende Verschlüsselung (z.B. Facebook Messenger). Und zweitens verhindert diese Verschlüsselung, um bildlich zu sprechen, nur, dass der Postbote alle Briefe öffnet und liest; jedoch nicht, dass der Polizist dir schon beim Verfassen des Briefes über die Schultern schaut. Der Entwurf der Kommission zum Schutz vor sexueller Gewalt gibt zwar nicht den Mechanismus vor, mit dem die Verpflichtungen erfüllt werden müssen. Den Kommunikationsanbietern würde allerdings kaum eine andere Möglichkeit bleiben, als ihren Apps ein Feature hinzuzufügen, das die Nachrichten scannt, noch bevor sie abgeschickt und damit verschlüsselt werden.

Doch diese verpflichtende Massenüberwachung von privaten Chats ist schon an sich ein so eklatanter Eingriff in die Privatsphäre eines Jeden, dass der Zweck noch so heilig sein kann: Ein solcher staatlicher Eingriff kann kaum gerechtfertigt werden. Die Kommission will damit eine Hintertür schaffen, die die Privatheit von intimen Kommunikationswegen für immer erheblich einschränken könnte. Heute ist es der Schutz von Kindern, morgen ist es die Bekämpfung von Terrorismus und übermorgen die generelle Aufklärung von Straftaten. Und damit: Willkommen in Orwell’s 1984, willkommen in einer Welt, in der man sich nicht mehr darauf verlassen kann, dass intime Chats privat bleiben. Und wie sehr die ‚Terrorismus-Bekämpfung‘ in den letzten Jahrzehnten dazu genutzt wurde, Bürger*innenrechte in unerträglichem Maße einzuschränken, muss man auch keinem mehr erklären.

Der Gesetzesvorschlag wäre also schon sehr problematisch, wenn die Trefferquote von den eingesetzten Softwares bei 100% läge. Dies tut sie nur leider nicht – nicht mal annähernd. Selbst die Europäische Kommission geht davon aus, dass die Rate von Falschpositiven bei 12 % liegt. Das ist ja auch nur nachvollziehbar: Nicht einmal ein Mensch kann anhand von Bildern 17-Jährige von 18-Jährigen unterscheiden - rechtlich ist das allerdings ein großer Unterschied. Doch wie soll das dann ein Algorithmus bewerkstelligen? Diese falschpositiven Treffer würden wohl erst von menschlichen Mitarbeiter*innen einer nationalen Strafverfolgungsbehörde aussortiert. Was eine schöne Vorstellung: Potenziell sehr intime Nachrichten werden zu Tausend an Behörden weitergeleitet, nur um festzustellen, dass es sich dabei nicht um strafbare Inhalte handelt, sondern einfach um völlig legitimes Sexting.

Und auch hier würde es vermutlich zu einem Effekt kommen, den man aus dem Umgang mit Hate Speech im Netz kennt: dem Over-Blocking. Um ja keine strafbaren Inhalte zu übersehen und dann gegebenenfalls vom Staat sanktioniert zu werden, wird der Filter der Algorithmen im Zweifel eher grob eingestellt. Dass dabei die Meinungsfreiheit hinten runterfällt, war den Social-Media-Plattformen schon bei dem Kampf gegen Hate Speech recht egal. Und noch mehr falsche Treffer bedeuten ein Meer an völlig legalen Nachrichten, in denen Behörden zu ertrinken drohen. Dies würde die Behörden davon abhalten, effektiveren Maßnahmen nachzugehen, wie zum Beispiel die unverzügliche Löschung von strafbaren Inhalten.

Und was hat das jetzt alles mit Ashton Kutcher zu tun?

Der Schauspieler ist Gründer von Thorn, eine selbsternannte Charity Organisation, die sich den Kampf gegen Kindesmissbrauch auf die Fahnen geschrieben hat. Thorn setzt sich jedoch nicht nur für das Wohl der Kinder ein; sie hat auch eine Software namens „Safer“ entwickelt, die nach eigenen Angaben die erste umfassende Erkennungssoftware für Kindesmissbrauchsinhalte eines Drittanbieters ist. Auch an einer Software, die das Grooming erkennen soll, arbeitet Thorn. Und für diese Softwares betreibt Thorn auch sehr weitreichende Lobby bei EU-Gesetzgeber*innen. Dass Thorn das Recht auf Privatsphäre als nicht so bedeutend einschätzt, zeigt auch ein Blogpost auf ihrer Website, der vor einer Erweiterung der Ende-zu-Ende Verschlüsselung warnt. Es ist also durchaus zu bezweifeln, dass Ashton Kutcher mit seinem relativ ungewöhnlichen Annäherungsversuch an deutsche Politiker*innen nur altruistische Zwecke verfolgt hat. Im Gegenteil: Der Schluss liegt sehr nahe, dass er primär für die Software seiner Organisation werben wollte. Dafür ein solch wichtiges Thema wie den Kampf gegen Kindesmissbrauch zu nutzen, muss man erstmal mit seinem Gewissen vereinbaren können. Anscheinend hat Kutcher mit solchen moralischen Verrenkungen jedoch keine größeren Probleme.

Und was nun? Der von der Kommission eingebrachte Gesetzesvorschlag könnte zwar von den Mitgliedsstaaten oder dem EU-Parlament abgelehnt werden, doch dafür ist das Ziel, gegen Kindesmissbrauch vorzugehen, den Teilen des EU-Parlament sowie den nationalen Regierungen ein zu wichtiges.. Neben der Zustimmung traf der Vorschlag allerdings in der deutschen Bundesregierung und bei einigen EU-Parlamentarier*innen auch bereits auf Kritik. Daher wird der Vorschlag zwar mit Sicherheit noch abgemildert, eine Ablehnung ist aber eher unwahrscheinlich. Diesbezüglich kommt dem EuGH eine entscheidende Rolle zu. Dieser hat sich bei vergleichbaren Fragen äußerst kritisch gezeigt und regelmäßig betont, dass Eingriffe in die Privatsphäre auf das absolute Notwendige und auf Einzelfälle beschränkt werden müssen. Wenn der EuGH seine Rechtsprechungslinie fortsetzt, kann diese anlasslose, eben nicht auf den Einzelfall beschränkte Überwachung nicht der Prüfung mit Art. 7 (Recht auf Privatsphäre) und Art. 8 (Recht auf Datenschutz) der Grundrechte-Charta standhalten.

Darüber hinaus muss aber auch die Zivilgesellschaft aktiviert werden, ähnlich wie bei den Massenprotesten gegen sogenannte Upload-Filter. Wie erfolgreich diese Proteste letztendlich waren, kann dahingestellt bleiben. Es würde jedoch zweifellos den Druck auf die europäischen Gesetzgeber erhöhen. Leider ist ein vergleichbarer Aufschrei bisher nicht in Sicht, obwohl die Grundrechtseinschränkung durch die Chatkontrolle als sehr viel fundamentaler eingeschätzt werden kann. Deswegen: Spread the news! Alle Europäer*innen müssen darauf aufmerksam gemacht werden, was für eklatante Folgen dieses Gesetz hätte.