Am 11. Mai 2022 hat die EU-Kommission ihren kontroversen Gesetzesvorschlag mit der Chatkontrolle gemacht. Teile der CSA-Verordnung (\u201eVerordnung zur Festlegung von Vorschriften zur Pr\u00e4vention und Bek\u00e4mpfung des sexuellen Missbrauchs von Kindern\u201c) sehen unverh\u00e4ltnism\u00e4\u00dfige Eingriffe in Grundrechte aller EU-B\u00fcrger*innen vor, welche gleichzeitig die IT-Sicherheit von allen Ger\u00e4ten massiv schw\u00e4chen w\u00fcrden. Aufgrund dieser Probleme und da die EU-Kommission nach wie vor nicht von den problematischen Bestimmungen abr\u00fccken will, ist auch \u00fcber drei Jahre nach dem Verordnungsvorschlag keine Einigung der f\u00fcr die Gesetzgebung relevanten Institutionen erfolgt. Ab Juli 2025 \u00fcbernimmt die Regierung von D\u00e4nemark die Pr\u00e4sidentschaft im Rat der EU und wird damit die weiteren Verhandlungen zur Chatkontrolle koordinieren. In diesem Blogartikel fassen wir zusammen, worum es bei der Chatkontrolle geht, was bisher passiert ist und was als n\u00e4chstes zu erwarten ist.<\/p>\n\n\n\n
Die EU-Kommission hat vorgeschlagen, dass alle Anbieter*innen von technischen Kommunikationsdiensten dazu verpflichtet werden k\u00f6nnen, anlasslos private Nachrichten zu durchleuchten. Besonders umstritten ist dabei der Einsatz von \u201eClient-Side-Scanning\u201c. Dabei w\u00fcrde das eigene Ger\u00e4t von Nutzer*innen daf\u00fcr genutzt, die Inhalte von versendeten Nachrichten zu scannen, noch bevor diese versendet werden. Damit w\u00fcrde die Ende-zu-Ende-Verschl\u00fcsselung untergraben, welche normalerweise das Fundament f\u00fcr die Sicherheit und Vertraulichkeit von digitaler Kommunikation ist. Betroffen w\u00e4ren zum Beispiel Messenger wie WhatsApp oder Signal, aber potentiell alle digitalen Kommunikationsdienste wie E-Mail.<\/p>\n\n\n\n
N\u00f6tig w\u00e4re eine technische Infrastruktur, die eine effektive Ende-zu-Ende-Verschl\u00fcsselung aushebelt und damit Sicherheitsl\u00fccken schafft, die von verschieden Akteuren ausgenutzt werden k\u00f6nnen und die sichere Kommunikation auf einer technischen Ebene fundamental und unverantwortlich untergraben w\u00fcrde. Da die Analyse der Kommunikation mittels fehleranf\u00e4lliger KI-Systeme geschehen soll, w\u00fcrde die Chatkontrolle selbst bei kleinsten Fehlerquoten zu einer Unmenge an Falschmeldungen f\u00fchren, die nicht nur potentiell fatale Folgen f\u00fcr die Betroffenen haben w\u00fcrden, sondern die begrenzten Kapazit\u00e4ten der Polizeibeh\u00f6rden schnell \u00fcberfordern w\u00fcrden \u2013 w\u00e4hrend organisierte P\u00e4dokriminelle rasch andere Verbreitungswege finden w\u00fcrden.<\/p>\n\n\n\n
Begr\u00fcndet wird die Chatkontrolle mit dem Kinderschutz. Aber: Der eingeschlagene Weg der Europ\u00e4ischen Kommission mit seinem Fokus auf technische Systeme als vermeintliche L\u00f6sung komplexer sozialer Probleme ist im Ansatz verfehlt. Die vorgeschlagene Chatkontrolle gef\u00e4hrdet insbesondere die Sicherheit von unschuldigen B\u00fcrger*innen und setzt sie einer anlasslosen Massen\u00fcberwachung aus, w\u00e4hrend P\u00e4dokriminelle andere Verteilungswege nutzen. Verschl\u00fcsselte und sichere Kommunikation ist die Grundlage f\u00fcr politischen Aktivismus und Arbeitsbasis f\u00fcr Berufsgeheimnistr\u00e4ger*innen \u2013 wie beim investigativen Journalismus, dem Anw\u00e4ltinnen-Geheimnis oder der \u00e4rztlichen Schweigepflicht. Nicht nur Schutz von Gesch\u00e4ftsgeheimnissen, sondern unbedingt notwendig im digitalen Zeitalter f\u00fcr jede vertrauliche und intime Kommunikation und das Leben in einer demokratischen Gesellschaft. <\/p>\n\n\n\n
In einem Fortschrittsbericht zu den Verhandlungen<\/a> hat Polen, welches bis Ende Juni die Ratspr\u00e4sidentschaft im EU-Ministerrat inne hat, festgestellt, dass auch weiterhin keine Einigung zur Chatkontrolle m\u00f6glich ist. Die Verordnung entwickelt sich immer mehr zur gruseligen europapolitischen Untoten, die l\u00e4ngst beerdigt und begraben geh\u00f6rt, der aber immer wieder \u2013 zumeist halbj\u00e4hrlich von neuen Ratspr\u00e4sidentschaften ein neues unwirkliches Leben einzuhauchen versucht wird. Denn die Chatkontrolle steckt weiterhin in der wenig transparenten Verhandlungsmaschinerie des Rates der EU fest, wo sich auch mehr als drei Jahre nach Einbringen des Verordnungsvorschlags durch die Kommission im Mai 2022 die ben\u00f6tigte qualifizierte Mehrheit unter den Regierungen f\u00fcr eine gemeinsame Position nicht finden l\u00e4sst.<\/p>\n\n\n\n <\/p>\n\n\n\n Die Chatkontrolle, wie sie von der Kommission vorgeschlagen wurde und im Rat diskutiert wird, sieht weiter das anlasslose, automatisierte Scannen und Analysieren der gesamten elektronischen Kommunikation aller Nutzer*innen von Kommunikationsdiensten auf der Suche nach Missbrauchsdarstellungen vor \u2013 ganz unabh\u00e4ngig ob es irgendwelche Anhaltspunkte f\u00fcr einen Verdacht oder eine Gefahr gibt.<\/p>\n\n\n\n
Das Gesetz ist gemessen an der Vielzahl von Stellungnahmen welche der Europ\u00e4ische Dachverband von Digital- und Grundrechtsorganisationen zusammengetragen hat<\/a> wohl der jemals am meisten kritisierte Gesetzesvorschlag der EU-Kommission \u00fcberhaupt. In die Kritik reihen sich Sachverst\u00e4ndigen-Fachverb\u00e4nde ein, z.b. bei einer Anh\u00f6rung zur Chatkontrolle im Bundestag<\/a>. Kinderschutzorganisationen sprechen sich gegen Massen\u00fcberwachung<\/a> aus. Sicherheitsbeh\u00f6rden warnen vor den Sicherheitsrisiken<\/a> durch ein Schw\u00e4chen von Verschl\u00fcsselung. Juristische Gutachten haben die Unvereinbarkeit der Chatkontrolle mit dem Grundgesetz<\/a> und mit europ\u00e4ischen Grundrechten<\/a> dokumentiert. Es gab Proteste gegen die Pl\u00e4ne zum Scannen ihrer privaten Nachrichten von Fu\u00dfballfans in Stadions<\/a> genauso wie von Digitalrechtsaktivisten auf der Stra\u00dfe<\/a>. Auch die Anbieter*innen verschl\u00fcsselter Dienste warnen vor einer Schw\u00e4chung ihrer Produkte<\/a>. Zuletzt warnte auch der Thinktank Centre for European Policy (cep)<\/a> vor den Gefahren digitaler Hintert\u00fcren f\u00fcr die Wirtschaft und f\u00fcr kleine und mittlere Unternehmen.<\/p>\n\n\n\n
Dabei sch\u00f6pfen zumindest in Deutschland die Strafverfolgungsbeh\u00f6rden bestehende M\u00f6glichkeiten bisher gar nicht aus. Eine investigative Recherche von Strg_F<\/a> zeigt, dass Polizeibeh\u00f6rden strafbare Aufnahmen von sexualisierter Gewalt an Kindern und Jugendlichen in p\u00e4dokriminellen Foren nicht l\u00f6schen lassen, obwohl dies m\u00f6glich w\u00e4re. Das hatte Strg_F in einer gemeinsamen Recherche mit Panorama und dem Spiegel<\/a> bereits 2021 nachgewiesen. Obwohl die Politik daraufhin Besserung versprochen hatte, wurde von der Konferenz deutscher Innenminister*innen (IMK) 2023 ein geheimer Beschluss gefasst<\/a>, Strafverfolgungsbeh\u00f6rden weiter nicht zum L\u00f6schen bekannter Inhalte zu verpflichten. Die IMK m\u00f6chte Medienberichten zufolge<\/a> an dieser unverst\u00e4ndlichen Praxis festhalten.<\/p>\n\n\n\n
Chatkontrolle \u2013 was ist bisher passiert?<\/h1>\n\n\n\n
Anstatt europaweit Ma\u00dfnahmen zu koordinieren, derartige Missbrauchsdarstellungen aus dem Internet zu entfernen, hat sich die EU-Kommission entschlossen auf eine technische Wunderl\u00f6sung zu setzen und damit die gesamte Bev\u00f6lkerung einer anlasslosen Massen\u00fcberwachung zu unterwerfen \u2013 ein Ansinnen, das wie zu Erwarten auf die entschiedene Ablehnung nicht nur der Zivilgesellschaft, sondern auch der Mehrheit des Europaparlaments sowie einiger nationaler Regierungen stie\u00df. Seither wird vor allem im Rat der EU \u00fcber die Chatkontrolle gestritten.<\/p>\n\n\n\n
Vor einem Jahr ist die belgische Ratspr\u00e4sidentschaft mit dem Versuch einer Einigung gescheitert, da nicht gen\u00fcgend Mitgliedsstaaten bereit sind, das evident rechtswidrige und unverantwortliche Vorhaben der Kommission zu tragen. Ungarn hat Ende 2024 dann sogar versucht, Regierungen \u00f6ffentlich blo\u00dfzustellen, welche sich kritisch zu den Gefahren der Chatkontrolle positionieren, was der der Orban-Regierung jedoch letztlich auf die F\u00fc\u00dfe fiel. So haben mehrere Regierungen dort ausf\u00fchrlich die Probleme der Chatkontrolle beschrieben. Nancy Faeser, Innenministerin a.D., hat dort f\u00fcr die deutsche Bundesregierung erkl\u00e4rt<\/a>, warum das Gesetzgebungsverfahren so bisher nicht zustimmungsf\u00e4hig ist:<\/p>\n\n\n\n
\u201eTrotz der bisher erzielten Fortschritte ist die Bundesregierung der Auffassung, dass an der vorgeschlagenen Verordnung noch entscheidende \u00c4nderungen vorgenommen werden m\u00fcssen. Aus deutscher Sicht d\u00fcrfen Ma\u00dfnahmen zum Scanning verschl\u00fcsselter privater Kommunikation sowie Ma\u00dfnahmen, die die Ende-zu-Ende-Verschl\u00fcsselung aufbrechen, schw\u00e4chen, ver\u00e4ndern oder umgehen, nicht in die vorgeschlagene Verordnung aufgenommen werden. Dazu geh\u00f6ren insbesondere Technologien f\u00fcr das Client-Side-Scanning, die auf Nutzerger\u00e4te angewandt werden. Vor diesem Hintergrund enth\u00e4lt sich Deutschland der Stimme.\u201c<\/em>
Seit Januar 2024 hat die polnische Regierung, die sich im Rat immer wieder gegen die Chatkontrolle ausgesprochen hat, versucht, eine deutlich entsch\u00e4rfte Version kompromissf\u00e4hig zu machen. Ein Vorhaben, das nicht zuletzt den Hardlinern unter den Bef\u00fcrworter*innen der massiven Grundrechtseingriffe gescheitert ist.<\/p>\n\n\n\n
Wie geht es mit der Chatkontrolle weiter?<\/h1>\n\n\n\n
Wenn nun ab Juli die d\u00e4nische Regierung den Vorsitz im Rat \u00fcbernimmt werden die Verhandlungen k\u00fcnftig von einem eifrigen Verfechter der Kommissionspl\u00e4ne geleitet. Darum ist leider kaum zu erwarten, dass sie sich M\u00fche geben wird, einen ausgewogenen und technisch umsetzbaren Kompromiss einzubringen, der die Grundrechte der europ\u00e4ischen Bev\u00f6lkerung zu wahren versucht.<\/p>\n\n\n\n
Auch vonseiten der Kommission ist bislang kein Einlenken erkennbar. Diese h\u00e4tte \u2013 gerade angesichts der bestehenden Blockade im Rat und der einhelligen Kritik von juristischen und technischen Expert*innen \u2013 jederzeit die M\u00f6glichkeit, ihren Vorschlag zur\u00fcckzuziehen und Ma\u00dfnahmen vorzuschlagen, die tats\u00e4chlich geeignet w\u00e4ren, Kinder zu sch\u00fctzen. Stattdessen soll eine dystopische \u00dcberwachungsinfrastruktur aufgebaut werden, die die gesamte Bev\u00f6lkerung unter Generalverdacht stellt und ihre gesamte Kommunikation der automatisierten Analyse durch die Provider \u2013 nicht selten BigTech \u2013 und den staatlichen Beh\u00f6rden ausliefert.<\/p>\n\n\n\n
Die zust\u00e4ndige EU-Innenkommissarin Ylva Johansson hat auch vor \u00e4u\u00dferst fragw\u00fcrdigen Mitteln nicht zur\u00fcckgeschreckt \u2013 wie eine investigative Recherche zu Lobbyverstrickungen der EU-Kommission mit KI-Unternehmen beim Erarbeiten des Gesetzesvorschlags<\/a> gezeigt hat. Seit sie ihren Posten r\u00e4umen musste, ist allenfalls ein sachlicherer Tonfall vonseiten der Kommission zu vernehmen. In der Sache verfolgt aber auch der neue Kommissar Magnus Brunner das Projekt weiter und ist bislang nicht bereit, den Verordnungsvorschlag zur\u00fcckzuziehen.<\/p>\n\n\n\n