Eine freie \u00dcbersetzung des Artikels „Be scanned \u2013 or get banned!“ von EDRi 30. Mai, 2024<\/a> und wird parallel auf der Homepage der Digitalen Gesellschaft<\/a> ver\u00f6ffentlicht.<\/p>\n\n\n\n Zum Ende ihrer Ratspr\u00e4sidentschaft versucht die belgische Regierung mit einem absurden Taschenspielertrick doch noch eine \u201eL\u00f6sung\u201c f\u00fcr die festgefahrene Situation um die Chatkontrolle im Rat herbeizuf\u00fchren. Doch auch der neue Vorschlag w\u00fcrde die Sicherheit der Menschen in der Europ\u00e4ischen Union massiv untergraben.<\/p>\n\n\n\n Ein von der belgischen Regierung kurz vor Ende ihrer Ratspr\u00e4sidentschaft vorgelegte \u201eKompromissvorschlag<\/a>\u201c sieht vor, dass Kommunikationsdienstleister ihre Nutzer*innen dazu auffordern sollen, dem automatisierten Scannen ihrer privaten Chats zuzustimmen \u2013 insbesondere auch mittels fehleranf\u00e4lliger KI-basierter Systeme. Wer dem nicht \u201efreiwillig\u201c zustimmt, darf keine Bilder, Videos oder URLs mehr versenden.<\/p>\n\n\n\n Die belgische Regierung, die derzeit die wenig beneidenswerte Aufgabe hat, einen Kompromiss zwischen den Mitgliedstaaten der Europ\u00e4ischen Union (EU) zu vermitteln, erkl\u00e4rte bereits vor einigen Monaten<\/a>, sie habe einen \u201eangemesseneren\u201c Weg<\/a> f\u00fcr dieses umstrittene Gesetz gefunden. Die Regierungen von L\u00e4ndern wie \u00d6sterreich, Frankreich, Polen, den Niederlanden, Italien, Estland, Finnland und nicht zuletzt die Bundesregierung haben Berichten zufolge w\u00e4hrend des gesamten Prozesses Bedenken angemeldet. Jetzt stehen sie jedoch unter enormen Druck, eine Einigung im Rat \u00fcber die CSA-Verordnung zu erzielen, selbst wenn sie dabei auf digitale Rechte verzichten und die technische Realit\u00e4t au\u00dfen vor lassen m\u00fcssen.<\/p>\n\n\n\n Denn der auf den 28. Mai datierte Ratstext (9093\/24) offenbart nunmehr, dass Belgien seinem Versprechen einer menschenrechtskonformen CSA-Verordnung nicht im Ansatz gerecht wird. Dieser neue Textentwurf \u00fcbernimmt die vielen Probleme, auf die eine Vielzahl zivilgesellschaftlicher Organisationen erst k\u00fcrzlich hingewiesen haben (z. B. ein groteskes Missverst\u00e4ndnis der Statistiken \u00fcber f\u00e4lschlicherweise gekennzeichnete Bilder; das Vers\u00e4umnis, Ende-zu-Ende-Verschl\u00fcsselung zu respektieren und eine Risikokategorisierungsmethode, die sichere und die Privatsph\u00e4re respektierende Dienste bestraft, w\u00e4hrend diejenigen belohnt werden, die systematisch die Privatsph\u00e4re der Menschen verletzen). Statt diese Probleme anzugehen, schafft der Vorschlag gleich noch mehr:<\/p>\n\n\n\n Dem neuen belgischen Ansatz liegt offenbar die Annahme zugrunde, dass es sich nicht um Massen\u00fcberwachung handelt, wenn die Menschen dem Scannen zustimmen. Dies ist nicht nur ein fundamental falsches Verst\u00e4ndnis von Massen\u00fcberwachung, sondern auch geltenden EU-Rechts. Denn eine Einwilligung in die Datenverarbeitung muss freiwillig erteilt werden und kann nicht mit der Drohung erzwungen werden, dass ohne diese Zustimmung keine Bilder mehr mit der Familie geteilt und keine Links mehr an Kolleg*innen geschickt werden k\u00f6nnen. Big-Tech-Plattformen haben ihre Nutzer jahrelang gezwungen, rechtswidrige Datenverarbeitungspraktiken als Bedingung f\u00fcr die Nutzung ihrer Dienste zu akzeptieren. Mit dem neuesten Text w\u00fcrden die EU-Regierungen buchst\u00e4blich zu Nachahmern dieser missbr\u00e4uchlichen Praktiken und w\u00fcrde Dark Patterns gesetzlich vorschreiben.<\/p>\n\n\n\n Hinzu kommt die vollkommen mangelhafte Praktikabilit\u00e4t eines solchen Mechanismus. Diejenigen, die Material \u00fcber sexuellen Kindesmissbrauch verbreiten wollen, werden sich einfach weigern, gescannt zu werden und zu einem anderen Dienst wechseln, wenn eine Aufdeckungsanordnung den Dienstanbieter dazu zwingt, die Freigabefunktion f\u00fcr nicht zustimmende Nutzer zu beschr\u00e4nken. Stattdessen werden s\u00e4mtliche Chats aller Nutzer*innen des Dienstes gescannt, die ihre Einwilligung erteilt haben. Sie geraten in das Schleppnetz der fehlerhaften KI-\u00dcberwachung mit potentiell schwerwiegenden Folgen, etwa f\u00fcr Teenager, deren einvernehmliche sexuelle Bilder gekennzeichnet und gemeldet<\/a> werden, bis hin zu denjenigen, deren Inhalte f\u00e4lschlicherweise als rechtswidriges Material gekennzeichnet<\/a> werden.<\/p>\n\n\n\n Der \u201eneue\u201c belgische Ansatz wird als \u201eUpload-Moderation\u201c bezeichnet. Doch trotz des sch\u00f6ner klingenden Namens es immer noch dieselbe Ma\u00dfnahme, die seit dem ersten Entwurf der Kommission massiver Kritik ausgesetzt ist: das massenhafte Durchsuchen der privaten Kommunikation von Menschen, die keiner Straftat verd\u00e4chtigt werden und das auch in Ende-zu-Ende-verschl\u00fcsselten Umgebungen. Technologie- und Cybersicherheitsexpert*innen haben immer wieder davor gewarnt<\/a><\/em> dass dies nicht sicher durchgef\u00fchrt werden kann – und die private Kommunikation von Aktivist*innen, Journalist*innen, jungen Menschen, Unternehmen und sogar Regierungen massiv gef\u00e4hrdet!<\/p>\n\n\n\n Als verlogene Augenwischerei entpuppt sich der Vorschlag indem er behauptet, dass Ende-zu-Ende-Verschl\u00fcsselung nicht beeintr\u00e4chtigt w\u00fcrde, wenn die \u201eUpload-Moderation\u201c (also das Scannen) vor der Verschl\u00fcsselung der Nachricht erfolgt. Dies erfordert jedoch notwendig die Verwendung von Client-Side-Scanning (CSS) \u2013 eine Form von Spyware auf Endnutzerger\u00e4ten. Cybersicherheitsexpert*innen haben wiederholt und eindringlich darauf hingewiesen, dass das clientseitige Scannen die Sicherheit der privaten Kommunikation untergr\u00e4bt und die Endger\u00e4te der Menschen f\u00fcr eine Reihe von Angriffen b\u00f6swilliger Akteure anf\u00e4llig macht:<\/p>\n\n\n\n \u201eCSS birgt naturgem\u00e4\u00df ernsthafte Sicherheits- und Datenschutzrisiken f\u00fcr die gesamte Gesellschaft, w\u00e4hrend die Unterst\u00fctzung der Strafverfolgungsbeh\u00f6rden durch CSS bestenfalls problematisch sein kann. Es gibt zahlreiche M\u00f6glichkeiten, wie die clientseitige \u00dcberpr\u00fcfung fehlschlagen, umgangen und missbraucht werden kann.<\/em>\u201c –<\/p>\nBugs in Our Pockets, Abelson et al (2024)<\/a><\/cite><\/blockquote>\n\n\n\n In Anbetracht des von der belgischen Regierung vorgeschlagenen Ansatzes zur Risikokategorisierung, der ausgerechnet sicherere und die Privatsph\u00e4re st\u00e4rker achtende Dienste als besonders gef\u00e4hrlich einstuft, werden die meisten verschl\u00fcsselten Ende-zu-Ende-Kommunikationsdienste fr\u00fcher oder sp\u00e4ter mit einer Aufdeckungsanordnung belegt werden. Dies wird die Sicherheit des Dienstes entscheidend untergraben – was praktisch das Ende der sicheren verschl\u00fcsselten Ende-zu-Ende-Kommunikation in Europa bedeuten w\u00fcrde.<\/p>\n\n\n\nErzwungene Zustimmung<\/h3>\n\n\n\n
\u201eWas uns Rose hei\u00dft\u2026\u201c<\/h3>\n\n\n\n
\n