Das EU-Parlament hat eine Ausnahme zur ePrivacy-Verordnung beschlossen, die es Anbietern von Mail- oder Messenger-Diensten "erlaubt" (und sie später dazu verpflichtet), alle Chat und E-Mail-Nachrichten automatisiert nach illegalen Inhalten ("Kinderpornografie") zu durchsuchen und zwar unabhängig davon, ob gegen die Person ein begründeter Verdacht vorliegt oder nicht.
Der Zweck der Verordnung lautet "Kinderpornografie" zu entdecken und zu verhindern. Was sonst?
Das Kindeswohl ist meiner Meinung nach nur ein Vorwand. Wetten, dass die Regelung bald auf Terroristen, dann auf Steuerhinterziehung/Geldwäsche etc. ausgeweitet wird.
Die Übergangsregelung betrifft vorerst unverschlüsselte Inhalte.
Eine Folgeverordnung soll die Anbieter dann zum Scannen nach illegalen Inhalten verpflichten und auch auf verschlüsselte Kommunikation ausgeweitet werden.
Dazu sollen die Apps die verschlüsselten Chats direkt am Smartphone auslesen und nach illegalen Inhalten auswerten und diese dann den Anbietern und in weiterer Folge der Polizei melden.
Backdoors in sichere Kommunikation einzubauen, würde die IT-Sicherheit untergraben und könnte auch für Wirtschaftsspionage und von Hackern und Cyber-Terroristen ausgenutzt werden.
Weiters könnten Kriminelle auf modifizierte Software ausweichen, die diese Sicherheitslücken nicht aufweisen, während normale Bürger mit der unsicheren Variante arbeiten und sich permanent abhören lassen müssten.
Dann gibt es noch das Problem von False-Positives. Jemand postet ein Meme in einem Chat und wird plötzlich als Kinderpornograf gefahndet, weil die AI das Meme falsch klassifiziert hat.
Was sagt ihr dazu? Was haltet ihr von den Plänen der EU alle Chatnachrichten automatisiert nach illegalen Inhalten zu scannen?
English
The EU Parliament has adopted an exception to the ePrivacy Regulation that "allows" (and later obliges) mail and messaging providers to automatically search all chat and email messages for illegal content ("child pornography"), regardless of whether or not there is reasonable suspicion against that person.
The purpose of the regulation is to detect and prevent "child pornography." What else?
In my opinion, the best interests of the child is just a pretext. Bet that the regulation will soon be extended to terrorists, then to tax evasion/money laundering, etc.
The transitional regulation concerns unencrypted content for the time being.
A follow-up regulation should then require providers to scan for illegal content and also be extended to encrypted communications.
To this end, the apps are to read out the encrypted chats directly on the smartphone and evaluate them for illegal content, which is then to be reported to the providers and subsequently to the police.
Building backdoors into secure communication would undermine IT security and could also be exploited for industrial espionage, by hackers and cyber terrorists.
Furthermore, criminals could switch to modified software that does not have these security vulnerabilities, while ordinary citizens would have to work with the insecure variant and be permanently bugged.
Then there is the problem of false positives. Someone posts a meme in a chat and suddenly gets flagged as a child pornographer because the AI misclassified the meme.
What do you guys think about the EU's plans to automatically scan all chat messages for illegal content?
Sources
[1] EU Commission: Fighting child sexual abuse: detection, removal and reporting of illegal content online https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12726-Child-sexual-abuse-online-detection-removal-and-reporting-/public-consultation_en
[2] EU Kommission: Bekämpfung des sexuellen Missbrauchs von Kindern: Erkennung, Entfernung und Meldung illegaler Online-Inhalte https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12726-Child-sexual-abuse-online-detection-removal-and-reporting-/public-consultation_de
[3] #chatcontrol: EU Parliament approves mass surveillance of private communications https://european-pirateparty.eu/parliament-approves-chatcontrol/
[4] EU erlaubt Echtzeit-Überwachung von Chats https://futurezone.at/netzpolitik/eu-echtzeit-ueberwachung-chats-kinderpornographie-missbrauch-chatkontrolle/401436730
[5] EU-Parlament für Überwachung: Wie Verschlüsselung umgangen werden soll https://www.derstandard.at/story/2000128032161/eu-parlament-stimmt-chatueberwachung-zuwie-verschluesselung-umgangen-werden-soll?ref=rec
[6] @holgerfinn EU-Internetkontrolle: Genehmigung zum Lauschangriff @holgerfinn/eu-internetkontrolle-genehmigung-zum-lauschangriff
[7] The EU wants to ban encryption after recent terrorist attacks 🤔 @vikisecrets/the-eu-wants-to-ban-encryption-after-recent-terrorist-attacks
Live your Secrets and Hive Prosper 🍯
xx Viki @vikisecrets