Key takeaways
- Europa-Kommissionen (EC) har foreslået et nyt sæt regler for at begrænse spredningen af materiale om seksuelt misbrug af børn.
- Forslaget opfordrer til scanning af private onlinesamtaler og er blevet panoreret af privatlivsforkæmpere.
- Det, der kræves, er at bruge teknologi til at hjælpe forældre med at overvåge deres børn online, foreslår eksperter.
Børnemisbrugsmateriale på tværs af onlinekanaler har nået hidtil usete niveauer, men en foreslået løsning til at regere i denne trussel passer ikke godt hos fortalere for privatliv.
Europa-Kommissionen (EC) har for nylig foreslået nye regler, der kræver, at chat-apps som WhatsApp og Facebook Messenger gennemsøger markerede brugeres private beskeder for materiale om seksuelt misbrug af børn (CSAM).
"Dette er et imponerende modigt og ambitiøst forslag til systemisk at forhindre undgåelige børnemishandling og pleje, som finder sted på rekordhøje niveauer," Andy Burrows, leder af Child Safety Online hos National Society for the Prevention of Cruelty to Children (NSPCC), fort alte Lifewire via e-mail. "Hvis det bliver godkendt, vil det stille et klart krav til platforme om at bekæmpe misbrug, uanset hvor det finder sted, herunder i private beskeder, hvor børn er i størst risiko."
End-to-End?
Forordningen søger at etablere nye regler for onlineplatforme, samlet kaldet onlinetjenesteudbydere, og dækker en bred vifte af tjenester, herunder appbutikker, webhostingfirmaer og enhver udbyder af "interpersonel kommunikationstjeneste."
Det ene aspekt af forslaget, der har pjusket nogle fjer blandt privatlivsgrupperne, er de forpligtelser, der gælder for beskedtjenester som WhatsApp og Facebook Messenger.
I henhold til forslaget, hvis og når en meddelelsestjeneste modtager en "detektionsordre" fra EU, vil de blive bedt om at scanne de markerede brugeres meddelelser for at lede efter beviser for CSAM og anden krænkende adfærd, der involverer børn. I stedet for at ansætte mennesker til opgaven, opfordrer forslaget til brug af maskinlæring (ML) og kunstig intelligens (AI) værktøjer til at gennemlæse samtalerne.
Margaritis Schinas, næstformand for fremme af vores europæiske livsstil, påpegede, at forslaget også opfordrer til at placere sikkerhedsforanst altninger for at forhindre misbrug. "Vi taler kun om et program, der scanner for markører for ulovligt indhold på samme måde, som cybersikkerhedsprogrammer kører konstant kontrol for sikkerhedsbrud," bemærkede Schinas i EC’s meddelelse.
Organisationer, der arbejder for at beskytte børn, har støttet forslaget. "Dette banebrydende forslag kan sætte standarden for regulering, der balancerer de grundlæggende rettigheder for alle internetbrugere og samtidig prioriterer beskyttelse af børn," hævdede Burrows.
Højegafler og fakler
Privatlivsforkæmpere hævder dog, at forslaget effektivt fraråder brugen af ende-til-ende-kryptering.
"Ved at true virksomheder med retslige handlinger forsøger Kommissionen sandsynligvis at vaske deres hænder fra ansvaret for farlige og privatlivskrænkende foranst altninger, mens den de facto inciterer til disse foranst altninger med loven," udt alte Ella Jakubowska, Policy Rådgiver for den digitale fortalervirksomhed European Digital Rights (EDRi) i en pressemeddelelse.
br/
EDRi hævder, at foranst altningerne i forslaget bringer den vitale integritet af sikker kommunikation i fare, og går så langt som til at hævde, at de nye regler ville "tvinge virksomheder til at omdanne vores digitale enheder til potentielle stykker spyware." Det tager også undtagelser fra brugen af AI-baserede scanningsværktøjer, og omtaler dem som "notorisk unøjagtige."
Dimitri Shelest, grundlægger og administrerende direktør for OneRep, et online privatlivsfirma, der hjælper folk med at fjerne deres følsomme oplysninger fra internettet, er overbevist om, at ingen offentlige eller sociale medier-apps bør scanne brugernes private beskeder, heller ikke selektivt.
"Ved at legitimere denne form for overvågning åbner vi Pandoras æske og skaber flere muligheder for at misbruge de oplysninger, der er opnået som følge af en sådan indtrængen i privatlivets fred," fort alte Shelest Lifewire via e-mail.
Jakubowska er enig. I pressemeddelelsen spørger hun, om virksomheder i dag har lov til at scanne vores private beskeder, hvad der forhindrer regeringer i at tvinge dem til at "scanne efter beviser på uenighed eller politisk opposition i morgen?"
Det hele kan dog blive til intet. Jesper Lund, formand for IT-Pol Danmark mener, at nogle aspekter af forslaget måske ikke kan implementeres i første omgang.
"Forslaget indeholder et krav om, at internetudbydere skal blokere adgangen til specifikke stykker indhold på websteder efter ordre fra nationale myndigheder," forklarede Lund i EDRis pressemeddelelse. "Denne form for blokering vil dog være teknisk umulig med HTTPS, som nu bruges på næsten alle websteder."
Da Shelest blev spurgt, om krænkelse af privatlivets fred var den eneste måde at beskytte børn online på, svarede Shelest med et klart "Nej." Han mener, at en rigtig brugbar løsning kombinerer forældreinddragelse med støtte fra teknologi, som kan hjælpe forældre med at holde styr på deres børns onlineaktiviteter.
"En god start ville være for teknologigiganter som Apple og Google at tilbyde bredere evner på deres platforme, der understøtter forældre med mere avanceret automatisering," foreslog Shelest. "Nøglen er at støtte forældre i at støtte deres børn."
