Deze gastblog is van John Carr, een van 's werelds toonaangevende autoriteiten op het gebied van het gebruik van internet door kinderen en jongeren en bijbehorende nieuwe technologieën. Daarin zet hij de waarschijnlijke (verwoestende) impact uiteen van het voorstel van Facebook om zijn platforms te versleutelen en zo kinderbeschermingsinstanties de mogelijkheid te ontnemen om in de toekomst materiaal van seksueel misbruik van kinderen op te sporen en te verwijderen.

We hebben andere blogs van John genoemd Leeftijds verificatie, AftoppingEn WeProtect wereldwijde alliantie.

Afgelopen woensdag heeft het Amerikaanse National Center for Missing and Exploited Children (NCMEC) publiceerde zijn cijfers voor 2020. 16.9 miljoen ontvangen meldingen in 2019 groeiden tot 21.7 miljoen in 2020. Dat is meer dan 25%. Berichtenplatforms blijven de grootste bron.

21.4 miljoen van de 2020-rapporten kwamen rechtstreeks van online bedrijven zelf, het saldo van leden van het publiek. Dit laatste is een verdrievoudiging ten opzichte van 2019. Opvallend was dat er een jaar-op-jaar stijging was van bijna 100% in meldingen van online verleiding. Een gevolg van grootschalige lockdowns over de hele wereld? Waarschijnlijk.

De 21.7 miljoen rapporten bevatten onder meer 31,654,163 videobestanden en 33,690,561 bestanden met stilstaande beelden. Een enkel rapport kan naar meer dan één item verwijzen.

Binnen het totale aantal rapporten is er dus een overweldigende focus op het omgaan met illegale afbeeldingen van een of andere soort, behalve de 120,590 "andere bestanden"  weergegeven in de kaart van NCMEC vertegenwoordigen ook ernstige bedreigingen voor kinderen.

Met 2,725,518 rapporten voert India opnieuw de landenlijst aan. De Filippijnen, Pakistan en Algerije volgen, ver achter maar nog steeds allemaal boven de grens van 1 miljoen.

Goed nieuws of slecht nieuws? 

Mensen die tegen proactief scannen op seksueel misbruik van kinderen op berichtenplatforms zijn, wijzen soms naar deze cijfers en zeggen dat, omdat ze altijd stijgen, dit bewijst dat scannen geen nuttig afschrikmiddel is. Sommigen zeggen dat we zelfs de polis moeten bellen "een faal".

Omdat criminelen standvastig weigeren om jaarlijkse aangiften in te vullen en getrouw te verklaren wat ze vorig jaar hebben gedaan terwijl ze hun plannen voor de komende 12 maanden uiteenzetten, hebben we nooit geweten en kunnen we nooit weten hoeveel csam er is, is of waarschijnlijk zal zijn, of hoeveel pogingen zijn of zullen worden ondernomen om kinderen online op een seksuele manier te betrekken. De nieuwe cijfers van NCMEC zouden ons daarom gewoon kunnen vertellen dat we beter worden in detectie. Wat ze absoluut niet doen, is een mandaat geven om dit gebied van misdaadbestrijding te verlaten, de slachtoffers in de steek te laten, de overwinning uit te roepen voor kindermisbruikers en de onhandelbaarheid van de online ruimte.

Betere tools

De tools die we nu tot onze beschikking hebben, zijn gewoon beter dan vroeger en worden breder en energieker ingezet. En natuurlijk zijn er dit jaar meer internetgebruikers dan vorig jaar. Een deel van de stijging is ongetwijfeld uitsluitend toe te schrijven aan dit soort organische groei. Dat zal naar verwachting nog enige tijd aanhouden naarmate de beschikbaarheid van wifi en breedband toeneemt en steeds meer van de wereld online gaat.

Op elk misdaadgebied is het opsporen en aanpakken van crimineel gedrag achteraf slechts een onderdeel van een bredere strategie, of zou dit altijd moeten zijn, waarin preventie door middel van voorlichting en bewustmaking altijd de voorkeur verdient. Maar het idee dat u moet weigeren te proberen de gevolgen van crimineel gedrag te verzachten waar en wanneer u maar kunt, is zowel harteloos als een belediging voor de minderjarige slachtoffers. Acties spreken luider dan woorden en geen enkele actie spreekt nog luider.

Ondertussen in de EU

De vorige week NCMEC gepubliceerde statistieken waaruit blijkt dat de ontvangen rapporten van EU-lidstaten waren beneden met 51% sinds december 2020. Dit was de datum waarop de Europese code voor elektronische communicatie in werking trad.

Afgezet tegen een algemeen globaal stijgen bij de rapportage moet de angst dus zijn dat door een percentage te rapporteren vallen Volgens rapporten van EU-lidstaten gaat het met Europese kinderen misschien nog slechter dan met kinderen in andere delen van de wereld. Commissaris Johansson wees erop in de EU zijn dat 663 meldingen per dag niet gemaakt die anders zou zijn geweest. Dat zou het geval zijn als het rapporteringsniveau constant was gebleven. Blijkbaar is dat niet zo, wat betekent dat het werkelijke aantal afwezigheidsrapporten waarschijnlijk ten noorden van 663 zal liggen.

En toch legt het Europees Parlement het hervormingsproces lam.

Facebook over manoeuvres

Laten we ons herinneren dat afgelopen december de nieuwe code van kracht werd. Facebook, een notoir litigieus, strijdlustig bedrijf, besloot dat het de gelederen zou breken met marktleiders door te stoppen met scannen op seksueel misbruik van kinderen. Facebook had ertegen kunnen vechten of, net als hun collega's, het kunnen negeren. Ze deden het ook niet.

Cynici hebben gesuggereerd dat de beslissing van het bedrijf om om te rollen als een gehoorzame puppyhond werd geïnspireerd door de wens om de weg vrij te maken voor hun lang verklaarde ambitie om sterke codering te introduceren in Messenger en Instagram Direct. Als er geen legale manier is om berichtenplatforms te scannen, doet het er bijna niet meer toe of de platforms al dan niet versleuteld zijn.

De beslissing van Facebook in december leek zeker de oppositie te legitimeren van groepen die altijd tegen het scannen zijn geweest op inhoud en gedrag dat kinderen bedreigt.

De onbeschaamdheid van de meest privacyschendende onderneming in de geschiedenis van de planeet aarde, die een volslagen gezicht vertoont, en dit ten koste gaat van kinderen en gezagsgetrouwe burgers in het algemeen, is adembenemend. Geen warme woorden kunnen dat wegwassen.

Houd die gedachte even vast.

Een kwestie van timing?

Facebook heeft onlangs onderzoek gedaan naar activiteiten op het gebied van seksueel misbruik van kinderen op hun platforms. De resultaten zijn net gepubliceerde in een blog.

Er waren twee afzonderlijke onderzoeken. Ze hebben allebei twijfels of twijfels over de waarde van proactief scannen om kinderen te beschermen.

Dit is een radicale breuk met het verleden van Facebook. Ze gebruikten trots en herhaaldelijk hun toewijding aan proactief scannen op inhoud en activiteiten die kinderen bedreigen. Het is hun verdienste dat ze zijn blijven zoeken naar tekenen van mensen die waarschijnlijk zelfbeschadiging en zelfmoord zouden plegen. Hoewel het me even ontgaat hoe ze dat afstemmen op wat ze doen in verband met seksueel misbruik van kinderen.

Wie zou er tegen onderzoek kunnen zijn? Niet ik. Maar dezelfde cynici waar ik eerder naar verwees, waren niet traag om erop te wijzen dat de timing van de publicatie van dit onderzoek je doet afvragen of het is gedaan met de puurste motieven. Waren de mensen die het werk daadwerkelijk deden of die besloten wanneer ze moesten publiceren even stilstaan ​​om zich af te vragen of ze werden gemanipuleerd?

Een verrassing

Uit de eerste van de twee onderzoeken bleek dat in oktober en november 2020 90% van alle inhoud die op hun platform werd gevonden en aan NCMEC rapporteerde, betrekking had op materiaal dat identiek was aan of sterk leek op eerder gerapporteerd materiaal.

Degenen onder ons die lange tijd in het veld hebben gewerkt, zullen misschien verbaasd zijn dat het slechts 90% was. Ik had altijd begrepen dat het percentage herhalingen in de zeer hoge jaren 90 zou liggen. Hoge percentages laten zien dat de proactieve tools hun werk doen. Daarom is het voortdurende gebruik ervan zo belangrijk, vooral voor de slachtoffers die op de afbeeldingen zijn afgebeeld. Het feit dat een afbeelding wordt herhaald, onderstreept en vergroot alleen de schade die het kind wordt aangedaan. Het vermindert het zeker niet.

Slachtoffers kunnen en moeten beweren hun wettelijk recht op privacy en menselijke waardigheid. Ze willen dat elk exemplaar van de afbeelding verdwenen is, ongeacht hoe vaak of waar deze wordt weergegeven.

Een nummer publiceren zoals "Meer dan 90%" zonder dit soort context uit te leggen, zal een slecht geïnformeerde waarnemer, bijvoorbeeld iemand die haast heeft en veel kranten moet lezen, zich waarschijnlijk afvragen waar het allemaal om draait?

Merk op dat ze in het rapport van NCMEC verwijzen naar het ontvangen van rapporten van 10.4 miljoen unieke afbeeldingen. Dit onderscheidt hen specifiek van de herhalingen. Het waren de herhalingen die volgens ons 90% van de payload in het onderzoek van Facebook uitmaken.

Meer mogelijk misleidende vertoningen

In dezelfde blog en verwijzend naar dezelfde studie vertelt Facebook ons ​​verder "slechts zes "video's waren verantwoordelijk voor meer dan de helft" van alle rapporten die ze aan NCMEC hebben gedaan. Behalve dat je moet speculeren over hoeveel video's de andere helft heeft gemaakt, is de voor de hand liggende vraag "En je punt?"  

Mijn gok is wat er in de hoofden van drukke mensen zal blijven hangen "zes".  Zes en 90%. Kopteksten. Pas op voor ze worden herhaald door, nou, je weet door wie.

De tweede studie

Als we een ander tijdsbestek nemen (waarom?), Juli-augustus, 2020 en januari 2021, en een ander, veel kleiner cohort (slechts 150 accounts), wordt ons verteld over de mensen die csam hebben geüpload dat werd gerapporteerd aan NCMEC 75% deed dit zonder duidelijke "slechte bedoeling".  Integendeel, het onderzoek suggereert dat de individuen die de misdaad plegen van het uploaden van csam handelden uit een "Gevoel van verontwaardiging" of omdat ze het grappig vonden. 75%. Dat is nog een kopnummer dat blijft plakken en wordt herhaald.

Misschien is er ergens een paper waarin wordt uitgelegd hoe Facebook concludeerde dat er geen was "slechte bedoeling". Ik kan het niet vinden. Maar het is niet moeilijk om het netto-effect te achterhalen van de verschillende tijdige manoeuvres van Facebook.

De doelgroep zijn politici en journalisten

Op het moment dat Facebook wil dat mensen - en daarmee bedoel ik voornamelijk politici en journalisten - in Europa, de VS en elders, gaan denken dat het probleem van online seksueel misbruik van kinderen anders is dan en veel kleiner is dan ze voorheen dachten, en dat het is in wezen te wijten aan (te verontschuldigen?) menselijke idiotie.

Maar de onveranderlijke waarheid is dat de beelden verdwenen moeten zijn. Dat is het begin en het einde ervan. Als we de middelen hebben om van illegale beelden van pijn en vernedering van kinderen af ​​te komen, waarom zouden we dat dan niet doen? Waarom zouden we ze in plaats daarvan opzettelijk verbergen? Geld is het enige antwoord dat ik kan bedenken en het is niet goed genoeg.

Slechte vervangers

In het derde deel van dezelfde blog vertelt Facebook ons ​​over andere dingen die het van plan is te doen. Ze zullen het kennelijke gebrek aan goede smaak van mensen op het gebied van grappen of hun domheid aanpakken.

Tot nu toe hebben ze twee pop-ups bedacht. Bravo. Facebook zou ze toch moeten uitzetten. Geen van beide komt in de buurt van compensatie voor hun plannen voor codering. Als een groep mensen zich op een andere manier zou verenigen om bewijs van misdaden te verbergen, denk ik dat ze zouden worden gearresteerd en beschuldigd van samenzwering om de rechtsgang te belemmeren.

Facebook's cijfers in 2020

De resultaten van het onderzoek van Facebook kwamen in het midden van de rij in de EU naar buiten. Ze hadden gelijk tegen de publicatie van de nieuwe nummers van NCMEC.

In 2019 ontving NCMEC 16,836,694 meldingen, waarvan 15,884,511 (94%) afkomstig waren van platforms die eigendom waren van Facebook. In 2020 waren van de 21.7 miljoen 20,307,216 afkomstig van de verschillende platforms van Facebook (93%).

Hoewel ik extreem kritisch ben over Facebook, mogen we twee belangrijke kwalificatietoernooien niet vergeten. Ze zijn verreweg het grootste platform op het gebied van sociale media. En we weten alleen zoveel over hen omdat er gegevens beschikbaar zijn. Dit komt doordat hun twee belangrijkste berichten-apps, Messenger en Instagram Direct, (nog) niet versleuteld zijn.

Je moet je daarom afvragen wat er gebeurt op andere berichtenplatforms die hun services al versleutelen en dus bijna geen gegevens kunnen produceren. Eigenlijk hoeven we ons niet al te veel af te vragen.

Een glimp achter een versleutelde deur

Vorige vrijdag The Times  onthuld in 2020 Britse politie kreeg 24,000 tips van Facebook en Instagram. Maar slechts 308 van WhatsApp. WhatsApp is al versleuteld.

met 44.8 miljoen gebruikers het VK heeft het op twee na hoogste aantal Facebook-klanten ter wereld, na India en de VS. Instagram heeft 24 miljoen gebruikers in het VK. Het is duidelijk dat er waarschijnlijk een grote overlap is met Facebook en zijn Messenger- en Instagram-apps. WhatsApp heeft 27.6 miljoen gebruikers in het VK.

Het is onmogelijk om te zeggen wat het WhatsApp-nummer is "zou moeten zijn" - te veel onzekerheden - maar de verhouding van 308: 24,000 ziet er een beetje uit. Je zou in elk geval verwachten dat het verkeer in illegale afbeeldingen groter is op WhatsApp, juist omdat het al gecodeerd is. Denk erover na.