Dit is een gastpost van John Carr, de toonaangevende Britse denker over het verwijderen van beelden van kindermisbruik van internet. De originele blog over onderzoeken door de New York Times verscheen op John's Desiderata website. We hebben andere recente blogs van John gepubliceerd hier, hier en hier.

In september produceerde de New York Times de eerst in een reeks artikelen waarin ze zich concentreerden op de reactie van de internetindustrie op de explosieve groei in de opsporing van online materiaal voor seksueel misbruik van kinderen (csam).

Ze begonnen met statistieken aangeleverd door NCMEC. In 1998 ontvingen ze 3,000 meldingen van csam. Het aantal van 2018 was 18.4 miljoen rapporten, verwijzend naar 45 miljoen stilstaande beelden en video's van csam.

We zijn geïnformeerd in een later artikel in 2013 waren er minder dan 50,000 csam-video's gemeld. In 2018 waren dat er 22 miljoen. Video is het belangrijkste groeigebied geweest. De Canadees centrum voor kinderbescherming en de UK's Internet Watch Foundation zijn getuige geweest van vergelijkbare niveaus van groei.

Hoe schokkend deze cijfers ook zijn, waarschijnlijk is wat ze aantonen simpelweg de toegenomen proactieve inzet en effectiviteit van tools die worden gebruikt om csam te detecteren door een relatief klein aantal internetbedrijven.

Wat de artikelen in de New York Times echter voornamelijk lieten zien, was de ontoereikendheid van de reactie van de bredere internetindustrie en inderdaad de ontoereikendheid van de reactie van enkele van de leidende actoren in de industrie. We zijn het tuinpad op geleid.

Als de veiligheid en beveiliging van kinderen echt was ingebed in de bedrijfscultuur, zouden verhalen van het soort gepubliceerd door de New York Times gewoon niet mogelijk zijn. Toch verschijnen ze al jaren, zo nooit eerder, met zulke forensische details.

De technologiecoalitie

In 2006 heeft de Technologiecoalitie werd opgericht. Hier is de verklaarde missie

Onze visie is om online seksuele uitbuiting van kinderen uit te bannen. We hebben geïnvesteerd in samenwerking en het delen van expertise met elkaar, omdat we erkennen dat we dezelfde doelen hebben en voor veel van dezelfde uitdagingen staan.

Dit is de standaardrubriek. Je hoort het de hele tijd. Van iedereen. Het is niet waar.

Kindermisbruikers lopen op hol terwijl techbedrijven de andere kant op kijken

Dat was de kop voor de tweede dit artikel in de New York Times-serie. Het blaast de gevel van een energieke, doelgerichte collectieve industrie-drive volledig weg om csam van internet te verwijderen.

Hier zijn enkele uittreksels uit het stuk:

De bedrijven beschikken over de technische hulpmiddelen om de recirculatie van misbruikbeelden te stoppen door nieuw gedetecteerde beelden te vergelijken met databases van het materiaal. Toch profiteert de industrie niet volledig van de tools.

Specifiek werd ons verteld

Het grootste sociale netwerk ter wereld, Facebook, scant grondig zijn platforms, goed voor meer dan 90 procent van de beelden die vorig jaar door techbedrijven werden gemarkeerd, maar het bedrijf gebruikt niet alle beschikbare databases om het materiaal te detecteren… .. (Cursivering van mij).

Apple scant zijn cloudopslag niet…. en versleutelt zijn berichten-app, detectie vrijwel onmogelijk maken. De consumentenproducten van Dropbox, Google en Microsoft scannen op illegale afbeeldingen, maar alleen wanneer iemand ze deelt, niet wanneer ze worden geüpload.

… Andere bedrijven, waaronder…. Yahoo (eigendom van Verizon), zoek naar foto's, maar geen video's, ook al explodeert illegale videocontent al jaren. 

Volgens de Times

Er is geen enkele lijst met hashes van afbeeldingen en video's die alle relevante bedrijven kunnen gebruiken.

Google en Facebook hebben tools ontwikkeld voor het detecteren van csam-video's die anders en niet-compatibel zijn. Een plan om een ​​proces voor het delen van video te maken "Vingerafdrukken" (hashes om detectie te versnellen) schijnbaar heeft nergens heen gegaan. 

Er is meer

Technologiebedrijven beoordelen foto's, video's en andere bestanden veel vaker op hun platforms voor…. malwaredetectie en handhaving van auteursrechten. Maar sommige bedrijven zeggen dat het zoeken naar misbruikinhoud anders is, omdat het aanzienlijke privacyproblemen kan oproepen.

Amazon, weliswaar geen lid van de Technology Coalition maar 's werelds grootste aanbieder van clouddiensten, zoekt naar niets.

Een woordvoerder van Amazon…. zei dat de "privacy van klantgegevens van cruciaal belang is om het vertrouwen van onze klanten te winnen", ...... Microsoft Azure zei ook dat het niet naar het materiaal heeft gescand, met soortgelijke redenen.

Op een gegeven moment zal het interessant zijn om wat te deconstrueren "Vertrouwen van klanten" betekent echt.

En we weten dit allemaal omdat ...

Hoe hebben we dit allemaal vernomen? Is het ontstaan ​​naar aanleiding van openstaande verklaringen door techbedrijven? Duidelijk niet. Na een zorgvuldige analyse door een toegewijd team van academici? Nee. Is de waarheid aan het licht gebracht door een wetshandhavingsinstantie, een ngo of een overheidsinstantie die uiteindelijk besloot dat omertà niet in het algemeen belang was? Nee.

We hebben deze inzichten verkregen omdat het management van de New York Times besloot om twee journalisten, Michael Keller en Gabriel Dance, de ruimte en de middelen te geven om een ​​vanzelfsprekend belangrijk verhaal na te streven.

Ik ontmoette deze jongens voor het eerst op de kantoren van de New York Times afgelopen maandag, maar ik sprak ze aanvankelijk in juni. Ze hadden csam sinds februari onderzocht, rondvliegen (letterlijk), praten met een veelheid van mensen, dingen samenvoegen van op de plaat en uit de plaat bronnen.

Het was een gigantische inspanning die een evenredige indruk maakte op de voorpagina van de krant. Het lijkt het gewenste effect te hebben.

Een brief van vijf senatoren

Een onmiddellijk gevolg van de artikelen in de New York Times verscheen vorige week toen vijf Amerikaanse senatoren (twee democraten, drie republikeinen) schreef een indrukwekkend gedetailleerde brief tot zesendertig techbedrijven. Ze omvatten alle leden van de Technology Coalition en nog veel meer. De senatoren willen antwoorden vóór 4th December.

Laten we eens kijken hoe de bedrijven reageren. De brief bevat de juiste vragen. Dit zijn precies het soort technologiebedrijven die wettelijk verplicht zouden moeten zijn om te antwoorden. Laten we hopen dat we, zodra de verkiezingen in het VK voorbij zijn, snel kunnen handelen om een ​​sterke toezichthouder op te richten die hen ervan kan verzekeren dat ze waarheidsgetrouwe antwoorden zullen ontvangen. Elke aarzeling of weigering van de Amerikaanse bedrijven om te reageren op de brief van de senatoren zal hier alleen maar bijdragen aan het gevoel van urgentie.

De New York Times heeft kinderen over de hele wereld geholpen

Kinderen over de hele wereld zijn Keller en Dance en hun bazen veel verschuldigd, maar het is weinig schandalig dat er een krant voor nodig was om het open te blazen. Waar is de organisatie van openbaar belang die over de middelen en de mogelijkheid beschikt om in de loop van de tijd consequent dergelijke zaken te volgen en te rapporteren? Het bestaat niet. Het zou moeten.

Ik pleit al tijden dat we een Global Observatory nodig hebben, onder andere om routinematig te doen wat de New York Times zojuist deed als eenmalig. Ergens moet een onafhankelijk bureau met voldoende middelen komen dat de belangen van kinderen centraal stelt en hightechindustrieën in het vizier heeft. Maar zo'n lichaam moet in de loop van de tijd duurzaam zijn. Dat is een groot en duur ding om te doen, maar ik ga het nog een keer proberen.