Google lanceert nieuwe machine learning-api om afbeeldingen van seksueel misbruik van kinderen online te vinden

De technologiegigant Google heeft nogmaals bevestigd dat het zich zal inzetten voor de bestrijding van misbruik op internet en, in het bijzonder, voor de verspreiding van beelden van seksueel misbruik van kinderen op internet, en lanceert een nieuwe tool voor machine learning. Deze nieuwe API, gebaseerd op geavanceerde kunstmatige intelligentie, zal de zeer zware taak van handmatige beoordelaars vergemakkelijken en is gratis beschikbaar voor dienstverleners, ngo's, technologiebedrijven en andere bij de strijd betrokken instellingen.

Machine learning tegen seksueel misbruik van kinderen

In een post die slechts een paar dagen geleden is gepubliceerd en ondertekend door Nikola Todorovic, Google's Director of Engineering, en Abhi Chaudhuri, Google's Product Manager, bevestigt het bedrijf zijn inzet voor bijna twee decennia om beeldverspreiding te bestrijden. van seksueel misbruik van kinderen, 'een van de ergst denkbare misstanden'.

Daartoe heeft Google een nieuwe machine learning-API gelanceerd , die volledig gratis beschikbaar is op uitdrukkelijk verzoek van organisaties die bij deze strijd betrokken zijn. Ondersteund door nieuwe vooruitgang op het gebied van geavanceerde kunstmatige intelligentie, zal deze tool de detectie van afbeeldingen van seksueel misbruik van minderjarigen op het internet aanzienlijk verbeteren, aangezien het niet alleen de detectie van reeds bekende inhoud versnelt, maar ook de detectie van "inhoud die niet heeft eerder bevestigd als CSAM. ”

Een van de grootste prestaties van deze nieuwe API is dat het "het helpen van recensenten helpt om door veel afbeeldingen te sorteren, waarbij prioriteit wordt gegeven aan de meest waarschijnlijke CSAM-inhoud voor beoordeling". Kun je je voorstellen hoe het mensen zou moeten beïnvloeden om dag na dag te werken met het visualiseren en controleren van dit soort afbeeldingen? Ondanks deze grote inspanning erkent het bedrijf zelf aan het einde van zijn publicatie dat " technologie alleen geen wondermiddel is voor deze sociale uitdaging", dus helaas zal menselijk ingrijpen nog steeds nodig blijven om dit soort misbruik.

Hieronder heb ik de door Google gepubliceerde notitie volledig vertaald:

Die organisaties die geïnteresseerd zijn in het gebruik van de Content Safety API-service van Google en zo helpen bij de bestrijding van de verspreiding van afbeeldingen van seksueel misbruik van minderjarigen in het netwerk, kunnen hun gratis deelname aan het bedrijf aanvragen door dit formulier in te vullen.