A hashelési szakértelem évek óta lehetővé tette a platformok számára, hogy rutinszerűen észleljék a kisgyermekek szexuális zaklatására szolgáló eszközöket (CSAM), hogy megakadályozzák a fiatalok online újratraumatizálását. Ennek ellenére az új vagy ismeretlen CSAM gyors észlelése továbbra is sokkal nagyobb problémát jelentett a platformok számára, mivel az új áldozatok továbbra is áldozatul estek. Most a mesterséges intelligencia is készen állhat ennek megváltoztatására.
Ebben a pillanatban egy kiemelkedő biztonsági csoport, a Thorn az első számú felhőalapú mesterségesintelligencia-beszállítóval, a Hive-vel együttműködve bemutatta egy mesterséges intelligencia-manöken kiürítését, amelyet az ismeretlen CSAM megjelölésére terveztek. Ez a legkorábbi mesterséges intelligencia-szakértelem, amely a be nem jelentett CSAM széles körű feltárására törekszik.
A Thorn CSAM-felderítő szoftverének, a Safernek a kibővítése, a vadonatúj „Predict” jellemző, a „kiváló gépi tanulási (ML) osztályozási módokat” használja, hogy „felderítse az új vagy előzetesen be nem jelentett CSAM-ot és a kicsik szexuális kizsákmányolását (CSE), ami egy veszélybesorolás, hogy egyszerűbbé és gyorsabbá tegyük az emberi kiválasztást.”
A próbababát részben a Nationwide Middle for Lacking and Exploited Youngsters (NCMEC) CyberTipline tudásának felhasználásával tanulták, a tényleges CSAM tudásra támaszkodva a veszélyes képek és filmek mintáinak észleléséhez. Amint a gyanús CSAM megjelölése megtörténik, egy emberi ellenőr a körön belül marad, hogy gondoskodjon a felügyeletről. Kétségtelenül használható a feltételezett CSAM-gyűrűk online szaporodásának vizsgálatára.
Ezen túlmenően, valójában hibákat is okozhat, azonban Kevin Guo, a Hive vezérigazgatója azt tanácsolta az Arsnak, hogy intenzív tesztelést végeztek a hamis pozitív vagy negatív számok jelentős visszaszorítása érdekében. Bár nem osztotta meg a statisztikát, kijelentette, hogy a platformok nem szívesen fogadnának egy szoftvert, „a szoftver által megjelölt 100 probléma közül 99 nem megfelelő”.
Rebecca Portnoff, a Thorn informatikai tudományokért felelős alelnöke azt tanácsolta Arsnak, hogy „semmi baj” a Hive-vel a Saferen cinkoskodni. A Hive rengeteg népszerű online közösség által használt tartalom-moderálási divatot kínál, Guo pedig azt tanácsolta az Arsnak, hogy a platformok folyamatosan kértek eszközöket az ismeretlen CSAM észlelésére, amelyek közül sok jelenleg a vakfoltokban van az interneten a a kivonatoló adatbázis soha nem fedi fel.
