Potrivit unei noi investigații realizate de The Wall Street Journal, în colaborare cu Universitatea Stanford și Universitatea din Massachusets, Instagram a devenit un instrument cheie de conectare pentru o „vastă rețea de pedofilie”, membrii săi împărtășind în mod deschis conținut ilegal în aplicație, informează Social Media Today.
„Instagram ajută la conectarea și promovarea unei rețele vaste de conturi dedicate în mod deschis comisionării și achiziționării de conținut sexual cu minori. Pedofilii folosesc de mult timp internetul, dar, spre deosebire de forumurile și serviciile de transfer de fișiere care se adresează persoanelor interesate de conținuturi ilicite, Instagram nu găzduiește pur și simplu aceste activități. Algoritmii săi le promovează. Instagram îi conectează pe pedofili și îi îndrumă către vânzătorii de conținut prin intermediul unor sisteme de recomandare care excelează în a pune în legătură pe cei care împărtășesc interese de nișă”, se arată în raport.
În raport se spune că Instagram facilitează promovarea conturilor care vând imagini ilicite prin intermediul unor „meniuri” de conținut.
Echipa de investigație a creat conturi pe Instagram şi pe alte reţele care să testeze modul în care algoritmii scot la suprafaţă conţinut ilegal cu minori. Astfel, în cazul Instagram, cercetătorii au sesizat că, după ce au vizualizat un singur cont din reţeaua ilicită, la secțiunea sugestii au apărut conturi care vând sau cumpără conţinut sexual cu copii. Aceste conturi îndeamnă urmăritorii să “comande” conţinut cu acte ilicite întocmite de minori, precum automutilare, relaţii sexuale cu animale sau “întâlniri faţă în faţă”. Unele dintre aceste conturi listează şi prețuri. Altele mijlocesc tranzacţiile în afara platformei.
Stanford Internet Observatory a folosit hashtag-uri asociate cu pedofilia pentru a găsi 405 vânzători de materiale sexuale cu copii “autogenerate”, sau conturi despre care speculează că sunt administrate chiar de copii. Conform datelor colectate prin intermediul software-ului Maltego, care cartografiază rețelele de socializare, 112 dintre aceste conturi de vânzători aveau în total 22 de mii de urmăritori unici.
Actualii și foștii angajați ai Meta, care au lucrat pe ramura de siguranță a copiilor de pe Instagram, au declarat pentru WSJ că estimează numărul de conturi care măresc astfel de conținut la sute de mii, sau chiar milioane. Un purtător de cuvânt al companiei Meta a declarat că societatea caută în mod activ să elimine astfel de utilizatori, reuşind să înlăture 490 de mii de conturi numai în luna ianuarie.
„Anumite conturi invită utilizatorii să comită anumite acte. Unele meniuri includ prețuri pentru videoclipuri cu copii care își fac rău singuri și „magini în care minorul efectuează acte sexuale cu animale'”, au spus cercetătorii de la Stanford Internet Observatory.
Raportul identifică faptul că Meta se bazează pe instrumente de detectare automată ca fiind un impediment cheie în calea eforturilor sale, subliniind, de asemenea, modul în care algoritmii platformei promovează, în esență, conținutul mai dăunător către utilizatorii interesați prin utilizarea de hashtag-uri conexe.
În mod confuz, Instagram are chiar și un pop-up de avertizare pentru un astfel de conținut, spre deosebire de eliminarea directă a acestuia.
Este cu siguranță un rezumat deranjant, care evidențiază o preocupare semnificativă în cadrul aplicației – deși este de remarcat, de asemenea, că propriile rapoarte ale Meta privind încălcările standardelor comunitare au arătat, de asemenea, o creștere semnificativă a acțiunilor de aplicare în acest domeniu în ultima vreme.
Acest lucru ar putea sugera că Meta este deja conștientă de aceste probleme și că ia mai multe măsuri. Dar, în orice caz, ca urmare a acestui nou raport, Meta a promis că va lua mai multe măsuri pentru a aborda aceste probleme, prin înființarea unui nou grup de lucru intern pentru a descoperi și elimina aceste rețele și altele.
Problemele de aici se extind, în mod evident, dincolo de siguranța brandului, fiind necesare acțiuni mult mai importante și cu un impact mult mai mare pentru a proteja tinerii utilizatori. Instagram este foarte populară în rândul publicului tânăr, iar faptul că cel puțin unii dintre acești utilizatori se vând, în esență, în aplicație – și că o mică echipă de cercetători a descoperit acest lucru, în timp ce sistemele Meta nu au observat asta- constituie o problemă majoră, care evidențiază deficiențe semnificative în procesul Meta.
Să sperăm că cele mai recente date din cadrul Raportului privind standardele comunității reflectă eforturile mai ample ale Meta de a aborda acest aspect – dar va trebui să facă pași mari pentru a rezolva acest element.
De asemenea, merită remarcat din raport – cercetătorii au constatat că Twitter a găzduit mult mai puține materiale cu abuz sexual asupra copiilor – CSAM (Child Sexual Abuse Material) – în analiza sa și că echipa Twitter a luat măsuri mai rapid decât cea a Meta în ceea ce privește astfel de probleme.
Elon Musk a promis să abordeze CSAM ca o prioritate absolută și se pare, cel puțin din această analiză, că ar putea face într-adevăr unele progrese pe acest front.
