PAKISTAN- Një rrjet ndërkombëtar spamerësh po poston imazhe të gjeneruara nga inteligjenca artificiale të viktimave të Holokaustit në Facebook, sipas një hetimi të BBC-së mbi atë që ata e quajnë “AI slop”.
Organizatave që janë të përkushtuara për të ruajtur kujtimin e Holokaustit u thonë se këto imazhe po lënë mbijetuesit dhe familjet e tyre të shqetësuar dhe të tronditur. Ata gjithashtu kanë kritikuar kompaninë mëmë të Facebook, Meta, duke thënë se ajo lejon përdoruesit e platformës të shndërrojnë këtë tragjedi në një “lojë emocionale”.
Ekziston vetëm një dorë fotografish të vërteta nga brenda kampit të përqendrimit Auschwitz gjatë Luftës së Dytë Botërore.
Një llogari me emrin Abdul Mughees, që pretendon të jetojë në Pakistan, ka postuar screenshot-e duke pretenduar se ka fituar 20,000 dollarë nga skemat e monetizimit në rrjetet sociale, duke përfshirë edhe Meta. Një tjetër postim tregon se kjo llogari ka grumbulluar më shumë se 1.2 miliardë shikime për katër muaj. BBC nuk ka mundur të verifikojë në mënyrë të pavarur fitimet e ndonjë krijuesi.
Nga shumë postime të Abdul Mughees janë përfshirë fotografi të gjeneruara nga AI të viktimave të Holokaustit dhe histori të shpikura, si një fëmijë që fshihet nën dysheme ose një bebe e lënë mbi shinat e trenit jashtë një kampi përqendrimi. Analiza e BBC-së sugjeron se këto llogari postojnë pothuajse ekskluzivisht “AI slop”, që do të thotë imazhe dhe tekste të gjeneruara nga AI me cilësi të ulët dhe të shpërndara masivisht në rrjetet sociale.
Auschwitz është bërë një temë popullore për faqet dhe grupet e historisë, disa me emra si Timeless Tales dhe History Haven, që postonin më shumë se 50 herë në ditë. Në qershor, Muzeu i Auschwitz paralajmëroi se llogaritë e tilla po vjedhin postimet e muzeut, i përpunojnë ato përmes modeleve AI dhe shpesh ndryshojnë detaje historike ose krijojnë narrativë dhe viktima krejtësisht të shpikura. Muzeu e quajti këtë një “deformim të rrezikshëm” që “disrespekton viktimat dhe ngacmon kujtimin e tyre”.
Pawel Sawicki, zëdhënës i Memorialit të Auschwitz, tha se ky valë imazhesh të rreme po dëmton misionin e muzeut për të rritur ndërgjegjësimin mbi Holokaustin. “Ne kemi filluar të marrim komente në postimet tona në Facebook si ‘oh, kjo është një fotografi e gjeneruar nga AI’,” tha ai.
Edhe mbijetuesit dhe familjet janë të shqetësuar nga ky valë imazhesh dhe përmbajtjesh të rreme mbi Holokaustin. Dr Robert Williams nga International Holocaust Remembrance Alliance tha se mbijetuesit ndihen “të trishtuar që kjo lejohet të ndodhë” edhe pse qeveritë dhe organizatat filantropike kanë investuar në fushata ndërgjegjësimi. “Ata ndihen se përpjekjet e tyre nuk kanë mjaftuar,” tha ai.
Meta nuk inkurajon qëllimisht përdoruesit të postojnë histori të rreme, përfshirë mbi Holokaustin, por sistemi i saj shpërblen postimet me angazhim të lartë. BBC gjithashtu ka identifikuar llogari “AI slop” që veprojnë nga India, Vietnami, Tajlanda dhe Nigeria.
Për të kuptuar pse këto rrjete prodhojnë masivisht përmbajtje të caktuar, BBC foli me një Pakistani, Fazal Rahman, i cili është pjesë e disa programeve të monetizimit në rrjetet sociale dhe thotë se kjo punë është burimi i tij kryesor i të ardhurave. Ai tha se nuk krijon vetë imazhe mbi Holokaustin dhe nuk dinte çfarë do të thoshte fjala në fillim, por punon në të njëjtat grupe Facebook me ata që e bëjnë.
Rahman tha se një faqe Facebook me 300,000 ndjekës mund të fitonte 1,000 dollarë në muaj nëse kishte “përmbajtje premium” për audienca me vlerë më të lartë nga SHBA, Mbretëria e Bashkuar dhe Europa. Ai vlerëson se shikimet nga Perëndimi vlejnë tetë herë më shumë se ato nga Azia. Tema e historisë është një faktor i besueshëm për të gjeneruar trafik online.
Të tjerë krijues bien dakord me këtë. BBC ka parë video udhëzuese se si modelet e njohura AI mund të përdoren për të prodhuar vazhdimisht imazhe dhe tekste të rreme historike. Në një video, krijuesi kërkoi nga chatbot-i AI të listonte ngjarje historike që mund të përdorë si bazë për përmbajtjen dhe mori si përgjigje Holokaustin.
Këshilla të tjera përfshijnë mënyra për të mashtruar audiencën, duke bërë faqet e tyre të duken si entitete të tjera për të fituar ndjekës dhe për t’u bërë të kualifikuar për programin e monetizimit të Meta.
Facebook ka një veçori për transparencën e faqeve që lejon përdoruesit të shohin emrat e mëparshëm të faqeve. Duke përdorur këtë, BBC gjeti shumë faqe që postonin “Holocaust AI slop” dhe më parë pretendonin të ishin organizata të ndryshme, përfshirë departamente zjarrfikësish në SHBA, biznese komerciale dhe influencues amerikanë – pa lejen e tyre. Këto faqe mund të shiteshin ose jepeshin me qira për ata që kërkonin të hyjnë në tregun e krijuesve të përmbajtjes.
BBC kontaktoi Meta për disa profile që kishin postuar përmbajtje AI mbi Holokaustin dhe dukeshin se kishin përdorur praktika mashtruese. Disa nga këto profile dhe grupe u hoqën, përfshirë ato që muzeu i Auschwitz kishte sinjalizuar në qershor. Një zëdhënës i Meta tha se imazhet e rreme nuk shkelin rregullat e përmbajtjes, por shkelnin rregullat për imitim ose tregti faqeve. “Ne hoqëm faqet dhe grupet dhe çaktivizuam llogaritë për shkelje të politikave mbi spam-in dhe sjelljen jo autentike,” thanë ata.
AI ka përdorur më parë për të përkujtuar Holokaustin dhe për të sjellë historitë e viktimave reale, por Dr Williams paralajmëron se kjo mund të krijojë një ndjenjë që historia e Holokaustit është e shpikur. “Çdo formë manipulimi ekstrem është diçka nga e cila duhet të shmangemi,” tha ai./ZËRI
