Ekspozohen imazhet e abuzimit seksual të fëmijëve nga tregtimi i paligjshëm i AI

Pedofilët po përdorin teknologjinë e inteligjencës artificiale (AI) për të krijuar dhe shitur materiale të abuzimit seksual të fëmijëve, ka gjetur BBC. Disa po i qasen imazheve duke paguar abonime në llogaritë në faqet kryesore të ndarjes së përmbajtjes si Patreon. Patreon tha se kishte një politikë "zero tolerance" për imazhe të tilla në faqen e saj. Këshilli i Shefit të Policisë Kombëtare tha se ishte "i egër" që disa platforma po bënin "fitime të mëdha", por nuk merrnin "përgjegjësi morale". Krijuesit e imazheve të abuzimit po përdorin softuerin e AI të quajtur Stable Diffusion, i cili kishte për qëllim të gjeneronte imazhe për përdorim në art ose dizajn grafik. AI u mundëson kompjuterëve të kryejnë detyra që zakonisht kërkojnë inteligjencë njerëzore. Softueri Stable Diffusion i lejon përdoruesit të përshkruajnë, duke përdorur udhëzime fjalësh, çdo imazh që dëshirojnë dhe programi më pas krijon imazhin. Por BBC ka zbuluar se po përdoret për të krijuar imazhe të ngjashme me jetën e abuzimit seksual të fëmijëve, duke përfshirë përdhunimin e foshnjave dhe të vegjëlve. Ekipet e hetimit të abuzimit të fëmijëve në internet të policisë së Mbretërisë së Bashkuar thonë se tashmë po hasin një përmbajtje të tillë. Studiuesja dhe gazetarja e pavarur Octavia Sheepshanks e ka hetuar këtë çështje prej disa muajsh. Ajo kontaktoi BBC-në përmes bamirësisë për fëmijë NSPCC në mënyrë që të nxjerrë në pah gjetjet e saj. Një "pseudo imazh" i krijuar nga një kompjuter që përshkruan abuzimin seksual të fëmijëve trajtohet njësoj si një imazh real dhe është i paligjshëm për t'u poseduar, publikuar ose transferuar në MB. Imazhet e abuzimit po shpërndahen nëpërmjet një procesi me tre faza: -Pedofilët bëjnë imazhe duke përdorur softuerin e AI -Ata promovojnë fotografi në platforma të tilla si uebsajti japonez për ndarjen e fotografive të quajtur Pixiv -Këto llogari kanë lidhje për të drejtuar klientët në imazhet e tyre më të qarta, të cilat njerëzit mund të paguajnë për t'i parë në llogaritë në sajte si Patreon. Gjeneruesi i imazheve të AI-së, Stable Diffusion, u krijua si një bashkëpunim global midis akademikëve dhe një numri kompanish, të udhëhequr nga kompania në Mbretërinë e Bashkuar Stability AI. Janë lëshuar disa versione, me kufizime të shkruara në kod që kontrollojnë llojin e përmbajtjes që mund të bëhet. Por vitin e kaluar, një version i mëparshëm "open source" u lëshua për publikun, i cili i lejoi përdoruesit të hiqnin çdo filtër dhe ta trajnonin atë për të prodhuar çdo imazh - përfshirë ato të paligjshme. Ndërsa AI vazhdon të zhvillohet me shpejtësi, janë ngritur pyetje në lidhje me rreziqet e ardhshme që mund të sjellë për privatësinë e njerëzve, të drejtat e tyre njerëzore ose sigurinë e tyre.