Fëmijët që përdorin inteligjencën artificiale për të gjeneruar imazhe pornografike dhe për të vënë në lojë shokët dhe shoqet e tyre të shkollës është një shqetësim në rritje në rajon. Autoritetet thonë se kanë pak raste të tilla, por OJQ-të paralajmërojnë se fenomeni është i përhapur dhe duhet të trajtohet me ligj.
Në shkurt, televizioni publik i Serbisë raportoi se një numër i paspecifikuar djemsh 13-vjeçarë dyshohej se përdornin aplikacione AI për të krijuar imazhe nudo të shoqeve të klasës dhe mësueseve të tyre femra në një shkollë të Beogradit dhe më pas i shpërndanin ato në grupe bisedash. Prindërit dhe mësuesit ishin të indinjuar, por sipas një investigimi të BIRN, rasti është vetëm një nga të shumtët në të gjithë rajonin.
Një kërkim i thjeshtë në Google zbulon dhjetëra aplikacione falas që u ofrojnë përdoruesve mundësinë për të “zhveshur çdo vajzë falas” ose “për të hequr rrobat thjesht dhe shpejt”.
Aimojo.pro, i cili analizon mjetet e AI, ka identifikuar më shumë se 30 mjete AI për të zhveshur nga rrobat, shumë prej tyre me përdorim falas. Aplikacionet ofrojnë opsione të personalizueshme, duke përfshirë moshën, llojin e trupit dhe personalizim të shokëve/shoqeve AI, duke mundësuar krijimin e të dashurave AI dhe përmbajtje të qartë përmes algoritmeve deep learning për të hequr në mënyrë digjitale veshjet. Disa janë falas, nëse përdoren brenda aplikacionit Telegram, i cili përdoret shpesh për shpërndarjen e përmbajtjeve të papërshtatshme në kanale sekrete.
Sipas gjetjeve të BIRN, vetëm një pjesë e vogël e rasteve të tilla raportohen; ekspertët dhe autoritetet presin që AI të rrisë krijimin e përmbajtjeve pornografike. Disa përfundojnë në gjykatë si shkak i padive private për krime të tilla si keqpërdorim i të dhënave ose vjedhje e identitetit, por ekspertët thonë se ligjet duhet të ndjekin të njëjtin hap me zhvillimin e AI, shpejtë, madje.
“Do të ishte e vlefshme nëse shteti do ta hetonte këtë fenomen dhe, në përputhje me rrethanat, të zhvillonte politika të reja ose të rishikonte politikat ekzistuese dhe, nëse është e nevojshme, të amendonte ligje për të identifikuar qartë këtë vepër penale brenda sistemit për mbrojtjen e fëmijëve nga dhuna dhe abuzimi seksual”, tha Radovan Cicvaric, menaxher i Qendrës për të Drejtat e Fëmijëve në Uzice, Serbia perëndimore.
Serbia, Mali i Zi
Që nga korriku i vitit të kaluar, hetues të krimeve të teknologjisë së lartë të policisë serbe thonë se kanë identifikuar disa raste në të cilat AI është përdorur për të krijuar përmbajtje eksplicite. Në nëntor, një person u arrestua nën dyshimin se krijoi përmbajtje bazuar në imazhet e gjashtë personave femra, përfshirë një të mitur. Individi u akuzua për ngacmim seksual, përndjekje dhe kërcënim të sigurisë.
Në Mal të Zi, OJQ-ja “Prindër”, e cila punon për të promovuar të drejtat e prindërve dhe fëmijëve, tha se gjatë vitit të kaluar kishte marrë disa raportime për përmbajtje të manipuluar seksuale që përfshinte të mitur.
“Rasti i fundit ka të bëjë me bashkëmoshatarë të një shkolle që krijuan foto nudo të një vajze dhe materiali u shpërnda mes tyre”, tha OJQ-ja për BIRN.
OJQ-ja “Prindër” thanë se prindërit e viktimës kishin kontaktuar autoritetet lokale. Prokurorët publikë në komunën ku ndodhi incidenti i thanë BIRN se në fillim të vitit ishte hapur një rast kundër katër të miturve të dyshuar për shpërndarje të paautorizuar të përmbajtjes private të një të mituri tjetër.
Departamenti i krimit të teknologjisë së lartë i policisë malazeze tha se kohët e fundit kishte zbuluar përdorim të përmbajtjes së rreme të krijuar nga AI, por nuk specifikoi nëse ndonjë prej tyre përfshinte elementë të pornografisë së fëmijëve.
Policia përmendi raste “deepfakes”, në të cilat imazhe, audio ose video përpunohen në mënyrë digjitale me AI për të “falsifikuar” pamjen e dikujt; sipas një studimi të botuar në shkurt nga World Vision Romania, 10 për qind e adoleshentëve në Rumani kanë qenë objektivi i një “deepfake”.
Rreth 40 për qind e të anketuarve, shumica e të cilëve ishin fëmijë të shkollave të mesme nga zonat rurale, thanë se kishin qenë viktimë e abuzimit në internet, shumë prej tyre nga të rritur që u dërgonin mesazhe private me përmbajtje seksuale.
Nuk u specifikua nëse “deepfakes”-et e raportuara ishin të natyrës seksuale eksplicite.
Iva Erakovic, drejtore ekzekutive e “Miq të Fëmijëve të Serbisë”, tha se abuzimi seksual i bazuar në imazhe në përgjithësi mbetet i panjohur si një vepër penale.
“Kjo situatë kërkon që viktima të ndjekë një padi private, e cila ka të ngjarë të rezultojë në abuzim të mëtejshëm, duke përfshirë përdorimin e inteligjencës artificiale”, tha Erakovic për BIRN.
Rumania
Ndërsa përdorimi i aplikacioneve AI për të modifikuar imazhet është i ligjshëm në vetvete, kur bëhet fjalë për fëmijët, çdo qëllim për të krijuar pornografi me fëmijë duhet të konsiderohet një vepër kriminale, thanë ekspertët për BIRN.
Shumica e rasteve të raportuara në rajon, megjithatë, ndiqen penalisht vetëm si shkelje e privatësisë, vjedhje identiteti dhe keqpërdorim i të dhënave.
Megjithatë, pa një legjislacion që adreson në mënyrë specifike raste të tilla, shumica përfundojnë si padi private.
Në shtator 2023, gjykatësit në Gjykatën Giurgiu, në jug të Bukureshtit, vendosën në rastin e parë dhe të vetëm të njohur publikisht në të cilin një nxënëse përdori inteligjencën artificiale për të prodhuar një video “deepfake” të një shoku të shkollës. Çështja ishte një procedim civil i nisur në mesin e vitit 2021 nga prindërit e viktimës, një djalë 12-vjeçar, kundër prindërve të vajzës.
Sipas avokatit të paditësit, vajza mbivendosi fytyrën e 12-vjeçarit në një video pornografike, ua tregoi atë shokëve dhe shoqeve të tyre në shkollë dhe më pas e postoi atë në YouTube. Prindërit e vajzës u urdhëruan të paguanin 1,000 euro kompensim. Prindërit e viktimës u urdhëruan të paguanin të njëjtën shumë pasi ai ofendoi vajzat për postimin e videos në YouTube.
Policia në Rumani tha për BIRN se nuk kishte regjistruar ndonjë rast specifik pornografie fëmijësh që përfshin “deepfakes”.
Legjislacioni që i bënte të paligjshme “deepfakes” u vu para deputetëve rumunë në prill 2023, por u hoq nga shqyrtimi në shkurt të këtij viti dhe u kthye në fazën e komisionit pas kritikave nga shoqëria civile për mospërputhjet në projektligj.
Maqedoni e Veriut, Shqipëri
Në Maqedoninë e Veriut, gjashtë të mitur në qytetin e Kavadarit u akuzuan se kishin shkarkuar fotografi private të shoqeve të klasës, i kishin modifikuar ato dhe i kishin shpërndarë më pas me shokët e tyre.
Një prind i tha për agjencinë shtetërore të lajmeve MIA se ata “bënë fotomontazhe në të cilat kokat nga fotot e vajzave të marra nga Facebook u modifikuan me aplikacionin dhe u vendosën në trupa të zhveshur”.
Në shkurt, prokurorët në qytet thanë se kishin nisur një çështje bazuar në krimin e “keqpërdorimit të të dhënave personale”.
Sektori i Policisë për Krimet Kompjuterike, tha se nuk kishte asnjë rast abuzimi identiteti nëpërmjet AI.
Në Shqipëri, iSigurt.al, i cili merret me rastet e abuzimit kibernetik ndaj fëmijëve dhe të rinjve, tha se kishte nisur të merrte raportime për përmbajtje të krijuara me AI që përmbante abuzim seksual të fëmijëve.
“Duke pasur si mision parësor mbrojtjen e fëmijëve dhe të rinjve nga çdo formë abuzimi online, ne jo vetëm që po i raportojmë këto raste në departamentet përkatëse kombëtare dhe ndërkombëtare, por po kryejmë edhe trajnime ndërkombëtare për të qenë më të përditësuar me këtë fenomen të ri të rëndësishëm që është shqetësues në sferën online”, tha për BIRN psikologja e iSigurt.al, Borjana Dine.
Në Kosovë, Petrit Tahiri, menaxher programi në Qendrën për Arsim të Kosovës, tha se është thelbësore që të zhvillohen korniza dhe rregullore të reja ligjore për të adresuar çështjet unike që lindin nga AI.
“Sistemet ligjore duhet të evoluojnë për të mbajtur rimtin me përparimin teknologjik dhe për të mbrojtur të drejtat, privatësinë dhe sigurinë e gjithsecilit”, tha Tahiri për BIRN.
Në Bosnje, policia në entitetin e Federatës dhe në qarkun e Brckos thanë se nuk kishin regjistruar ende ndonjë rast të tillë. Qendra Internet më i Sigurt, një organizatë jofitimprurëse që udhëheq një grup organizatash për mbrojtjen e fëmijëve dhe e ngarkuar me raportimin dhe monitorimin e përmbajtjeve të papërshtatshme në internet, tha të njëjtën gjë, por shtoi se pret ta bëjë këtë. Policia në entitetin e Republikës Srpska me popullsi kryesisht serbe nuk iu përgjigj një kërkese për koment.
Mbetet e paqartë se si do të procedohen raste të tilla në Bosnje, duke pasur parasysh kuadrin ligjor të vjetëruar dhe pabarazitë midis niveleve të ndryshme të qeverisjes.
“Bosnja dhe Hercegovina nuk ka një ligj në nivel shtetëror që rregullon këto gjëra”, tha Amela Fazlic, menaxhere e Qendrës Internet më i Sigurt.
Sipas Fazlic, Republika Srpska ka një nen në Kodin Penal që lidhet me shfrytëzimin e fëmijëve nëpërmjet teknologjisë AI, ndërsa Federata dhe Brcko kanë ligje që nuk janë të harmonizuara midis entiteteve boshnjake ose midis 10 kantoneve në entitetin e Federatës së Bosnjës.
Nëse do të kishte raste të tilla, të dyshuarit do të procedoheshin sipas Kodit Penal të entitetit ose të qarkut Brcko, në varësi të vendit ku ka ndodhur krimi, por që aktualisht rregullon vetëm pornografinë e fëmijëve. “Asnjë nga ligjet nuk rregullon shfrytëzimin e një fëmije pa kontakt të qartë dhe krijimin e drejtpërdrejtë të materialit pornografik, grooming apo komunikimit të papërshtatshëm”, tha Fazlic.
Parandalimi dhe edukimi
Ekspertët që folën për BIRN thanë se parandalimi kërkon përfshirjen e prindërve, mësuesve dhe profesionistëve të tjerë që punojnë me fëmijët.
Edukimi dhe përgjegjësia digjitale e fëmijëve duhet të bëhen përparësi si në shkollë ashtu edhe në shtëpi, thanë ata.
“Informimi i prindërve dhe i popullatës konsiderohet gjerësisht shumë i rëndësishëm për sigurinë në internet”, tha Tahiri përmes emailit.
“Prindërit nuk kanë informacione të mjaftueshme për sigurinë në internet dhe për këtë arsye nuk janë në gjendje të informojnë fëmijët e tyre. Prandaj, në nivel shkolle duhet të përgatiten sesione informuese për prindërit. Ka filma/video shumë të mira ndërgjegjësuese për prindërit dhe komunitetin të cilat mund të përdoren për të rritur ndërgjegjësimin e tyre për tema të tilla.”
Erakovic shprehu gjithashtu shqetësim për mungesën e edukimit në lidhje me privatësinë e të dhënave, mbrojtjen në mediat sociale, abuzimet e mundshme dhe përdorimin e pa monitoruar të internetit nga fëmijët, shpesh duke mos marrë parasysh kërkesat e moshës.
“Është e nevojshme të ndihmohen prindërit dhe mësuesit në këto situata, me theks në aktivitetet parandaluese,” tha Erakovic.
“Prindërit, nga ana tjetër, duhet të mbajnë një marrëdhënie të hapur dhe besimi me fëmijët e tyre, pasi është tepër e rëndësishme që një fëmijë të ketë dikë ku të mund ta raportojë menjëherë një incident të tillë dhe të mos i nënshtrohet presionit dhe kërcënimeve. Nuk duhet anashkaluar fakti që raste të njohura në mbarë botën kanë përfunduar në fatalitet, për shembull me vetëvrasje.”