Pang-aabuso sa mga bata gamit ang AI deepfake sa Japan, nagbunsod ng imbestigasyon ng pulisya at debate sa batas

Lumalalang krisis sa mga paaralan sa Japan

Mas marami nang ulat ang tinatanggap ng mga pulis sa buong Japan tungkol sa paggamit ng mga kaklase ng artificial intelligence upang gumawa ng mga seksuwal na deepfake ng mga menor de edad. Kadalasan, kumukuha sila ng mga larawan mula sa mga aktibidad sa paaralan, mga album ng pagtatapos, at mga pribadong group chat. Karaniwang biktima ang mga mag-aaral sa junior high at high school, pero pinupuntirya rin ang mga bata sa elementarya. Sa ilang kaso, menor de edad din ang mga gumawa nito: gumamit sila ng mga website para sa paglikha ng larawan o mga simpleng smartphone app upang gumawa ng kapani-paniwala at malaswang pekeng larawan at ibahagi ang mga ito sa kanilang mga kapwa mag-aaral.

Ayon sa mga awtoridad, mahigit 100 konsultasyon at ulat tungkol sa mga pekeng seksuwal na larawan ng mga menor de edad ang naitala noong nakaraang taon. Labimpito sa mga kilalang kaso ang may kinalaman sa mga larawang mula sa mga aktibidad sa paaralan o yearbook. Madalas hinala ng mga biktima na kakilala nila ang gumawa nito. Naitala rin ng mga pulis ang pangha-harass sa mga kapwa mag-aaral na kapareho ng kasarian, kung saan layunin ng gumawa na mang-api o manghiya, sa halip na makaranas ng seksuwal na pagnanasa. Sa isang kaso sa rehiyon ng Tokai sa gitnang Japan, isinangguni sa mga tagausig ang isang lalaking mag-aaral sa junior high dahil sa hinalang paninirang-puri matapos siyang gumawa ng pekeng hubad na larawan ng isang kaklaseng babae at ibahagi ito sa mga kaibigan.

Bahagi ang pagdami ng mga kasong ito ng mas malawak na pandaigdigang kalakaran. Naitala ng isang kompanya sa seguridad sa U.S. ang hindi bababa sa 95,820 deepfake video online noong 2023, at iniulat na pornograpiko ang 98 porsiyento ng mga ito. Sa mga madaling gamiting tool ngayon, puwedeng mag-type ng prompt ang isang tao, mag-upload ng mukha, o subukang alisin ang damit sa larawan sa isang pindot lang. Sumasabay ang kadalian ng paggamit ng mga ito sa dinamika ng pakikisalamuha sa paaralan at sa napakaraming personal na larawang pino-post o ibinabahagi ng mga bata, kadalasan nang hindi nila namamalayan kung paano maaaring gamitin ang mga iyon laban sa kanila.

Paano gumagawa ng deepfake ang mga kabataan gamit ang pangkaraniwang mga larawan

May ilang uri ng mga tool na ginagamit ngayon. Sinusubukan ng ilang app na “hubaran” ang tao sa larawan sa pamamagitan ng paglikha ng katawan sa ilalim ng damit. Pinapalitan naman ng iba ang mukha sa larawan ng isang mag-aaral at inilalagay ito sa katawan ng adultong performer. Nakagagawa rin ang mga generative AI website ng malaswang larawan mula lamang sa text prompt, at maaaring iayon ang mga ito para kamukha ng isang partikular na tao gamit ang ilang larawang reperensiya. Dinisenyo ang mga sistemang ito upang bumuo ng mga bagong larawan batay sa mga pattern na natutuhan mula sa malalaking dataset. Maaari rin silang patakbuhin sa mga pangkaraniwang device, kaya mas madaling magamit sa pang-aabuso at mas mahirap matukoy ng mga paaralan, pamilya, at tagapagpatupad ng batas.

Bakit mahirap usigin ang mga kaso

Isinulat ang pangunahing batas ng Japan hinggil sa mga seksuwal na larawan ng bata, ang Act on Regulation and Punishment of Acts Relating to Child Prostitution and Child Pornography, upang protektahan ang mga totoong bata na makikita sa mga totoong larawan. Dahil dito, nagkakaroon ng malabong bahagi sa batas pagdating sa mga pekeng larawang ginawa ng AI. Kapag sintetikong larawan ang pinag-uusapan, hindi gaanong malinaw ang legal na hakbang kahit mukha o wangis ng totoong bata ang ginamit. Gumagamit ang mga pulis ng iba pang batas, kabilang ang mga tungkol sa paninirang-puri at ilang lokal na ordinansa, upang usigin ang mga kasong posible. Pira-piraso ang ganitong pamamaraan, at pasan ng mga biktima at pamilya ang responsibilidad na matuklasan ang pang-aabuso at mabilis na magsampa ng reklamo.

Ano ang ginagawa ng mga pulis ngayon

Sinimulan na ng National Police Agency na suriin ang humigit-kumulang 10 website at app para sa paglikha ng larawan na patok lalo na sa mga mag-aaral sa junior high at high school. Plano ng mga imbestigador na gamitin ang kanilang mga natuklasan sa mga kriminal na imbestigasyon at sa pagbuo ng mga programang pang-edukasyon para sa kabataan, kabilang ang mga klase sa pag-iwas sa delingkuwensiya na nagpapaliwanag kung bakit krimen at malubhang pang-aabuso sa mga kaklase ang paggawa o pagbabahagi ng ganitong mga larawan.

Nagbabala ang matataas na opisyal na mas malawak ang pang-aabuso kaysa ipinahihiwatig ng mga naiulat na kaso. Matapos suriin ang mga kamakailang reklamo, sinabi ng isang nakatataas na opisyal ng pulisya na malamang maliit na bahagi lamang ng aktuwal na mga insidente ang mga naitalang kaso, dahil maraming biktima ang hindi nagsusumbong.

Malabong bahagi sa batas ng Japan

Ayon sa mga eksperto sa batas sa Japan, hindi nakasabay ang balangkas ng batas ng bansa sa pag-unlad ng generative AI. Sa ilalim ng mga umiiral na tuntunin, maaaring hindi saklaw ng pambansang batas laban sa materyal na seksuwal na pang-aabuso sa bata ang isang deepfake kung hindi mapatunayan ng mga tagausig na totoong bata ang inilalarawan, o kung hindi malinaw na matukoy ang isang totoong bata. Salungat ang kakulangang ito sa tunay na pinsalang dinaranas ng mga biktima kapag ikinakabit ang kanilang mukha o pangalan sa mga malaswang pekeng larawang kumakalat sa group chat o social media.

Ayon kay Takashi Nagase, abogado at propesor sa Kanazawa University na nagpayo tungkol sa patakaran sa internet, hindi na angkop sa aktuwal na paggamit ng teknolohiya ang pagkakaiba sa pagitan ng totoong larawan at sintetikong larawan.

Idinisenyo ang kasalukuyang batas upang protektahan ang mga totoong bata, pero pinalabo ng generative AI ang hangganan sa pagitan ng totoo at peke.

Nagsimula nang kumilos ang ilang lokal na pamahalaan. Binago ng Tottori Prefecture ang ordinansa nito noong 2024 upang tahasang ipagbawal ang paggawa ng mga pekeng seksuwal na larawan gamit ang mga litrato ng mga bata. Tinatanggap ng mga tagapagtaguyod ang mga hakbang sa lokal na antas, pero sinasabi nilang kailangan ang pambansang batas upang hindi magkaiba-iba ang pagpapatupad sa bawat hurisdiksiyon o mabigo ito kapag nakaimbak ang mga larawan sa mga server sa ibang bansa o ibinahagi nang hindi nagpapakilala. Tinalakay ng isang pangkat ng pamahalaang sentral ang paggamit ng internet ng kabataan at mga posibleng hakbang laban sa pang-aabuso gamit ang AI, pero mabagal ang pag-usad.

Ayon kay Masaki Ueda, associate professor ng batas kriminal sa Kanagawa University na nag-aaral ng mga regulasyon sa kalaswaan, dapat ipakita ng balangkas ng batas ang aktuwal na paglabag sa privacy at pinsalang sikolohikal na dinaranas ng mga batang ginamit sa mga larawan nang walang pahintulot nila.

Kapag kumalat online ang mga sopistikadong pekeng larawan, nalalabag ang privacy ng mga batang ginamit ang mga larawan, kahit peke ang mga ito. Malaki ang pasaning sikolohikal, kaya dapat ituring ang mga deepfake na larawan nang katulad ng pornograpiya ng bata at pag-isipan ang mga legal na regulasyon.

Ang teknolohiyang ginagamit sa pang-aabuso

Ginagawa ang mga deepfake gamit ang mga machine learning model na sinanay upang lumikha ng mga larawang mukhang totoo. Dalawang pamilya ng tool ang pangunahing ginagamit. Itinatapat at isinasama ng mga paraan ng pagpapalit ng mukha ang mukha ng isang tao sa umiiral na video o larawan. Samantala, lumilikha ang mga text-to-image system, na madalas tawaging diffusion model, ng buong larawan mula sa simula batay sa nakasulat na prompt at, kung mayroon, ilang mukha bilang reperensiya. Minsan, nagsasanay muli ang mga lumalabag ng lokal na model gamit ang ilang larawang kinuha mula sa profile ng isang target sa social media o mula sa album ng paaralan, kaya kapansin-pansing nagiging kamukha ng bata ang resulta.

Mas pinahihirap ng mga pagsulong na ito ang pagtukoy at pagtugon sa mga deepfake. Kung ganap na sintetikong larawan ito, walang orihinal na larawang maihahambing. May mga watermark at filter para matukoy ang AI, pero hindi palagian ang bisa ng mga ito at maaari silang alisin. Iniulat ng Internet Watch Foundation na sa loob ng isang buwan noong 2023, mahigit 20,000 larawang ginawa ng AI ang nai-post sa iisang dark web forum, at libo-libong larawan dito ang lumabag sa batas ng UK. Nagbabala sa mga sumunod na update na lalong kumakalat ang ganitong nilalaman sa pampublikong web, kung saan maaaring makita ito ng mga hindi naghihinalang gumagamit at biktima sa mga bukas na forum at gallery ng larawan. Ayon sa IWF, hindi maihihiwalay sa totoong pang-aabuso ang ilan sa mga pinakakapani-paniwalang larawan, kaya tumataas ang panganib na muling mabiktima ang mga bata at nalulula ang mga tagapangasiwa ng nilalaman at pulisya sa dami ng kaso. Naglathala ang IWF ng pananaliksik tungkol sa paggamit sa AI sa paggawa ng mga larawang nagpapakita ng seksuwal na pang-aabuso sa bata at nanawagan ito para sa agarang mga hakbang na legal at teknikal. Makikita ang mga ulat nito sa pananaliksik ng IWF.

Epekto sa mga biktima at paaralan

Para sa isang bata, maaaring magdulot ng takot, hiya, at kawalan ng kontrol ang makitang inilagay ang mukha niya sa isang seksuwal na larawan. Kahit alam ng mga kaklase na peke ang larawan, maaaring malubha ang pinsala sa reputasyon at kalusugang pangkaisipan ng biktima. Nakakaharap ang mga komunidad ng paaralan sa iba pang epekto habang kumakalat ang mga tsismis, lumalala ang pambu-bully, at nagmamadaling tumutugon ang mga guro sa mga magulang, kaligtasan ng mga mag-aaral, at mga pulis.

Lalo na para sa mga babae, nagbabago ang paraan ng pakikisalamuha nila online. Iniulat ng children’s commissioner ng England na tumigil na sa pagpo-post ng mga larawan ang ilang kabataan dahil nangangamba silang magamit laban sa kanila ang mga ito sa pamamagitan ng mga tool na nag-aalis ng damit sa larawan. Hinimok ni Dame Rachel de Souza, children’s commissioner ng England, ang mga mambabatas na ipagbawal ang mga app na gumagawa ng mga malaswang deepfake ng mga bata, at binanggit niya ang lumalaking pagkabalisa ng mga dalagitang babae.

Hindi dapat maging legal ang mga tool na gumagamit ng teknolohiyang deepfake upang gumawa ng mga hubad na larawan ng mga bata, at hinihiling ko sa pamahalaan na gumawa ng matibay na hakbang para ipagbawal ang mga ito. Wala silang lugar sa ating lipunan.

Sa Japan, mas marami nang kasong nakikita ang mga abogado kung saan iniimbestigahan ang mga binatilyo dahil sa mga seksuwal na paglabag na may kaugnayan sa deepfake o malaswang nilalamang ibinahagi sa group chat. Nagbabala ang mga espesyalista na maraming kabataan ang hindi nakauunawa sa legal na kahihinatnan o pinsalang dulot nito sa kanilang mga kapwa mag-aaral hangga't hindi sila dinadalaw ng pulisya o sumasailalim sa proseso ng pagdidisiplina sa paaralan. Ipinakikita ng kakulangang ito na kailangan ang malinaw na mga tuntunin, edukasyon sa mga paaralan, at matibay na pananggalang sa mga platform.

Mga hakbang sa ibang bansa at aral para sa Japan

Kumikilos ang ibang mga bansa upang isara ang mga puwang sa batas. Nagpasa ang South Korea ng panukalang batas noong Setyembre 2024 na ginagawang krimen hindi lamang ang paggawa ng mga seksuwal na deepfake ng mga menor de edad, kundi pati ang pagtingin o pag-iingat ng mga ito. Sa Estados Unidos, ginagawang ilegal ng isang pederal na batas na pinagtibay noong Mayo 2025 ang pag-post ng mga malaswang larawan o video nang walang pahintulot ng taong inilalarawan, at inaatasan ang mga platform na alisin ang naturang nilalaman sa loob ng 48 oras matapos humiling ang biktima. Binago rin ng maraming estado sa U.S. ang mga batas upang maituring na ilegal na materyal ng seksuwal na pang-aabuso sa bata ang mga larawang binago o ginawa ng AI na nagpapakita ng mga menor de edad na nakikibahagi sa seksuwal na gawain, kahit walang totoong batang sangkot sa inilalarawang pangyayari. Tugon ang mga hakbang na ito sa antas ng estado sa mga naunang hatol ng korte sa U.S. na nagbukod sa ganap na birtuwal na nilalaman mula sa mga larawang ginawa gamit ang totoong mga bata.

Sa Europe, nagtutulungan ang mga tagapagpatupad ng batas sa iba’t ibang bansa. Pinangunahan ng Europol ang Operation Cumberland, isa sa mga unang pandaigdigang operasyong tumugon sa materyal ng seksuwal na pang-aabuso sa bata na ginawa ng AI. Sa tulong ng 19 na bansa, natukoy ng mga pulis ang daan-daang suspek, nagsagawa ng dose-dosenang pag-aresto, at hinalughog ang mga tahanan upang itigil ang isang platform na namamahagi ng ganap na artipisyal na mga larawan ng mga menor de edad. Sinabi ng mga imbestigador na binibigyang-kakayahan na ng AI ang mga taong limitado ang kasanayan na gumawa ng napakaraming materyal ng pang-aabuso, at nagbabala sila na madalas pumapalya ang mga tradisyonal na paraan ng pagtukoy sa mga biktima o pagsubaybay sa pinagmulang materyal kapag sintetikong larawan ang ginagamit. Binigyang-diin ni Catherine De Bolle, executive director ng Europol, ang pangangailangan ng mga bagong paraan ng imbestigasyong angkop sa nilalamang ginawa ng AI.

Madaling makagagawa ng mga larawang gawa ng AI ang mga indibidwal na may layuning kriminal, kaya dumarami ang materyal ng pang-aabuso at mas nahihirapang matukoy ang mga lumalabag o biktima.

Sa Japan, kamakailan ay nagsagawa ang mga pulis ng mga unang pag-aresto kaugnay ng pagbebenta sa mga online auction ng mga malaswang poster na ginawa ng AI at nagtatampok ng mga kathang-isip na babaeng nasa hustong gulang. Ipinakikita nito na maaaring saklawin ng mga umiiral na batas laban sa kalaswaan ang ilang uri ng pang-aabuso gamit ang AI. Iniulat na kumita ang isang suspek ng humigit-kumulang 10 milyong yen sa loob ng isang taon. Mas maraming hadlang ang mga kasong kinasasangkutan ng mga bata, kaya iginigiit ng mga eksperto at grupo para sa proteksiyon ng bata na kailangan ang tahasang pambansang mga tuntuning sasaklaw sa mga seksuwal na larawang ginawa ng AI na nagpapakita ng mga menor de edad, batay man ang mga ito sa totoong larawan o ganap na sintetikong nilikha.

Ano ang magagawa ngayon ng mga pamilya, paaralan, at platform

Habang pinagdedebatehan ng mga mambabatas ang mga reporma, may mga praktikal na hakbang upang mabawasan ang panganib at mapabilis ang pagtugon kapag may naganap na pang-aabuso. Nakatuon ang mga hakbang na ito sa pahintulot, pag-access sa mga larawan, mga paraan ng pag-uulat, at suporta sa kalusugang pangkaisipan.

• Limitahan ang pagpapakalat ng mga larawan ng mag-aaral. Maaaring limitahan ng mga paaralan ang pagbabahagi ng mga album ng klase at gallery ng mga aktibidad sa mga beripikadong guardian, gumamit ng mga link na may takdang panahon, at lagyan ng watermark ang mga larawang inilalabas sa mga opisyal na channel.
• Ituro nang maaga ang pahintulot at etika sa digital na mundo. Isama ang AI at media literacy sa mga klase sa homeroom o teknolohiya, pati ang tapat na pagtalakay sa mga deepfake, privacy, at pinsalang dulot ng mga larawang ito.
• Magtakda ng malinaw na tuntunin para sa mga group chat. Dapat magtakda ang mga student club at klase ng mga tuntunin sa paggamit ng messaging app, pati malinaw na kaparusahan sa pagbabahagi ng malaswa o mapang-harass na nilalaman.
• Bigyang-kakayahan ang mga mag-aaral na mabilis na magsumbong. Gawing madali ang pag-alerto sa mapagkakatiwalaang nakatatanda, paaralan, at platform kapag may lumitaw na mapang-abusong larawan. Kapag mabilis na naiulat, mas maikli ang panahong maaari itong kumalat.
• Makipagtulungan sa mga pulis. Kahit hindi malinaw ang legal na hakbang, ibahagi sa pulisya ang ebidensiya upang makapagpayo sila tungkol sa paninirang-puri, privacy, o mga lokal na ordinansang maaaring gamitin.
• Makipag-ugnayan sa mga platform. Gamitin ang mga nakapaloob na tool upang iulat ang seksuwal na larawang ibinahagi nang walang pahintulot at hilinging alisin ito. Itala ang mga link, oras at petsa, at username.
• Suportahan ang kalusugang pangkaisipan ng biktima. Mag-alok ng kumpidensiyal na pagpapayo at agad na isangkot ang mga guardian. Huwag hingin sa biktima na harapin ang mga kaklase upang patunayang peke ang larawan.
• Bawasan ang bakas ng personal na datos. Himukin ang mga mag-aaral na gawing pribado ang kanilang mga account, burahin ang mga lumang post, at iwasang mag-post ng mga larawang malinaw at mataas ang resolusyon na nagpapakita ng mukha at may kaugnayan sa paaralan o lokasyon.
• Gumamit ng mas ligtas na paraan ng pagbabahagi ng larawan. Kapag nagbabahagi ng mga larawan ng koponan o klase, pag-isipan ang mas malawak na kuha, mas kaunting close-up ng mga mukha, at paghihigpit sa pahintulot sa muling pagbabahagi.

Para sa mga kompanya ng teknolohiya, kabilang sa mga pananggalang ang matibay na filter para sa mga prompt at upload, awtomatikong pagharang sa mga feature na nag-aalis ng damit, mahigpit na beripikasyon ng edad, at mabilis na proseso ng pag-aalis ng nilalaman sa iba’t ibang produkto. Makakatulong sa muling pagbuo ng tiwala ang pagiging bukas tungkol sa mga kilalang pagkukulang at mga naitalang pagwawasto. Ipinakikita ng isang kamakailang kontrobersiya tungkol sa isang kilalang chatbot na gumawa ng mga seksuwalisadong larawan ng isang 16-anyos na celebrity kung gaano kabilis mauwi sa mga babala ng mga regulator at pagtuligsa ng publiko ang isang pagkukulang sa disenyo.

Mahahalagang punto

• Dumarami ang ulat sa mga pulis sa Japan tungkol sa mga menor de edad na gumagawa at nagbabahagi ng mga seksuwal na deepfake na gawa ng AI ng kanilang mga kaklase gamit ang mga larawan sa paaralan at group chat.
• Noong nakaraang taon, mahigit 100 konsultasyon at ulat ang isinampa sa buong bansa, at hindi bababa sa 17 kaso ang may kaugnayan sa mga aktibidad sa paaralan at album ng pagtatapos.
• Mahirap usigin ang mga deepfake sa ilalim ng kasalukuyang pambansang batas, na nakatuon sa mga larawang nagpapakita ng totoong bata. Madalas gumamit ang mga pulis ng ibang batas, gaya ng tungkol sa paninirang-puri.
• Iniimbestigahan ng National Police Agency ang humigit-kumulang 10 sikat na website at app para sa paglikha ng larawan, at planong gamitin ang mga natuklasan para sa mga kriminal na imbestigasyon at edukasyon ng kabataan.
• Ayon sa mga eksperto, hindi nakasabay sa pag-unlad ang sistemang legal. Nanawagan ang mga iskolar para sa tahasang pambansang mga tuntuning ituturing na katulad ng ilegal na materyal ng seksuwal na pang-aabuso sa bata ang mga seksuwal na deepfake ng mga menor de edad.
• Sa ibang bansa, kumikilos na ang South Korea, Estados Unidos, United Kingdom, at Australia upang regulahin ang mga seksuwal na larawang ginawa ng AI, kabilang ang mga obligasyong mabilis na alisin ang mga ito at ang pagtatakda ng mga bagong krimen.
• Tinutukan ng Operation Cumberland ng Europol ang isang network na namamahagi ng ganap na AI-generated na materyal ng pang-aabuso sa bata at itinampok nito ang mga hamon sa imbestigasyon kapag walang totoong batang inilalarawan.
• Mababawasan ng mga paaralan, pamilya, at platform ang pinsala sa pamamagitan ng paghihigpit sa pag-access sa mga larawan, pagtuturo ng AI literacy, pagpapatupad ng mga tuntunin sa chat, pagpapadali sa pag-uulat, at pagbibigay ng pagpapayo sa mga biktima.