Gumagamit ang South Korea ng AI upang Matukoy ang 96,210 Materyal ng Seksuwal na Pang-aabuso sa mga Bata, Ngunit Nananatili ang mga Hadlang sa Pag-aalis

13 min. na pagbasa
South Korea Uses AI to Flag 96,210 Child Sexual Abuse Materials as Removal Gaps Persist

Mas mabilis na pagtukoy, ngunit hamon pa rin ang pagpapaalis ng nilalaman

Tinukoy ng Pambansang Sentro ng South Korea para sa Pagtugon sa Digital na Krimeng Seksuwal ang 96,210 materyal ng seksuwal na pang-aabuso sa mga bata mula Abril hanggang Setyembre gamit ang sistemang artificial intelligence na tumutulong sa mga kawani na maghanap ng kahina-hinalang nilalaman at humiling na alisin ito. Sinabi ng Ministri ng Pagkakapantay-pantay ng Kasarian at Pamilya na umabot sa 202.1 bawat araw ang mga natutukoy kada manggagawang nagmomonitor, kumpara sa 20.8 bago ipinakilala ang sistema, o humigit-kumulang 9.7 ulit na pagtaas.

Mga Nilalaman
  1. Mas mabilis na pagtukoy, ngunit hamon pa rin ang pagpapaalis ng nilalaman
  2. Paano gumagana ang pambansang sistema
  3. Ano ang ipinakikita ng pagtaas sa mga bilang
  4. Kabataan ang bumubuo sa karamihan ng mga humihingi ng tulong
  5. Hiwalay na halimbawa ng mas mabilis na pag-uulat ang Seoul
  6. Bakit maaaring hindi matapos ang pang-aabuso sa kahilingan para sa pag-aalis
  7. Ang susunod na layunin ay pagtukoy sa panghihikayat sa mga pag-uusap
  8. Mga tao pa rin ang responsable sa pagbibigay ng suporta
  9. Pag-unlad ng pagtugon
  10. Mahahalagang Punto

Inilunsad noong Abril, tuluy-tuloy na naghahanap ang sistema sa social media, mga online na komunidad at mga aplikasyon para sa random na pakikipag-chat. Sinusuri ng mga manggagawa ang mga natuklasan nito bago ipadala sa mga platform ang mga kahilingan para sa pag-aalis. Mas mabilis nang napoproseso ang mga gawaing dati ay nangangailangan sa mga empleyado na manu-manong maghanap sa mga website at magtipon ng mga ulat.

Ipinakikita ng mga bilang ang matinding pagtaas sa kakayahan ng sentro na maghanap at mag-ulat ng materyal. Hiwalay na hamon ang paghikayat sa mga website na kumilos: sinabi ng sentro na hindi natugunan ang 28.5 porsiyento ng mga kahilingan nito para sa pag-aalis noong 2025. Sa mga website na natukoy nito ang lokasyon ng server, hindi bababa sa 95.5 porsiyento ang naka-host sa ibang bansa.

Para sa mga biktima, hindi nagtatapos sa unang kahilingan para sa pag-aalis ang mga praktikal na pangangailangan. Maaaring kopyahin at muling i-upload ang mga larawan, kaya kailangan ang paulit-ulit na paghahanap at patuloy na suporta. Pinagsasama ng pambansang sentro ang pagsubaybay at tulong sa pagpapaalis ng nilalaman sa suporta kaugnay ng mga legal na hakbang.

Ipinakikita rin ng karanasan ng South Korea ang dalawang gamit ng iisang teknolohiya. Maaaring lumikha ang artificial intelligence ng mga huwad na imaheng seksuwal, na karaniwang tinatawag na deepfake, samantalang nakatutulong ang mga sistema ng pagtukoy sa mga kawani na matukoy ang gayong materyal at mas mabilis na tumugon. Bahagi pa rin ng proseso ang pagpapasya ng tao, kapwa sa pagsusuri ng hinihinalang pang-aabuso at sa pagsuporta sa mga apektado.

Patalastas

Paano gumagana ang pambansang sistema

Nangongolekta ang sistema ng pambansang sentro ng mga post gamit ang humigit-kumulang 220 keyword na nagmula sa gawaing pagsubaybay nito. Magkasama nitong sinusuri ang teksto at mga larawan, saka ipinakikita sa mga kawani ang pagtatasa at mga batayan nito. Manggagawa ang gumagawa ng pinal na pasya kung mag-uulat.

Kapag inaprubahan ng isang manggagawa ang ulat, inihahanda ng sistema ang impormasyong hinihingi ng kaukulang platform o awtoridad. Humigit-kumulang isang minuto o mas maikli na lang ang kailangan para maproseso ang kahilingan para sa pag-aalis. Ito ang oras para ihanda at iproseso ang kahilingan; kasunod nito, kailangang tumugon ang website at alisin ang nilalaman.

Malabo ang mga larawan bilang default, at inililinaw lamang ito ng mga empleyado kung kailangan upang makapagpasya. Nababawasan nito ang paulit-ulit na pagkakalantad sa nakakabagabag na materyal habang napapanatili ang hakbang ng pagsusuri. Nilalayon din ng sentro na pagbutihin ang katumpakan ng pagtukoy sa pamamagitan ng pagsasanay sa sistema gamit ang database nito.

Inilarawan ni Kim Mi-soon, direktor ng Pambansang Sentro para sa Pagtugon sa Digital na Krimeng Seksuwal, kung paano na sinusuportahan ng automation ang gawain:

Mula sa pagtukoy kung kumalat ang materyal hanggang sa paghahain ng kahilingan para ipatanggal ito, halos awtomatikong pinangangasiwaan ng sistema ang proseso nang hindi nangangailangan ng interbensiyon ng tao sa bawat hakbang.

Naglagay ang sentro ng mga tagakolekta ng datos sa 14 na platform, kabilang ang Google, X, Bluesky at Telegram. Awtomatikong nangongolekta ang mga ito ng materyal para masuri, kaya mas kaunting oras ang ginugugol ng mga empleyado sa manu-manong paghahanap at mas marami ang naiuukol sa pagsusuri at pagtulong sa mga biktima.

Ano ang ipinakikita ng pagtaas sa mga bilang

Pinroseso ng sentro ang kabuuang 45,438 kaso sa buong 2025. Ang 96,210 na naiproseso nito mula Abril hanggang Setyembre ng sumunod na taon ay humigit-kumulang 2.1 ulit ng taunang bilang na iyon, at nakamit sa loob lamang ng anim na buwan. Umakyat ang pang-araw-araw na output kada manggagawang nagmomonitor mula 20.8 tungong 202.1, o dagdag na 181.3 kaso.

Sinuportahan ng sentro ang 10,637 biktima noong 2025, kumpara sa 4,973 noong 2020. Dagdag ito na 5,664 katao, o humigit-kumulang 114 porsiyento, sa loob ng limang taon. Bilang ng mga taong tumanggap ng tulong ang kabuuang bilang ng mga biktima, samantalang inilalarawan naman ng bilang ng mga naprosesong kaso ang gawain ng sentro kaugnay ng materyal at mga kahilingan para sa pag-aalis. Maaaring mangailangan ng paulit-ulit na pagkilos ang kaso ng isang tao habang kumakalat ang nilalaman.

Patalastas

Plano ng ministeryo na palawakin sa 139 na platform ang pagsubaybay sa 2027. Ayon sa anunsiyo nito, kasalukuyang 74 na platform ang saklaw, bagaman nabanggit din ang kasalukuyang kabuuang 79. Hiwalay namang inilalarawan ng sentro ang pagpapalawak ng awtomatikong pangongolekta mula 14 na platform tungong 139. Hindi malinaw sa mga inilathalang bilang ang eksaktong ugnayan ng mas malawak na saklaw ng pagsubaybay at ng mga naka-install na tagakolekta.

Batay sa bilang ng ministeryong 74, mangangahulugan ang pag-abot sa 139 ng dagdag na 65 platform, o humigit-kumulang 88 porsiyentong pagtaas. Mas maraming lugar kung saan maaaring lumitaw ang mapang-abusong materyal ang masasaklaw ng pinalawak na pagsubaybay, ngunit dadami rin ang materyal na kailangang suriin ng mga empleyado.

Kabataan ang bumubuo sa karamihan ng mga humihingi ng tulong

Binubuo ng mga tinedyer at mga taong nasa edad 20 ang 77.6 porsiyento ng mga sinuportahan ng pambansang sentro noong 2025. Nasa 28.5 porsiyento ang mga tinedyer at 49.1 porsiyento naman ang mga nasa edad 20. Tinulungan ng sentro ang 3,052 kataong wala pang 20 taong gulang, kabilang ang 20 batang babae na wala pang 10.

Tinukoy rin ng sentro ang isang padron kung saan nilalapitan ng mga salarin ang mga posibleng biktima sa pamamagitan ng mga aplikasyon sa pakikipag-chat, mabilis na nagkakamit ng tiwala at humahantong sa pagsasamantala. Maaaring hindi alam ng isang bata na kumakalat ang mapang-abusong materyal o maaaring natatakot siyang humingi ng tulong. Kaya aktibong naghahanap ang sentro ng materyal ng seksuwal na pagsasamantala sa mga bata, kahit walang biktimang naghain ng kahilingan.

Hiwalay na larawan ng lawak ng seksuwal na pang-aabuso online ang mga bilang ng pulisya. Mula Nobyembre 2024 hanggang Oktubre 2025, dinakip ng pulisya ng South Korea ang 3,557 suspek sa mga kaso ng seksuwal na pang-aabuso online. Halos kalahati ng mga suspek ay mga tinedyer, at 35.2 porsiyento ng mga kaso ay may kinalaman sa deepfake.

Ang deepfake ay larawan, bidyo o audio na binago o nilikha gamit ang AI upang magmukhang may ginawa o sinabi ang isang tao na hindi naman talaga niya ginawa o sinabi. Sa mga kaso ng seksuwal na pang-aabuso, maaaring ilagay ng huwad na materyal ang mukha ng isang tao sa seksuwal na nilalaman. Sinabi ni Kim na natutukoy ng sistema ng sentro ang mga deepfake na mahirap makilala sa pamamagitan lamang ng pagtingin.

Hiwalay na halimbawa ng mas mabilis na pag-uulat ang Seoul

Nagpakilala ang Pamahalaang Lungsod ng Seoul ng sarili nitong sistema ng pagsubaybay gamit ang AI noong 2023 at nag-anunsiyo ng mga awtomatikong tungkulin sa pag-uulat noong 2025. Sa anunsiyo nito noong Mayo 23, sinabi ng lungsod na maaari nang matapos sa anim na minuto ang pagtukoy at pagkilala na dati ay umaabot nang dalawa't kalahati hanggang tatlong oras.

Patalastas

Tuluy-tuloy na nagmomonitor ang sistema ng lungsod, gumagawa ng mga ulat at bumubuo ng mga email na humihiling sa mga website na nagho-host ng materyal na alisin ito. Sinusuri ng isang Opisyal para sa Suporta sa Pag-aalis ang bawat burador bago ipadala. Maaaring ihanda ang mga email sa pitong wika, kabilang ang Ingles, Tsino, Hapon at Ruso, upang maabot ang mga website na nasa ibang bansa.

Inilarawan din ng Seoul ang isang mas limitadong sukat ng pagproseso: tatlong minuto ang kailangan upang maglagay ng mga keyword at gumawa ng mga resulta, kumpara sa karaniwang dalawang oras kapag manu-manong ginagawa ito ng mga opisyal. Kinalkula ng lungsod na 97.5 porsiyento ang ibinaba ng oras. Magkakaibang gawain sa proseso ang tinutukoy ng bilang na anim at tatlong minuto.

Tumaas mula 2,509 noong 2022 tungong 14,256 ang mga kasong pinangasiwaan ng sistemang AI ng Seoul para sa pag-aalis, o humigit-kumulang 468 porsiyentong pagtaas. Sa loob ng tatlong taon, tinulungan ng Seoul Digital Safety Support Center ang 3,650 indibidwal at nagtala ng 64,677 kaso ng suporta, kabilang ang tulong sa imbestigasyon at usaping legal, pagpapayo sa kalusugang pangkaisipan at pangangalagang medikal.

Umabot sa 50 kaso ng suporta, o 16.2 porsiyento, ang kinasasangkutan ng mga bata at tinedyer noong 2022. Pagsapit ng 2024, nagtala ang lungsod ng 624, o 22.1 porsiyento. Katumbas ito ng humigit-kumulang 12.5 ulit na dami ng kaso at pagtaas ng 5.9 na porsiyentong puntos sa kanilang bahagi. Magkahiwalay na sistema ang pinatatakbo ng serbisyong munisipal ng Seoul at ng pambansang sentro, kaya magkakaibang programa ang pinagmumulan ng kanilang mga bilang ng aktibidad.

Bakit maaaring hindi matapos ang pang-aabuso sa kahilingan para sa pag-aalis

Ang 28.5 porsiyentong antas ng mga kahilingang hindi natugunan ng pambansang sentro noong 2025 ay nangangahulugang hindi naalis ang nilalaman ayon sa kahilingan sa mahigit isa sa bawat apat na kahilingan. Sinabi rin ni Kim na hindi man lang tumugon ang mahigit sangkapat ng mga website na kinontak. Sinisikap ng ilang iligal na website na iwasan ang pagharang sa pamamagitan ng pagpapalit ng mga paraan ng pag-access.

Nagdudulot ng dagdag na trabaho ang pagho-host sa ibang bansa. Nakikipagtulungan ang sentro sa pulisya at mga lupon ng imbestigasyon, gayundin sa mga organisasyong sumusuporta sa ibang bansa at mga embahada. Makakatulong sa pag-aksyon ng isang platform ang pagpapadala ng kahilingan sa tamang wika, samantalang kailangan ang pakikipagtulungan sa labas ng sentro upang maipatupad ang batas laban sa mga operator na hindi nakikipagtulungan.

Bumuo ng magkasamang pangkat para sa suporta sa mga biktima ang Ministri ng Pagkakapantay-pantay ng Kasarian at Pamilya, pulisya at Korea Communications Standards Commission upang pigilan ang pagkalat ng mapang-abusong materyal. Kabilang sa mga hakbang na inilarawan ang pagsisikap na ipabura ito sa antas ng server o ipasara ang mga iligal na website.

Binigyang-diin ni Kim ang pangangailangan ng patuloy na tulong dahil maaaring kopyahin at muling ipamahagi ang nilalaman matapos itong alisin. Kaya maaaring kabilang sa suporta para sa isang biktima ang paghahanap ng mga bagong upload, paghahain ng karagdagang mga kahilingan at pagkuha ng tulong legal o pangkaisipan sa mahabang panahon.

Patalastas

Ang susunod na layunin ay pagtukoy sa panghihikayat sa mga pag-uusap

Bumubuo ang pambansang sentro ng teknolohiyang makatutukoy sa online grooming sa pamamagitan ng pagsusuri sa takbo ng mga pag-uusap. Proseso ang grooming kung saan nagkakamit ng tiwala ng isang kabataan ang isang nasa hustong gulang o iba pang salarin upang akitin siya tungo sa seksuwal na pagsasamantala.

May mga limitasyon ang paghahanap gamit ang keyword dahil maaaring karaniwang pananalita lamang ang isang mensahe. Maaaring maging bahagi ng mas nakakabahalang palitan ang komento tungkol sa hitsura ng isang tao o tanong tungkol sa edad niya kapag sinundan ito ng pamimilit na lumipat sa pribadong usapan o makipagtalik. Susuriin ng planong teknolohiyang ito ang pagkakasunod-sunod at konteksto sa halip na umasa lamang sa magkakahiwalay na salita.

Bumubuo rin ang sentro ng AI chatbot upang magbigay ng impormasyon tungkol sa mga serbisyo ng suporta sa mga kabataang maaaring nasa panganib. Pinalalawak ng dalawang proyektong ito ang gawain nito lampas sa paghahanap ng materyal na nasa internet na: layunin ng isa na makilala ang mga pagtatangkang maaaring humantong sa pagsasamantala, habang layunin naman ng isa na gawing mas madaling mahanap ang tulong.

Walang ibinigay na petsa ng paglulunsad para sa kasangkapan sa pagsusuri ng mga pag-uusap o sa chatbot. Ang nakatakdang pagpapalawak ay sa 2027, kung kailan planong palawakin ng sentro sa 139 na platform ang saklaw ng AI nito.

Mga tao pa rin ang responsable sa pagbibigay ng suporta

Nagsimulang mag-operate ang pambansang sentro noong 2018 at pinalitan kalaunan ang pangalan nito kasunod ng mga pagbabago sa batas na namamahala sa pag-iwas sa seksuwal na karahasan at pagprotekta sa mga biktima. Bahagi ito ng Women's Human Rights Institute of Korea, na may apat na pangkat at awtorisadong kawani na hanggang 43.

Binabago ng automation kung paano ginugugol ng mga empleyadong ito ang kanilang oras. Bahagyang kayang gawin ng software ang tuluy-tuloy na paghahanap, pagpapangkat ng mga natuklasan at paghahanda ng mga pormularyo ng kahilingan. Kailangan pa rin ang mga kawani sa pagpapasya kung anong hakbang ang gagawin, pagtulong sa isang tao na magsagawa ng mga legal na remedyo at pagtugon sa paghihirap.

Inilarawan ni Park Kwang-soo, pinuno ng Women's Human Rights Institute of Korea, ang papel ng mga tao sa serbisyong ito:

Anuman ang AI o teknolohiyang gamitin natin, kailangang magsimula at magtapos sa mga tao ang suporta sa mga biktima," sabi ni Park. "At kailangan ang mga tao sa napakaraming hakbang sa pagitan ng mga ito.

Nakatutulong ang malalabong preview, awtomatikong papeles at mas mabilis na pangongolekta sa paraang ito dahil nababawasan ang paulit-ulit na trabaho at pagkakalantad sa mapaminsalang mga larawan. Nakasalalay ang pagpapalawak ng sentro kapwa sa paghahanap ng mas maraming materyal at sa pagpapanatili ng pagsusuri at suportang pantao na kailangan upang maaksyunan ito.

Patalastas

Pag-unlad ng pagtugon

Umunlad sa ilang yugto ang mga pambansa at munisipal na programa ng South Korea. Ipinakikita ng mga takdang panahon ng mga ito ang paglawak ng tulong sa mga biktima kasabay ng mga awtomatikong paghahanap at pag-uulat.

  • 2018: Nagsimulang mag-operate ang pambansang sentro para sa suporta sa mga biktima ng digital na krimeng seksuwal.
  • 2023: Ipinakilala ng Pamahalaang Lungsod ng Seoul ang sistema nito ng pagsubaybay gamit ang AI.
  • Nobyembre 2024 hanggang Oktubre 2025: Dinakip ng pulisya ang 3,557 suspek sa mga kaso ng seksuwal na pang-aabuso online.
  • Mayo 23, 2025: Nag-anunsiyo ang Seoul ng mga awtomatikong tungkulin sa pag-uulat, na susuriin muna ng mga opisyal bago ipadala ang mga email para sa pag-aalis.
  • 2025: Sinuportahan ng pambansang sentro ang 10,637 biktima at nagproseso ng 45,438 kaso.
  • Abril hanggang Setyembre 2026: Nagproseso ang pambansang sentro ng 96,210 kaso kasunod ng pagpapakilala sa sistema nitong AI noong Abril.
  • 2027: Plano ng pambansang sentro na palawakin sa 139 na platform ang saklaw ng AI nito.

Ang susunod na nakatakdang pagpapalawak ay tungkol sa saklaw ng mga platform. Nakadepende ang praktikal na pakinabang nito sa bilis ng pag-abot ng pinaghihinalaang materyal sa mga taong magsusuri nito at sa bisa ng pagtugon ng mga platform at awtoridad sa mga kahilingang kasunod nito.

Mahahalagang Punto

  • Tinukoy ng pambansang sentro ang 96,210 materyal ng seksuwal na pang-aabuso sa mga bata mula Abril hanggang Setyembre.
  • Tumaas mula 20.8 tungong 202.1 ang mga natutukoy kada araw ng bawat manggagawang nagmomonitor, o humigit-kumulang 9.7 ulit ng dating antas.
  • Sinusuri ng mga manggagawa ang kahina-hinalang materyal bago magsumite ng mga kahilingan para sa pag-aalis.
  • Noong 2025, hindi natugunan ang 28.5 porsiyento ng mga kahilingan ng pambansang sentro para sa pag-aalis.
  • Binubuo ng mga tinedyer at mga taong nasa edad 20 ang 77.6 porsiyento ng mga biktimang tumanggap ng pambansang suporta.
  • May hiwalay na sistemang AI ang Seoul na bumubuo ng mga email para sa pag-aalis sa pitong wika upang suriin ng mga opisyal.
  • Plano ng pambansang sentro na saklawin ang 139 na platform sa 2027 at bumubuo ito ng mga kasangkapang makatutukoy sa grooming at makapagbibigay ng impormasyon tungkol sa suporta.
Ibahagi ang artikulong ito

Baka magustuhan mo rin