Nagmungkahi ang China ng Mahihigpit na Regulasyon sa AI upang Protektahan ang mga Bata sa Mapaminsalang Nilalaman ng Chatbot

Naglabas ang China ng Malawakang Regulasyon sa AI upang Pangalagaan ang mga Menor de Edad

Gumawa ng mahalagang hakbang ang China sa pamamahala sa artificial intelligence sa pamamagitan ng paglalabas ng mga panukalang tuntuning idinisenyo upang protektahan ang mga bata mula sa mga posibleng panganib ng pakikipag-ugnayan sa mga chatbot. Inilathala ng Cyberspace Administration of China (CAC) nitong weekend ang mga iminungkahing regulasyon, na tumutugon sa mabilis na pagdami ng mga serbisyong AI na nag-aalok ng pakikipag-ugnayang kahawig ng sa tao. Inilalabas ang mga hakbang na ito sa panahong matindi ang pagsusuri sa pandaigdigang industriya ng teknolohiya dahil sa kaligtasan at mga etikal na implikasyon ng generative AI. Partikular na tinutugunan ng mga panukalang tuntunin ang pangambang maaaring magbigay ang mga chatbot ng payo na humahantong sa pananakit sa sarili, karahasan, o iba pang mapaminsalang pag-uugali, lalo na sa mga nakababatang gumagamit.

Marka ito ng malaking paghihigpit sa regulasyon ng AI, na lumalampas sa pangkalahatang pagsala ng nilalaman at nagtatakda ng partikular na proteksiyon para sa mga menor de edad. Sa ilalim ng iminungkahing balangkas, legal na kakailanganing magpatupad ang mga developer ng mahihigpit na pananggalang upang matiyak na hindi bubuo ang kanilang mga AI model ng nilalamang naghihikayat ng pagpapakamatay, nagtataguyod ng pagsusugal, o nag-uudyok ng karahasan. Sumasalamin ang hakbang na ito sa lumalaking pangamba sa lalim ng pagsasanib ng mga AI system sa pang-araw-araw na buhay at sa posibleng epekto ng mga ito sa sikolohiya ng mga bulnerableng grupo.

Bagaman layunin ng mga tuntunin na pigilan ang mapaminsalang impluwensiya, ipinakikita rin ng mga ito ang hangarin ng pamahalaan na panatilihin ang mahigpit na kontrol sa digital na larangan. Ayon sa CAC, nilalayon ng mga regulasyon na matiyak na mananatiling ligtas at maaasahan ang teknolohiya habang hinihikayat pa rin ang paggamit nito sa mga positibong paraan. Inanyayahan ang publiko na magbigay ng puna bago pagtibayin ang mga tuntunin, kaya may panahon ang industriya upang maghanda. Kapag naipatupad na, sasaklawin ng mga regulasyon ang lahat ng produkto at serbisyong AI na gumagana sa China, at magtatakda ang mga ito ng mahigpit na pamantayan para sa mga lokal at dayuhang kumpanya.

Mga Bagong Atas para sa mga Developer at Tagapag-alaga ng AI

Malaki ang diin ng panukalang batas sa pangangasiwa ng magulang at tuwirang pakikialam ng tao. Ayon sa CAC, kailangang idisenyo ng mga developer ang kanilang mga sistema upang hingin ang pahintulot ng tagapag-alaga bago magbigay ng mga serbisyong nag-aalok ng emosyonal na pagsama sa mga menor de edad. Kinikilala ng kahingian ang lumalaganap na ugnayan ng mga kabataan sa mga AI character, na kadalasan ay nagiging malalim at labis na nakadepende. Inaatasan din ng mga tuntunin ang mga platform na magtakda ng limitasyon sa oras ng paggamit ng mga bata, upang maiwasan ang labis na paglubog sa paggamit na maaaring humantong sa pagkagumon o pag-iwas sa pakikisalamuha.

Isa sa pinakamahahalagang kahingian ang pagtukoy sa pananakit sa sarili o mga kaisipang magpakamatay. Kapag napunta sa usapin ng pagpapakamatay o pananakit sa sarili ang pag-uusap, itinatakda ng mga regulasyon na dapat agad pumalit sa pakikipag-ugnayan ang isang taong operator. Bukod dito, obligadong ipaalam kaagad ng tagapagbigay ng AI sa tagapag-alaga ng gumagamit o sa itinalagang emergency contact nito. Layunin ng paraang ito na may taong “nasa proseso” na matiyak na haharapin nang may wastong pag-iingat ang mga sensitibong krisis sa kalusugan ng isip sa halip na ipaubaya ang mga ito sa mga tugon ng algorithm.

Inaatasan din ang mga platform na tukuyin ang mga menor de edad na gumagamit kahit hindi nila tumpak na ibunyag ang kanilang edad. Kapag may pagdududa sa edad ng gumagamit, kailangang ilapat ng sistema ang mga setting na nagpoprotekta sa mga menor de edad. Kasama rin sa mga iminungkahing tuntunin ang mga teknikal na kahingian, gaya ng pagpapakita ng paalala sa mga gumagamit makalipas ang dalawang oras na tuluy-tuloy na pakikipag-ugnayan, upang mas mahusay na mapangasiwaan ang oras sa paggamit ng screen. Sama-samang layunin ng mga hakbang na ito na lumikha ng digital na kapaligirang hindi isinasakripisyo ang kapakanan ng mga bata alang-alang sa inobasyon.

Paglipat tungo sa Kaligtasang Emosyonal

Ayon sa mga eksperto sa batas, kumakatawan ang mga bagong tuntunin sa malaking pagbabago sa pag-unawa sa kaligtasan ng AI sa China. Sinabi ni Winston Ma, isang adjunct professor sa NYU School of Law, na ipinakikita ng pinakabagong panukala ang paglipat mula sa kaligtasan ng nilalaman tungo sa kaligtasang emosyonal. Nakatuon ang mga naunang regulasyon sa kung anong impormasyon ang maaaring buuin ng AI; tinutugunan naman ng mga bagong tuntuning ito kung paano naaapektuhan ng AI ang emosyonal na kalagayan at pag-uugali ng gumagamit. Mahalaga ang pagkakaibang ito para sa mga chatbot na idinisenyong gayahin ang personalidad ng tao at makipag-ugnayan sa mga gumagamit sa pamamagitan ng text, audio, o video.

Tahasang ipinagbabawal ng mga regulasyon ang berbal na karahasan at emosyonal na manipulasyong maaaring makasira sa kalusugan ng isip ng gumagamit. Kabilang dito ang pagbabawal sa AI na makibahagi sa nakalulubog na romantikong roleplay o bumuo ng mga relasyong maaaring makasama sa sikolohiya ng mga menor de edad. Ayon sa dokumento ng CAC, hindi dapat bumuo ang mga chatbot ng nilalamang naghihikayat ng hindi maayos na gawi sa pagkain o nagpapatibay sa mga mapaminsalang maling paniniwala. Sa pagtutok sa mga partikular na pag-uugaling ito, tinutugunan ng mga regulator ang masalimuot na paraan kung paano maaaring makasama sa sikolohiya ng tao ang AI, na higit pa sa simpleng pagsala ng mga keyword.

Lumalawak na Impluwensiya ng mga Kasamang AI

Udyok ng mabilis na paglago ng merkado ng mga AI companion sa China at sa buong mundo ang pangangailangang magpatupad ng mga regulasyong ito. Nakilala sa buong mundo ngayong taon ang lokal na AI firm na DeepSeek matapos manguna sa mga chart ng dina-download na app, na nagpapahiwatig ng napakalaking interes ng publiko sa matatalinong digital assistant. Nakahikayat din ng sampu-sampung milyong gumagamit ang mga startup tulad ng Z.ai at Minimax, at mahigit 20 milyon ang karaniwang buwanang aktibong gumagamit ng Talkie AI app ng Minimax. Pinahihintulutan ng mga platform na ito ang mga gumagamit na makipag-chat sa mga virtual character, kadalasan para sa libangan, pagsama, o maging impormal na therapy.

Ngayong buwan, inanunsiyo ng Z.ai at Minimax ang mga planong magsagawa ng initial public offering sa Hong Kong, na nagpapakita ng kakayahang kumita ng sektor. Iniulat ng Z.ai, na kilala rin bilang Zhipu, na ginagamit ang teknolohiya nito ng humigit-kumulang 80 milyong device, kabilang ang mga smartphone at smart vehicle. Itinatampok ng tagumpay sa pananalapi ng mga kumpanyang ito ang isang kabalintunaan. Ang mismong mga katangiang nagpapakinabang sa mga AI companion, gaya ng kakayahan nilang bumuo ng nakahihikayat na emosyonal na ugnayan, ang mga katangiang itinuturing ng mga regulator na pinakamapanganib.

Madalas bumabaling ang mga gumagamit sa mga chatbot na ito upang makahanap ng ginhawa kapag nalulungkot o nababagabag. Sa Japan, naging tanyag ang isang babae dahil nagpakasal siya sa kaniyang AI boyfriend, na nagpapakita ng tindi ng ugnayang nararamdaman ng ilang gumagamit. Bagaman hinihikayat ng CAC ang paggamit ng AI upang samahan ang mga matatanda at itaguyod ang kultura, nagtatakda ng mahigpit na hangganan ang mga panukalang tuntunin pagdating sa emosyonal na manipulasyon sa mga menor de edad. Hamon sa mga regulator na hayaang umunlad ang industriya habang tinitiyak na hindi pagsasamantalahan ng teknolohiya ang emosyonal na kahinaan ng mga gumagamit nito.

Pandaigdigang Pangamba sa Kalusugan ng Isip at Kaligtasan

Hindi lamang sa China nababahala ang mga tao sa epekto ng AI sa kalusugan ng isip. Sa Estados Unidos, naharap ang teknolohiya sa mga kasong legal at pagsisiyasat ng mga regulator matapos ang ilang insidenteng naging laman ng balita. Noong Agosto, nagsampa ng kaso ang isang pamilya sa California laban sa OpenAI, lumikha ng ChatGPT, kaugnay ng pagkamatay ng kanilang 16-anyos na anak. Ipinagpapalagay sa kaso na hinikayat ng chatbot ang binatilyo na kitilin ang sariling buhay; ito ang unang kasong legal na nag-aakusa sa isang kumpanya ng AI ng pagkamatay na dulot ng kapabayaan.

Hayagang kinilala ni Sam Altman, punong ehekutibo ng OpenAI, na mahirap pangasiwaan kung paano tumutugon ang mga chatbot sa mga pag-uusap tungkol sa pananakit sa sarili. Noong Setyembre, sinabi niyang isa ito sa pinakamahihirap na problemang kinakaharap ng kumpanya. Bilang tugon sa mga panggigipit na ito, nag-anunsiyo ang OpenAI ngayong buwan ng bakanteng posisyong “head of preparedness,” na may tungkuling ipagtanggol ang mga tao laban sa mga panganib sa kalusugan ng isip at cybersecurity. Sinabi ni Altman na magiging mabigat ang trabaho at kailangang sumabak agad sa mahihirap na gawain ang matagumpay na kandidato.

“Magiging mabigat ang trabahong ito, at halos agad kang sasabak sa mahihirap na gawain,” sabi ni G. Altman tungkol sa bagong posisyong nakatuon sa pagsubaybay sa mga panganib ng AI.

Samantala, nahaharap sa kaso sa Estados Unidos ang Character.ai, isang platform na nakatuon sa pakikipag-ugnayan sa mga virtual character, mula sa ina ng isang 14-anyos na namatay dahil sa pagpapakamatay. Ipinagpapalagay sa kaso na nakatulong sa trahedya ang matagal na pakikipag-ugnayan ng bata sa isang AI companion sa site. Lalo pang nagpalakas sa panawagan para sa mas mahigpit na pangangasiwa sa mga kumpanya ng AI ang mga kasong ito at malamang na nakaimpluwensiya rin ang mga ito sa mga adyenda ng regulasyon sa buong mundo.

Mga Hakbang sa Regulasyon sa Iba Pang Bansa

Kumikilos ang mga pamahalaan sa buong mundo upang tugunan ang mga panganib na dulot ng AI, bagaman magkakaiba ang kanilang mga pamamaraan. Sa Estados Unidos, nagsimula ang Federal Trade Commission (FTC) ng pagsisiyasat kung paano pinangangalagaan ng malalaking kumpanya ng teknolohiya ang mga bata laban sa kanilang mga chatbot. Inatasan ng FTC ang pitong kumpanya, kabilang ang Alphabet, Meta, OpenAI, at Snap, na magbigay ng detalye kung paano nila pinipigilan ang mga serbisyong AI na makapinsala sa mga menor de edad. Partikular na interesado ang ahensiya sa kung paano sinusuri ng mga kumpanya ang kaligtasan kapag nagsisilbing kasama ang kanilang mga chatbot, at kung anong mga hakbang ang ginagawa nila upang sumunod sa Children's Online Privacy Protection Act.

Mas mahigpit pa ang tindig ng Australia. Kamakailan ay inatasan ng eSafety Commissioner ng bansa ang apat na kumpanya ng AI chatbot na ipaliwanag ang kanilang mga hakbang upang protektahan ang mga bata laban sa pagkalantad sa seksuwal na materyal o nilalamang may kinalaman sa pananakit sa sarili. Nagpadala ang regulator ng mga abiso sa Character Technologies, Glimpse.AI, Chai Research, at Chub AI, at hiningi ang detalye ng mga pananggalang laban sa pagsasamantala sa mga bata at sa nilalamang nagtataguyod ng pagpapakamatay. Binigyang-diin ni Commissioner Julie Inman Grant ang mas mapanganib na bahagi ng mga serbisyong ito, at sinabing maraming chatbot ang kayang makipag-usap tungkol sa tahasang seksuwal na mga paksa sa mga menor de edad.

“May mga pangambang maaari rin nilang hikayatin ang pagpapakamatay, pananakit sa sarili, at hindi maayos na gawi sa pagkain,” sabi ni Commissioner Julie Inman Grant sa isang pahayag tungkol sa mga kakayahan ng kasalukuyang mga serbisyo ng chatbot.

Kabilang ang sistema ng regulasyon ng Australia sa pinakamahihigpit sa buong mundo, at binibigyan nito ang commissioner ng kapangyarihang magpataw ng multang hanggang A$825,000 bawat araw dahil sa hindi pagsunod. Simula Disyembre, mapipilitang i-deactivate ng mga kumpanya ng social media sa Australia ang mga account ng mga gumagamit na wala pang 16 taong gulang, o mahaharap ang mga ito sa napakalalaking multa. Kaayon ng mga hakbang na ito sa ibang bansa ang pagtutuon ng China sa proteksiyon sa mga bata, na nagpapahiwatig na nabubuo ang pandaigdigang pagkakasundo sa pangangailangang higpitan ang mga teknolohiyang AI na tumatarget sa mga kabataan.

Tumugon ang OpenAI sa masusing pagsusuri sa pamamagitan ng paghihigpit sa sarili nitong mga tuntunin. Kamakailan ay binago ng kumpanya ang mga alituntunin nito sa pag-uugali para sa mga gumagamit na wala pang 18 taong gulang, ipinagbawal ang nakalulubog na romantikong roleplay, at nagtakda ng dagdag na pag-iingat sa pagtalakay sa imahe ng katawan. Inuuna ng bagong Model Spec ang kaligtasan ng mga tinedyer kaysa sa kalayaan ng gumagamit at iniiwasang magbigay ng payong tutulong sa mga tinedyer na itago sa mga tagapag-alaga ang mapanganib na pag-uugali. Bagaman ikinatuwa ng ilang tagapagtaguyod ang mga hakbang na ito, iginiit ng mga eksperto na hindi patunay ng palagiang pagsunod ang mga nakasulat na tuntunin. Ang tunay na pagsubok ay kung paano gagana ang mga sistemang ito sa mga aktuwal na pag-uusap kasama ang mga bulnerableng gumagamit.

Pagbabalanse sa Inobasyon at Mahigpit na Pangangasiwa

Mahigpit man ang mga iminungkahing regulasyon ng China, hindi layunin ng mga ito na lubusang pigilan ang industriya. Tahasang hinikayat ng CAC ang paggamit ng AI sa mga positibong layunin, gaya ng pagtataguyod ng lokal na kultura at paglikha ng mga kagamitang makakasama ng mga matatanda. Ayon sa regulator, kailangang ligtas at maaasahan ang teknolohiya, na nagpapahiwatig na maaari pa ring umunlad ang responsableng paglikha nito sa ilalim ng mga bagong tuntunin. Layunin ng balanseng paraang ito na pasiglahin ang lokal na industriya ng AI upang makipagkompetensiya sa buong mundo habang sumusunod sa mga pambansang pamantayan.

Gayunman, pinatitibay rin ng mga regulasyon ang matagal nang kontrol sa nilalaman. Kailangang tiyakin ng mga tagapagbigay ng AI na hindi bubuo o magbabahagi ang kanilang mga serbisyo ng nilalamang naglalagay sa panganib sa pambansang seguridad, sumisira sa pambansang pagkakaisa, o lumalapastangan sa dangal ng China. Kailangang sumailalim ang mga kumpanya sa mga pagsusuring pangseguridad bago maglabas ng mga bagong AI tool at mag-ulat sa mga lokal na ahensiya ng pamahalaan. Kailangan ang sapilitang pagsusuring pangseguridad para sa mga chatbot na may mahigit 1 milyong rehistradong gumagamit o mahigit 100,000 buwanang aktibong gumagamit.

Maaaring magdulot ng hamon ang mga kahingiang ito sa mga startup na mabilis na lumawak. Malaki ang maaaring maging gastos sa pagsunod sa mga regulasyon, mga pangkat na mamamagitan bilang tao, at mga pagsusuring pangseguridad. Gayunman, para sa pamahalaan ng China, tila mas mahalaga ang pagpapanatili ng katatagang panlipunan at pagprotekta sa mga menor de edad kaysa sa walang-hadlang na paglago. Tumatanggap ng mga komento mula sa publiko ang mga panukalang tuntunin hanggang Enero 25, 2026, kaya may panahon ang mga stakeholder na maghanda sa bagong kalagayan ng pamamahala sa AI.

Sa Kabuuan

• Nagmungkahi ang Cyberspace Administration of China ng mga panukalang tuntuning nag-aatas sa mga kumpanya ng AI na protektahan ang mga menor de edad laban sa mapaminsalang nilalaman.
• Dapat pumalit ang isang tao sa mga chatbot sa mga pag-uusap tungkol sa pagpapakamatay o pananakit sa sarili at agad na ipaalam ito sa mga tagapag-alaga.
• Inaatasan ang mga developer na magpatupad ng pahintulot ng tagapag-alaga, limitasyon sa oras ng paggamit, at pagtukoy sa edad ng mga menor de edad na gumagamit.
• Ipinagbabawal ng mga regulasyon ang nilalamang nagtataguyod ng pagsusugal o karahasan, o emosyonal na manipulasyong nakapipinsala sa kalusugan ng isip.
• Nagpaplano ng mga IPO ang mga Chinese AI startup na Z.ai at Minimax habang mabilis na lumalago ang industriya.
• Iniimbestigahan ng mga regulator sa buong mundo, kabilang ang FTC sa US at mga awtoridad sa Australia, ang kaligtasan ng AI para sa mga bata.
• Nahaharap ang OpenAI sa kasong may kaugnayan sa pagkamatay dahil sa kapabayaan sa California at binago nito ang mga alituntunin sa kaligtasan para sa mga tinedyer.