Maaaring magbigay sa Japan ng mga bagong kapangyarihan laban sa mapanganib na AI ang mga kautusang may bisa
Isinasaalang-alang ng Japan na obligahin ang mga negosyong nasa likod ng advanced artificial intelligence na tiyakin ang kaligtasan nito, at magpataw ng parusa sa mga susuway sa mga kautusan ng pamahalaan matapos lumitaw ang malulubhang problema. Bibigyan ng panukalang ito ang mga awtoridad ng mas matitibay na hakbang laban sa mga kumpanyang tumatangging makipagtulungan hinggil sa mga panganib gaya ng cyberattack, kriminal na paggamit at mga sistemang kumikilos nang salungat sa itinakdang tagubilin.
Mga Nilalaman
- Maaaring magbigay sa Japan ng mga bagong kapangyarihan laban sa mapanganib na AI ang mga kautusang may bisa
- Sino ang kailangang sumunod sa mga bagong tuntunin?
- Bakit naging alalahanin ang boluntaryong pakikipagtulungan
- Cybersecurity ang nagtutulak sa pinakahuling pangangailangan para kumilos
- Planong palakihin ng Japan ang AI Safety Institute
- Pag-unlad ng debate sa patakaran
- May ilang paggamit na ng AI na saklaw ng mga umiiral na batas
- Saklaw din ang mga deepfake, malikhaing gawa at edukasyon
- Ang balanseng nais makamit ng Japan
- Mahahalagang Punto
Lumitaw ang direksiyong ito noong ika-11, kasunod ng mga talakayan ng isang saradong pangkat na nagtatrabaho sa batas tungkol sa AI. Layunin ng mga opisyal na ilahad ang buong balangkas para sa mga pagbabago sa mga institusyon, kabilang ang mga susog sa batas, bago matapos ang taon. Magtutuon ang mga parusang isinasaalang-alang sa mga insidenteng kinasasangkutan ng AI na may napakataas na kakayahan.
Mahalaga sa panukala ang pagkakasunod-sunod ng pagpapatupad: kapag nagkaroon ng problema at tumangging makipag-usap ang isang negosyo, maaaring maglabas ng kautusang may bisa ang pamahalaan kung kinakailangan. Maaari namang humantong sa parusa ang pagsuway dito. Maaaring magkaiba ang mga pananagutan ng mga developer, mananaliksik at kumpanyang naglalaan ng mga serbisyo sa publiko dahil magkakaibang bahagi ng sistemang AI ang kontrolado ng bawat isa.
Nauna nang inilatag ng Cabinet Office ng Japan ang mga pundasyon para sa mas mahigpit na pangangasiwa sa papel ng patakaran sa pamamahala ng AI nito noong Mayo 2024. Inilathala ito ng AI Strategy Team at iminungkahi nitong suriin kung dapat dagdagan ng mga legal na kahingian ang mga boluntaryong alituntunin para sa AI na may malalaking panganib. Itinala rin dito ang mga panawagan para sa mga kautusang magpapaayos at pampublikong pagtukoy sa mga negosyong partikular na malamang na magamit sa maling paraan.
Lalong pinatitingkad ng kasalukuyang debate ang naunang tanong sa patakaran: paano matitiyak ng Japan na tutugunan ng mga kumpanya ang malulubhang panganib habang napapanatili ang puwang para sa pananaliksik at kapaki-pakinabang na serbisyo? Para sa mga gumagamit, ang praktikal na usapin ay kung makakakuha ang mga awtoridad ng pakikipagtulungan at hakbang sa pagwawasto kapag nagdulot ng banta ang isang advanced na sistema.
Sino ang kailangang sumunod sa mga bagong tuntunin?
Umaandar ang mga negosyo sa AI sa iba’t ibang yugto. Bumubuo ng mga pamamaraan ang mga mananaliksik, lumilikha ng mga pundasyong sistema ang mga developer ng modelo, at ginagawang produktong ginagamit ng mga tao ang mga sistemang iyon ng mga service provider. Ang foundation model ay pundasyong AI na sinanay para sa maraming gawain at maaaring iakma ng ibang negosyo para sa mga partikular na serbisyo.
Kailangan pang pagpasyahan ng pamahalaan kung aling mga negosyo ang saklaw, ano ang maituturing na AI na may sapat na panganib, at kung ano ang anyo o laki ng anumang parusa. Walang tinukoy na buwan o taon ang iskedyul na inanunsiyo noong ika-11, samantalang wala ring taon na binanggit ang hiwalay na iskedyul ng patakaran noong Hunyo 19, kaya hindi malinaw ang eksaktong ugnayan ng mga ito sa kalendaryo.
Ayon sa papel ng patakaran noong Mayo 2024, dapat sabay na isaalang-alang ang laki ng modelo, nilalayong paggamit at panganib. Nagbabala ito na maaaring makamit ng mas maliliit na modelo ang mas malalaking kakayahan dahil sa mga susunod na pagsulong sa teknolohiya, kaya hindi maaasahang batayan ang laki lamang sa pagtatakda ng hangganan ng regulasyon.
Mahalaga rin ang mga developer mula sa ibang bansa. Ayon sa papel, dapat saklawin ng balangkas ng Japan ang AI na inilaan sa Japan mula sa ibang bansa at isaalang-alang ang mabisang pagtugon kapag hindi sumusunod ang mga negosyo. Kung isasama ang malalaking kompanyang teknolohiya ng Amerika, magiging praktikal na usapin para sa mga gumagamit sa Japan ang internasyonal na pakikipagtulungan at kakayahang magpatupad ng mga kautusan.
Bakit naging alalahanin ang boluntaryong pakikipagtulungan
Inilahad ng AI Strategy Council at AI Institutional Study Group ang piling paraan ng pagpapatupad ng mga regulasyong may bisa sa kanilang pansamantalang ulat sa patakaran noong Pebrero 4, 2025. Inirekomenda nilang igalang ang awtonomiya ng mga negosyo at limitahan ang legal na regulasyon sa mga usaping hindi makatwirang asahang matutugunan ng mga kumpanya sa pamamagitan ng boluntaryong pagsisikap.
Tinutukoy ng ulat na kailangang pag-isipan ang AI na nagdudulot o malaki ang posibilidad na magdulot ng malulubhang problema sa buhay, pisikal na kaligtasan, ari-arian, kaligtasan ng publiko o pambansang seguridad, batay sa tindi ng panganib.
Nakasalalay sa impormasyong hawak ng mga kumpanya ang mga imbestigasyon ng pamahalaan. Kaya nananawagan ang ulat ng legal na balangkas na magbibigay-daan sa mga awtoridad na humingi ng pakikipagtulungan, kabilang ang impormasyon mula sa mga lokal at dayuhang negosyo. Sinasabi rin nitong dapat magkaroon ng legal na batayan ang mga alituntunin ng pamahalaan at mga imbestigasyon sa aktuwal na paggamit ng AI upang maging mabisa ang mga ito.
Magdaragdag ng bigat sa balangkas na ito ang mga parusa. Ipinaliliwanag ng ulat na maaaring gawing mas madaling ipatupad ang mga tuntunin sa pamamagitan ng mga legal na parusa, ngunit nagbabala rin ito na maaaring magpabagal sa pag-unlad ang mahihigpit na kahingian at mangailangan ng panahon para matukoy nang eksakto. Kaayon ng pagtutuong ito sa mga kasong hindi sapat ang boluntaryong pagkilos ang panukalang pagtugon sa mga negosyong hindi nakikipagtulungan.
Cybersecurity ang nagtutulak sa pinakahuling pangangailangan para kumilos
Kayang magsagawa ng advanced AI ng mga teknikal na gawain nang hindi nangangailangan ng detalyadong tagubilin mula sa tao. Maaaring sundan ng isang awtonomong sistema ang itinakdang layunin sa pamamagitan ng ilang hakbang, habang pumipili ng mga gagawin sa bawat yugto. Makakatulong ang kakayahang ito sa lehitimong gawain, ngunit higit nitong pinatataas ang mga hinihingi sa mga kontrol sa kaligtasan kapag nakikipag-ugnayan ang sistema sa mga computer o network.
Naiulat sa Estados Unidos ang di-inaasahang hindi awtorisadong pagpasok ng isang advanced AI na binubuo pa lamang. Pinaghihinalaan ding may kinalaman ang maling paggamit ng AI sa ilang kamakailang cyberattack. Lalo pang pinatibay ng mga alalahaning ito ang panawagang kumilos ang pamahalaan kapag tumatanggi ang mga developer na makipagtulungan hinggil sa mapanganib na asal ng AI.
Inilalarawan ng panukalang rebisyon sa AI Basic Plan ng Japan na tinalakay noong Hunyo 19 na sentro ng mga iminungkahing pagbabago ang mga panganib sa cybersecurity. Tinutukoy nito ang isang modelong mula sa US na tinatawag na Claude Mythos, na kayang tumukoy nang awtonomo ng mga kahinaan sa mga computer system. Ang kahinaan ay depekto na maaaring pagsamantalahan ng umaatake para makapasok sa sistema o makagambala sa isang serbisyo.
Makakatulong sa mga tagapagtanggol ang pagtukoy sa gayong mga kahinaan upang maayos ang software. Nagdudulot din ng panganib ang kakayahang ito kapag ginamit upang suportahan ang hindi awtorisadong pagpasok. Kaya pinagsasama ng panukala ang mas mahigpit na pagtatasa sa kaligtasan at mga planong palakasin ang mga kakayahan sa depensa sa pamumuno ng National Police Agency.
Planong palakihin ng Japan ang AI Safety Institute
Magkakaroon ng mas malaking papel ang AI Safety Institute, na kilala bilang AISI, sa ilalim ng panukalang rebisyon sa pangunahing plano. Balak ng Japan na palawakin ang mga kakayahan nito at makipagtulungan sa mga dayuhang pamahalaan at pandaigdigang developer upang beripikahin ang mga advanced na modelong mula sa Japan at ibang bansa.
Itinatag ng Japan ang AISI sa ilalim ng Information Technology Promotion Agency noong Pebrero 2024. Inilalarawan sa papel ng patakaran noong Mayo 2024 ang gawain nito sa pagbuo ng praktikal na mga alituntunin sa kaligtasan, pamamaraan ng pagsusuri at teknikal na pananaliksik, kasama ang pakikipagtulungan sa mga katulad na institusyon sa Estados Unidos at Britain.
Iminumungkahi rin ng papel ng patakaran ang kaayusang magtatakda ang batas ng mga pangunahing pananagutan para sa pamamahala ng panganib at pagbabahagi ng impormasyon, habang tutulong ang mga espesyalisadong institusyon sa pagbuo ng mas detalyadong mga alituntunin at pamantayan kasama ang pamahalaan at industriya. Magbibigay-daan ang ganitong kaayusan sa pagbabago ng mga teknikal na gawain kasabay ng pag-unlad ng AI.
Maaari ring tumulong ang AISI sa pagtugon sa mga mapaminsalang sistema. Iminumungkahi ng papel na suriin ang isang mekanismong kahawig ng umiiral na proseso ng Japan sa cybersecurity ng software, kung saan iniimbestigahan ng Information Technology Promotion Agency ang mga problema at inilalathala ang mga hakbang na maaaring gawin ng mga negosyo o gumagamit.
Pag-unlad ng debate sa patakaran
Umuunlad ang mga panukala ng Japan sa pamamagitan ng boluntaryong paggabay, paghahanda ng mga institusyon at pagsasaalang-alang sa mga legal na tungkulin. Ipinakikita ng mga opisyal na dokumento na patuloy na pinipili ng Japan na pagsamahin ang mga paraang ito sa halip na ipataw ang magkakaparehong kahingian sa lahat ng negosyong gumagamit ng AI.
- Mayo 2023: Naglathala ang AI Strategy Council ng paunang talakayan tungkol sa mga panganib ng AI at sinabing kailangan ang angkop na mga pananggalang upang mapalawak ang pag-unlad at paggamit nito.
- Disyembre 2023: Inaprubahan ng mga pinuno ng G7 ang balangkas ng patakaran ng Hiroshima AI Process, kabilang ang mga prinsipyong pandaigdig at isang code of conduct para sa mga developer ng advanced AI.
- Pebrero 2024: Itinatag ng Japan ang AISI sa ilalim ng Information Technology Promotion Agency.
- Abril 2024: Inilathala ng Japan ang bersiyong 1.0 ng AI Guidelines for Business nito.
- Mayo 2024: Naglatag ang AI Strategy Team ng Cabinet Office ng mga opsiyon upang dagdagan ng mga legal na kahingian ang boluntaryong paggabay.
- Pebrero 4, 2025: Inirekomenda ng AI Strategy Council at AI Institutional Study Group ang naka-target na batas para sa mga kasong hindi sapat ang boluntaryong pagsisikap.
Inaasahan ng panukalang rebisyon sa pangunahing plano noong Hunyo 19 na aaprubahan ito ng Gabinete sa Hulyo kasunod ng pampublikong konsultasyon. Kasunod ito ng paunang planong pinagtibay noong Disyembre bago nito, kaya mahigit anim na buwan lamang ang pagitan ng planong iyon at ng iminungkahing rebisyon. Layunin naman ng hiwalay na proseso ng working group na ilahad ang mas malawak na mga panukala nito para sa mga institusyon bago matapos ang taon.
May ilang paggamit na ng AI na saklaw ng mga umiiral na batas
Ibinubukod sa papel ng patakaran ng Japan noong Mayo 2024 ang mga tuntuning nakatuon sa mga developer ng advanced AI at mga batas na namamahala sa partikular na mga produkto at gawain. Sinasabi nitong wala pang umiiral noon sa Japan na may-bisang balangkas na partikular na sumasaklaw sa malalaki o mapanganib na AI, gaya ng mga binubuo sa Europa at Estados Unidos. Saklaw na ng mga batas kriminal, batas sa pagkapribado at mga tuntunin sa produkto ang mga kaugnay na gawain.
Saklaw ng mga kahingian sa kaligtasan at bisa ng Act on Pharmaceuticals and Medical Devices ang mga medikal na kagamitang gumagamit ng AI. Kailangang kumuha ng pag-apruba ang mga kagamitang may napakataas na panganib matapos ang pagsusuring maaaring magsama ng datos mula sa mga klinikal na pagsubok. Sinasabi rin ng papel na nananatiling pananagutan ng mga doktor ang kanilang panghuling pasiyang medikal kapag ginagamit nila ang AI bilang pantulong.
Kailangang tumugon sa mga kahingian ng Road Transport Vehicle Act ang mga sasakyang gumagamit ng mga sistema para sa awtomatikong pagmamaneho. Sinusuri ang mga sistemang ito batay sa mga kondisyong nilayong paggamitan ng mga ito.
Iba naman ang mga alalahanin sa mga pasiya tungkol sa trabaho at kredito. Inilalarawan sa papel ang pagsusuri ng tao sa mga tinanggihang aplikante sa isang halimbawang gumagamit ng AI sa pagsala ng mga panayam sa video. Binabanggit din nito na kailangang iwasan ng mga advanced na paraang ginagamit sa pagtatasa ng kakayahang magbayad ng utang ang di-makatarungang diskriminasyon, pagtatangi at iba pang malulubhang pinsala. Sa lahat ng halimbawang ito, mahalaga ang antas ng kontrol ng tao: maaaring magdulot ng ibang mga panganib ang pagpapalit sa pasiya ng isang tao kumpara sa pagbibigay ng impormasyong maaari niyang isaalang-alang.
Saklaw din ang mga deepfake, malikhaing gawa at edukasyon
Kabilang sa panukalang rebisyon sa pangunahing plano ang pagbuo ng teknolohiya para matukoy ang mga deepfake. Ang deepfake ay kapani-paniwalang larawan, audio o bidyong nilikha o binago gamit ang AI, na maaaring gamitin upang magpanggap na ibang tao o magpakalat ng maling pahayag.
Tinutukoy sa papel ng patakaran noong Mayo 2024 ang ilang teknikal na tugon: mga watermark na nagpapahiwatig na AI ang lumikha sa nilalaman, pagtatala ng pinagmulan ng nilalaman at mga label na inilalapat ng mga online platform. Iniuugnay rin nito ang mga panganib ng AI sa mas malawak na pagsisikap na labanan ang mga mapanlinlang na patalastas at mapaminsalang impormasyon sa internet.
May hiwalay na landas sa batas at patakaran ang malikhaing gawa. Itinatala sa papel ang pag-aampon noong Marso 15, 2024 ng gabay tungkol sa AI at karapatang-ari ng isang subkomite ng konsehong nasa ilalim ng Agency for Cultural Affairs, kasabay ng mga talakayan ng Cabinet Office tungkol sa intelektuwal na ari-arian sa panahon ng AI. Saklaw ng mga talakayang ito ang mga tuntunin sa batas, teknikal na proteksiyon at mga kontratang naglalaan ng kabayaran. Kabilang din sa mga alalahanin ang mga boses, wangis at estilong pansining.
Kasama ang edukasyon sa panukalang rebisyon sa pangunahing plano dahil maaaring pahinain ng labis na pag-asa sa AI ang malayang pag-iisip at pagpapasiya. Kasabay nito, balak ng Japan na suportahan ang maagang pagsasabuhay sa komersiyo ng awtonomong AI. Kaya layunin ng patakaran na palawakin ang paggamit ng mga sistemang may mataas na kakayahan habang pinangangalagaan ang mga kasanayan at kontrol ng tao.
Ang balanseng nais makamit ng Japan
Inilalarawan sa mga opisyal na papel ng Japan ang mas limitadong papel ng regulasyong may bisa kaysa sa isang pangkalahatang sistemang sumasaklaw sa lahat ng pagbuo ng AI. Pabor ang papel noong Mayo 2024 sa boluntaryong paggabay para sa mga developer na limitado ang panganib ng trabaho, kabilang ang maraming mananaliksik at startup, habang isinasaalang-alang ang mas mahihigpit na kahingian para sa mga sistemang maaaring magkaroon ng mas malaking epekto.
Inihahambing din ng papel ang mga internasyonal na pamamaraan batay sa kalagayan noong panahong iyon. May mga obligasyong nakabatay sa panganib at malalaking parusang pinansiyal ang batas ng European Union sa AI. Pinagsama naman ng Estados Unidos ang mga boluntaryong pangako at mga kahingian sa pag-uulat para sa ilang malalaking modelo, batay sa mga umiiral na kapangyarihang legal. Nagpataw ang dalawang pamamaraan ng ilang may-bisang tungkulin sa mga developer ng makapangyarihang sistema.
Tutugunan ng mga iminungkahing kautusan at parusa ng Japan ang isang kongkretong kahinaan ng pamamaraang nakasentro sa pakikipagtulungan: maaaring kailanganing kumilos laban sa isang mapanganib na sistema kahit tumangging makipag-ugnayan ang tagapagtustos nito. Magtatakda kung paano gagamitin ang kapangyarihang iyon para sa mga gumagamit at developer ang pagtukoy sa mga negosyong saklaw, mga tungkuling pananagutan nila at mga kondisyong maaaring pagbatayan ng kautusan.
Mahahalagang Punto
- Isinasaalang-alang ng Japan ang mga tungkulin sa kaligtasan at parusang nakatuon sa malulubhang panganib mula sa advanced AI.
- Magbibigay-daan ang iminungkahing proseso sa mga kautusang may bisa laban sa mga negosyong hindi nakikipagtulungan, at magpapataw ng parusa sa mga lalabag.
- Pabor ang mga opisyal na dokumento ng patakaran sa naka-target na mga legal na kahingian kapag hindi sapat ang boluntaryong pagsisikap.
- Kabilang sa panukalang rebisyon sa AI Basic Plan ang pinalawak na pagsusuri sa kaligtasan, mga depensa sa cybersecurity, pagtukoy sa mga deepfake at mga hakbang sa edukasyon.
- Layunin ng pamahalaan na ilahad bago matapos ang taon ang mas malawak na balangkas para sa mga pagbabago sa mga institusyon.






