Nagbukas ang Taiwan ng konsultasyon sa seguridad ng mga AI agent bago gamitin ang mga ito sa mga sistemang pinansyal

30 araw para talakayin ang mga pananggalang para sa AI na kayang kumilos

Nagbukas ang Financial Supervisory Commission (FSC) ng Taiwan noong Oktubre 13, 2026, ng 30 araw na pampublikong konsultasyon hinggil sa mga pananggalang sa seguridad para sa mga ahente ng artificial intelligence na kayang kumonekta sa, magpatakbo o magpasimula ng mga sistemang operasyonal ng mga institusyong pinansyal. Nagtatakda ang panukala ng apat na antas ng panganib, L1 hanggang L4, at nananawagang hingin ang kinakailangang awtorisasyon, pagsusuri o mga mekanismo para ihinto ang pagpapatupad ng mga kilos na may pinakamataas na panganib.

Inilabas ang dokumentong pinamagatang Consultation Document on the Safe Use of Agentic AI in the Financial Sector bago pa ang malawakang paggamit ng teknolohiyang ito. Sinabi ni Lin Yu-tai, direktor ng Department of Information Management ng komisyon, na nag-eeksperimento pa lamang o nagsasagawa ng maliliit na pagsubok sa kontroladong kapaligiran ang karamihan sa mga institusyong pinansyal. Ayon sa kanya, wala pa siyang naririnig na institusyong gumagamit ng mga ahenteng ito sa aktuwal na operasyon ng negosyo.

Ang pangunahing ikinababahala ng komisyon ay ang paglipat mula sa AI na nagbibigay ng impormasyon tungo sa AI na kumikilos. Iba ang suliranin sa seguridad ng isang katulong na nagbubuod ng mga reklamo ng customer kumpara sa isang kayang kumuha ng mga kumpidensiyal na rekord, magbago ng impormasyon sa isang sistema o direktang magpadala ng sagot sa customer.

Dahil dito, nakatuon ang konsultasyon sa mga pahintulot at pananagutan, hindi lamang sa katumpakan ng modelo. Kailangang tukuyin ng mga institusyon kung anong impormasyon ang maa-access ng isang ahente, anong mga tool ang maaari nitong gamitin, anong mga kilos ang maaari nitong gawin, at kung paano ito mapatitigil o mapamamahalaan ng mga kawani kapag may naging problema.

Hindi bagong regulasyon o pormal na patnubay ang dokumento. Hindi nito pinapalitan ang mga umiiral na batas, kahingian sa pangangasiwa, tuntunin sa outsourcing o panloob na kontrol. Umaasa ang komisyon na makatutulong ang konsultasyon sa pagbuo ng patnubay sa hinaharap, ngunit wala pa itong itinakdang iskedyul para rito.

Bakit nagbabago ang panganib kapag may akses sa operasyon

Kayang magplano ng mga hakbang, gumamit ng mga software tool at kumuha ng impormasyon mula sa iba't ibang sistema ang agentic AI upang maisagawa ang isang gawain. Naiiba ito sa isang conversational application na pangunahing gumagawa ng sagot na susuriin ng isang tao. Mas nagiging apurahan ang usapin sa seguridad kapag ang maling sagot ay maaaring direktang mauwi sa isang operasyonal na pagkilos.

Tinukoy ni Lin ang apat na pangunahing panganib: paglihis ng ahente sa layuning itinakda rito, maling paggamit ng mga tool o paglampas sa mga pahintulot nito, paglalantad ng sensitibong impormasyon, at pagkalat ng mga pagkakamali sa sunod-sunod na mga kilos. Maaaring magsanib ang mga panganib na ito. Maaaring kumuha ang isang ahente ng impormasyong hindi nito dapat gamitin, isama ito sa isang mensahe at ipadala ang mensaheng iyon sa labas ng institusyon.

Nananatiling alalahanin ang mga hallucination ng AI, o mga kapani-paniwala ngunit maling sagot. Inilarawan ni Lin ang sitwasyong maglalagay ang isang ahente ng personal na impormasyon sa isang panlabas na email kahit hindi ito dapat naroon. Halimbawa ito ng posibleng pagkabigo, hindi isang insidenteng iniulat na naganap sa isang institusyong pinansyal.

Binabago rin ng bilis ang posibleng lawak ng epekto. Inihambing ni Lin ang isang taong maaaring humawak ng isang kaso kada oras sa isang ahenteng posibleng humawak ng 100. Ipinahihiwatig ng halimbawang iyon ang sandaang ulit na pagkakaiba sa dami ng napoproseso, hindi isang nasukat na resulta sa produktibidad. Ang punto niya: maaaring kumalat sa maraming kaso ang mga pagkakamaling dulot ng awtomasyon bago pa makialam ang mga kawani.

Pamahalaan ang gawain, hindi lang ang teknolohiya

Iniaayos ng konsultasyon ang mga panukala nito sa tatlong larangan: pamamahala sa seguridad, pag-uuri ng panganib at mga kontrol sa seguridad. Mas pinipili nitong gawing batayan ng pamamahala ang sitwasyon ng paggamit, o ang partikular na gawaing nais ipagawa ng institusyon sa isang ahente, sa halip na ang AI product lamang na hiwalay sa gamit nito.

Para sa bawat sitwasyon ng paggamit, dapat itakda ng institusyon ang layunin sa negosyo, mga responsableng kawani, pinahihintulutang datos, magagamit na mga tool at mga pinapahintulutang kilos. Dapat din nitong tukuyin kung saan maaaring ipadala o isulat ang mga output at kung ano ang gagawin kapag hindi normal ang kilos ng ahente.

Nangangahulugan ang paraang ito na maaaring magkaiba ang mga kontrol sa iisang software depende sa papel nito. Iba ang ahenteng nagsusuri ng impormasyon tungkol sa seguridad nang hindi kumikilos sa ahenteng may pahintulot na magbago ng isang operasyonal na sistema. Samakatuwid, maaaring kasinghalaga ng pagbabago sa mismong modelo ang pagbabago sa mga pahintulot.

Hindi matatapos ang pamamahala sa paunang pag-apruba. Kabilang sa mga panukala ang pagsusuri, pagsubaybay, inspeksiyon, pagbawas sa kakayahan, pagsususpinde at mga mekanismo sa pagbawi na angkop sa panganib. Dapat maging batayan ang pag-uuri sa mga antas ng pag-apruba, kondisyon ng pagsubok, pasya sa paggamit at kasunod na pangangasiwa, at muling tasahin ang mga ito kapag nagbago ang sitwasyon ng paggamit.

Apat na antas ng panganib na tinatasa sa tatlong batayan

Gumagamit ang iminungkahing pag-uuri na L1 hanggang L4 ng tatlong batayan: pagiging sensitibo ng datos, epekto ng mga kilos, at mga hangganan ng kakayahan o posibilidad na lumawak ang mga epekto. Ibabatay ang pagtatasa sa pinakamataas na antas ng panganib sa halip na hayaang mapawalang-bisa ito ng isang katangiang may mas mababang panganib.

Sinusuri ng pagiging sensitibo ng datos kung ano ang nakikita ng ahente. Iba ang akses sa pampublikong impormasyon kumpara sa akses sa mga personal na rekord o lihim ng negosyo. Sinusuri naman ng epekto ng mga kilos kung ano ang magagawa nito sa impormasyong iyon, mula sa pagbabasa hanggang sa pagbabago ng mga rekord o pakikipag-ugnayan sa labas ng institusyon.

Isinasaalang-alang ng ikatlong batayan ang saklaw at abot ng mga aktibidad nito. Naiiba ang ahenteng limitado sa iisang gawain sa kayang magproseso ng maramihang datos, magpatuloy sa operasyon nang walang patid o magsagawa ng ilang magkakaugnay na hakbang. Dito pumapasok sa pagtatasa ang posibilidad na lumaki ang isang maliit na pagkakamali at maging mas malawak na problemang operasyonal.

Para sa mga application na L4, hindi dapat awtomatikong isagawa ang mga kilos na may mataas na panganib nang walang kinakailangang awtorisasyon, pagsusuri o mga mekanismong haharang sa mga ito. Magkakaroon pa rin ng puwang para sa pagsubok ang mga application na may mas mababang panganib. Ayon sa komisyon, nakabatay ang pamamaraan nito sa panganib, proporsiyonalidad at pagiging neutral sa mga partikular na teknolohiya, at isinasaalang-alang nito ang mga internasyonal na balangkas sa seguridad.

Ipinakikita ng serbisyo sa customer ang kahalagahan ng mga pahintulot

Nagbibigay ng praktikal na paghahambing ang halimbawa ni Lin tungkol sa serbisyo sa customer. Nasa mababa hanggang katamtamang antas ng panganib ang isang ahenteng nangangalap ng mga reklamo at naghahanda ng mga buod. Kung maaari rin itong magpadala ng mga sagot sa mga customer, nasa katamtaman hanggang mataas na antas naman ito, ayon sa kanya, dahil maaari itong kumilos sa labas ng institusyon.

Hindi lang ang paggamit ng AI ng dalawang application ang pinagkaiba ng mga ito. Sa unang sitwasyon, maaaring suriin ng isang kawani ang buod bago ito makaapekto sa customer. Sa ikalawa, maaari nang gawing panlabas na komunikasyon ng ahente ang interpretasyon nito. Binabago ng pahintulot na magpadala ng mensahe ang maaaring maging bunga ng isang pagkakamali.

Isa pang hangganan ang pahintulot na magsulat ng impormasyon. Kung pagbabasa lamang ang pinapayagan sa isang ahente, hindi nito mababago ang orihinal na mga rekord sa pamamagitan ng pahintulot na iyon. Kapag pinahintulutan na itong magsulat, maaaring magbago o mabura ang impormasyon dahil sa mga pagkakamali. Kaya dapat saklawin ng mga kontrol kapwa ang kalidad ng output at ang integridad ng mga sistemang ginagamit nito.

Ipinakikita rin ng halimbawang ito kung bakit hindi sapat ang iisang pagtatalaga ng panganib para sa buong AI program ng isang institusyon. Maaaring mangailangan ng magkaibang kondisyon sa pag-apruba, pagsubaybay at mga hakbang sa pagbawi ang dalawang gamit ng iisang ahente dahil magkaiba ang akses nila sa datos at ang mga kilos na pinahihintulutan sa mga ito.

Kailangan pa rin ng tagapangasiwang tao ang isang digital na empleyado

Inilarawan ni Lin ang isang ahente ng AI bilang digital na empleyado dahil kaya nitong aktibong isulong ang isang gawain. Higit pa sa pagtatalaga rito ng papel ang pagkakatulad na ito: kailangang magpasya ang institusyon kung ano ang maaari nitong gawin, subukan ito bago gamitin, pangasiwaan ang mga aktibidad nito at magkaroon ng pamamaraang magpapatigil sa gawain nito.

Sa pagtalakay sa pananagutan sa paggamit nito, nilinaw ni Lin na hindi nawawala ang pananagutan ng tao kapag ipinagkatiwala ang isang gawain sa isang ahente. Ganito ang sinabi niya sa salin sa Ingles:

Katulong lamang ang AI; ang mga tao pa rin ang pangunahing tagapangasiwa.

Inaatasan ng prinsipyong ito ang mga tao na tukuyin ang kapangyarihan ng ahente at tumugon sa mga pagkabigo. Hindi maaaring lampasan basta-basta ang mga umiiral na kontrol sa seguridad dahil lamang sangkot ang isang ahente ng AI. Kailangan ng institusyon kapwa ng taong responsable sa pagpapasya at ng mga teknikal na paraang magpapatupad sa mga limitasyong inaprubahan ng taong iyon.

Mas makitid ang pokus ng komisyon kaysa sa lahat ng paggamit ng AI ng mga empleyado. Maaaring pamahalaan sa pamamagitan ng mga umiiral na panloob na kontrol at kaayusan sa seguridad ang mga personal na katulong na kumikilos sa loob ng kasalukuyang awtoridad ng isang tao. Nangangailangan naman ng panibagong pagtatasa sa panganib at seguridad ng impormasyon ang pagkonekta ng isang ahente sa mga sistemang operasyonal ng institusyong pinansyal.

Saklaw din ng mga kontrol sa pagkakakilanlan at akses ang ahente

Itinuturing ng mga panukala sa seguridad ang isang ahente bilang isang pagkakakilanlang hindi tao at isang workload ng software. Sa praktika, kailangang malaman ng institusyon kung aling ahente ang kumikilos at kung anong mga pahintulot ang nalalapat dito. Hindi dapat mapagkamalan ang mga aktibidad nito bilang gawain ng mga hindi kaugnay na user o iba pang awtomatikong proseso.

Nakasandig ang paraang ito sa mga prinsipyo ng zero trust: hindi ipinapalagay na ligtas ang akses dahil lamang nasa loob ng organisasyon ang isang sistema. Kailangang tiyakin ang pagkakakilanlan at mga pahintulot, limitahan ang akses sa kailangan lamang para sa gawain at masubaybayan ang mga kilos.

Saklaw ng mga kontrol ang pagkakakilanlan, mga device at kapaligiran ng pagpapatakbo, mga network, mga application at workload, at proteksiyon ng datos. Kabilang sa mga panukala ang mga pangunahing at mas mataas na kahingian sa seguridad at mga layunin ng kontrol; bahagi rin ng pamamaraan ang mga kontrol sa kilos, kakayahang makita ang mga aktibidad at pagsusuri ng mga ito.

Inilahad ni Lin ang ilang kongkretong hakbang. Dapat patakbuhin ang mga ahente sa mga kapaligirang may angkop na paghihiwalay, limitahan ang mga koneksiyon sa network batay sa gawain at itakda sa isang inaprubahang listahan ang mga tool na maaaring gamitin. Dapat sundin ng akses sa datos ang prinsipyong minimum na kailangan. Tinutugunan ng mga hakbang na ito ang iba't ibang paraang maaaring magamit ng isang ahente upang lumampas sa nilalayong papel nito, sa halip na umasa lamang sa mga tagubiling ibinigay sa modelo.

Dapat subukin ang mga pagkabigo sa buong daloy ng trabaho

Para sa mga application na kayang magpatuloy sa isang daloy ng trabaho, hinihingi ng konsultasyon ang pagsubok bago gamitin laban sa prompt injection, maling paggamit ng mga tool, minanang pahintulot at kontaminasyon ng memorya. Sinusuri ng mga pagsubok na ito kung paano kumikilos ang isang ahente kapag inililihis ito ng impormasyong nakakaharap nito, ng mga tool o ng awtoridad nito mula sa inaprubahang gawain.

Nangyayari ang prompt injection kapag sinusubukan ng mga tagubiling nakatago sa materyal na binabasa ng ahente na ilihis ang kilos nito. Tumutukoy naman ang maling paggamit ng mga tool sa hindi angkop na paggamit ng konektadong software. Maaaring magbigay ng akses sa ahente ang minanang pahintulot mula sa ibang account o proseso, samantalang nangyayari ang kontaminasyon ng memorya kapag hindi nilalayong naaapektuhan ng nakaimbak na impormasyon ang mga susunod na aktibidad.

Hindi lamang pagpigil sa mga pagkabigo ang mga operasyonal na layunin. Dapat makita at masubaybayan ang mga sistema, malimitahan o mapatigil, maibalik sa ayos at matunton ang mga aktibidad. Kailangang makita ng mga kawani ang ginagawa ng isang ahente, maputol ang mapaminsalang aktibidad at, kung posible, maibalik sa dati ang mga apektadong operasyon.

Dapat makatulong ang mga rekord ng mga aktibidad ng ahente sa imbestigasyon at pag-audit. Maaaring hindi sapat ang pagpapatigil lamang sa isang ahente kung nakapagsulat na ito ng maling impormasyon o nagpasimula ng mga karagdagang kilos. Kaya iniuugnay ng mga panukala ang pagpapatigil sa pagbawi at pagtatala ng nangyari.

Konsultasyon ito, hindi pinal na tuntunin sa paggamit

Inilathala ng komisyon ang dokumento sa seksiyon para sa pampublikong talakayan ng Public Policy Network Participation Platform ng Taiwan. Ayon dito, dapat makatulong ang konsultasyon na maisama sa balangkas ang praktikal na karanasan at makapagbigay ng batayan sa paggawa ng mga patakaran, posibleng patnubay at mga talakayan sa pangangasiwa.

Sinabi ni Lin na isa sa mga dahilan kung bakit hindi agad maglalabas ng nakapirming patnubay ang mabilis na pagbabago sa teknolohiya. Hindi rin maaaring ipagpalagay ng komisyon na natukoy na nito ang lahat ng kaugnay na panganib. Kaya nakasalalay sa mga puna at susunod na pag-unlad, sa halip na sa pangakong maglalabas ng pinal na dokumento sa isang takdang petsa, ang balak nitong gumawa ng patnubay.

Ganito ang pagkakasunod-sunod na inilarawan ng komisyon:

• Hulyo 2026: Nagmungkahi ang FSC ng mga estratehiya para tumugon sa mga pag-atake gamit ang AI. Inilarawan ito ni Lin bilang paunang hakbang sa kasalukuyang gawain.
• Oktubre 13, 2026: Inilabas ng FSC ang dokumento ng konsultasyon sa seguridad ng agentic AI.
• Pagkatapos ilathala: Magbibigay ng 30 araw na panahon para sa pampublikong komento hinggil sa iminungkahing pamamaraan.
• Pagkatapos ng konsultasyon: Nakasalalay sa mga puna at pag-unlad ng teknolohiya ang posibleng pormal na patnubay; wala pang inanunsiyong iskedyul ng paglalathala.

Naipapaliwanag ng kasalukuyang mga pagsubok kung bakit ito ang takdang panahon. Sinabi ni Lin na maraming eksperimento ang may kinalaman sa cybersecurity, gaya ng pagsusuri sa impormasyon tungkol sa seguridad nang hindi direktang nagsasagawa ng operasyonal na pagkilos. Nais ng komisyon na maihanda ang mga pananggalang bago higit pang maisama ang mga ahente sa mga prosesong administratibo at pangnegosyo. Ang susunod na kongkretong hakbang ay ang konsultasyon, habang hindi pa napagpapasyahan ang magiging pananalita at katayuan ng anumang patnubay.

Mahahalagang Punto

• Nagbukas ang FSC ng Taiwan noong Oktubre 13, 2026, ng 30 araw na konsultasyon hinggil sa ligtas na paggamit ng agentic AI sa pananalapi.
• Nakatuon ito sa mga ahenteng kayang kumonekta sa, magpatakbo o magpasimula ng mga sistemang operasyonal ng mga institusyong pinansyal.
• Gumagamit ang panukala ng apat na antas ng panganib na tinatasa batay sa pagiging sensitibo ng datos, epekto ng mga kilos at mga hangganan ng kakayahan.
• Kailangan ang kinakailangang awtorisasyon, pagsusuri o mga mekanismong haharang sa pagpapatupad ng mga kilos na may pinakamataas na panganib.
• Dapat limitahan ng mga institusyon ang mga pahintulot, magtago ng mga rekord ng aktibidad, at makapagpatigil ng mga ahente at makabawi mula sa mga pagkabigo.
• Nananatili ang pananagutan ng tao kahit ahente ng AI ang nagsasagawa ng gawain.
• Karamihan sa mga paggamit ay nasa yugtong eksperimental pa. Hindi pormal na patnubay ang dokumento at wala pang itinakdang iskedyul para rito.