Iminungkahi ng Zhejiang University ang Batas sa AI na Ibabatay sa Pag-angkop ng mga Sistema sa Kanilang mga Gawain

Mungkahing Batas na may 99 Artikulo para Magpasya Kung Ano ang Dapat Payagang Gawin ng AI

Naglabas ang mga mananaliksik ng Zhejiang University ng panukalang batas para sa artificial intelligence na binubuo ng walong kabanata at 99 artikulo, na may pangunahing ideya: dapat umayon ang awtoridad na ibinibigay sa isang sistema ng AI sa pagiging maaasahan nito at sa mga magiging bunga ng gawaing isinasagawa nito.

Iniharap ang panukalang Zhejiang University Version 1.0 sa isang pagtitipong paglulunsad noong Setyembre 24. Itinakda ng opisyal na abiso ng pagtitipon ng unibersidad ang pagtitipon sa Setyembre 24, 2026, mula alas-2 ng hapon hanggang alas-5:30 ng hapon sa kampus nitong Zijingang. Itinampok sa adyenda nito ang pagpapaunlad ng industriya kasabay ng pangangalaga sa mga karapatan at pananagutan, na sumasalamin sa dalawang pangangailangang tinutugunan ng panukala.

Para sa mga taong naaapektuhan ng AI, agarang usapin ang mga praktikal na tanong. Maaari bang gamitin ng isang tagapagpatakbo ng modelo ang gawa ng ilustrador para sa pagsasanay nang walang pahintulot? Sino ang mananagot kapag nagbigay ang isang language model ng mapaminsala at maling sagot? Paano mapangangalagaan ng isang tao ang ebidensiya at makahingi ng remedyo matapos kumalat online ang bidyong gumamit sa mukha niya nang walang pahintulot?

May iba pang alalahanin ang mga negosyo: magkakapatong na kinakailangan sa pagsunod sa mga patakaran, mabibigat na proseso bago magamit ang mga produkto, at mga gastusing maaaring mahirapang tustusan ng mas maliliit na kumpanya. Ayon sa mga mananaliksik, layunin ng kanilang pamamaraan na pangalagaan ang mga karapatan habang tumutugon sa mga panggigipit na iyon.

Isa itong akademikong panukala na inilalahad para talakayin at rebisahin pa. Pinaka-debelop ang ideya nitong paraan ng pagsusuri sa AI sa isang partikular na konteksto, na nag-uugnay sa kakayahan ng isang sistema, pagiging maaasahan nito sa pagpapatakbo, at kung ano ang nakataya para sa mga taong naaapektuhan.

Pagbuo sa Burador

Halos anim na buwan nagtrabaho ang pangkat sa pagbuo ng panukala at nagsagawa ito ng limang masinsing yugto ng rebisyon. Mula sa unang burador na may 174 artikulo, naging 99 ito, na binawasan ng 75 artikulo o humigit-kumulang 43%. Ipinapakita nito kung gaano pinaikli ang teksto habang binubuo, bagaman hindi sapat ang bilang ng mga artikulo lamang para malaman kung gaano kabigat ang mga indibidwal na probisyon para sa mga gumagamit o kumpanya.

Bumisita ang mga mananaliksik sa mahigit 20 negosyong AI sa Hangzhou, gayundin sa mga nangungunang kumpanya sa internet. Kabilang din sa pinagbatayan ng kanilang gawain ang mga talakayan sa Zhijiang legislative forum, mga palitan ng pananaw sa mga kaugnay na ministeryo at komisyon, at ilang yugto ng pagsusuri ng mga eksperto. Kasabay nito ang pananaliksik sa pagbuo ng dalawang lokal na burador ng regulasyon tungkol sa industriya ng AI sa Hangzhou at sa pagpapaunlad dito bilang isang lungsod ng inobasyon.

Ang mga nag-organisa ay ang Guanghua Law School ng Zhejiang University, ang Digital Law and Governance Research Institute ng unibersidad, ang Zhejiang Legislative Research Institute at ang Zhejiang University Legislative Research Institute. Itinalaga ng opisyal na adyenda si Li Wenlong, isang mananaliksik sa Guanghua Law School, na maglabas at magpakilala sa panukala.

Ganito ang pagkakasunod-sunod ng pagbuo at paglulunsad:

• Sa loob ng halos anim na buwan, nagsagawa ang pangkat ng mga pagbisita sa mga negosyo, konsultasyon at limang yugto ng rebisyon.
• Noong Setyembre 24, iniharap ang panukala sa Zhejiang University; ayon sa opisyal na abiso, noong 2026 ginanap ang pagtitipon.
• Pagkatapos ng pulong, binalak ng pangkat na isama ang mga puna at bumuo ng mga susunod na bersiyon.

Tatlong Tanong sa Likod ng mga Iminungkahing Tuntunin

Inilalarawan ni Sun Xiaoxia, direktor ng Digital Law and Governance Research Institute ng Zhejiang University, ang balangkas sa pamamagitan ng tatlong magkakaugnay na elemento: kakayahang magsagawa, antas ng kognitibong pag-unlad, at katangian at epekto ng isang gawain. Sa mas payak na pananalita, ang mga tanong ay kung ano ang kayang gawin ng sistema ng AI, gaano ito maaasahan, at gaano kahalaga ang mga pasya nito.

Ipinaliwanag ni Sun sa wikang Tsino ang pananaw niya tungkol sa pinagmumulan ng panganib sa AI:

Naniniwala kami na hindi nagmumula ang mga panganib ng artificial intelligence sa lakas ng mga makina, kundi sa hindi pagtutugma ng kakayahan, kognisyon at mga gawain.

Maaaring kayang magsagawa ng isang sistema ng mahabang serye ng operasyon nang walang pakikialam ng tao, ngunit mahirapan itong makakilala ng di-pangkaraniwang sitwasyon. Mapanganib ang agwat sa pagitan ng kalayaan nitong kumilos at kakayahan nitong matukoy kung may mali kapag itinalaga rito ang gawaing may kinalaman sa kaligtasan ng tao.

Kaya hindi lang iisang tatak na ikinakabit sa isang teknolohiya ang sinusuri ng panukala. Titingnan ng tagapagpatupad ng regulasyon ang partikular na bersiyon ng sistema, ang nilalayong gamit nito at ang kapaligirang paggagamitan dito. Maaaring mangailangan ng magkakaibang kontrol ang iisang batayang teknolohiya depende sa mga gawaing isinasagawa rito.

Magkahiwalay na Susuriin ang Kakayahan at Pagiging Maaasahan

May apat na antas ang iminungkahing sukatan ng kakayahan: tulong, limitadong awtomasyon, mataas na awtomasyon at nagsasariling pagpapatupad. Isasaalang-alang sa pagsusuri kung gaano kasarili kumilos ang sistema, gaano kalawak ang naaabot ng mga pasya nito, anong mga kasangkapan ang kaya nitong gamitin, gaano ito katagal tuluy-tuloy na makapagpatakbo, at kung kaya nitong baguhin ang digital o pisikal na kapaligiran.

Mahalaga ang pag-access sa mga kasangkapan dahil iba ang saklaw ng sistemang nagmumungkahi lamang ng isang hakbang sa sistemang awtorisadong magsagawa nito. Maaaring maging sunod-sunod na aktuwal na kilos ang maling sagot kapag may pahintulot ang sistema na magpatakbo ng ibang software o kagamitan.

Apat din ang antas ng kognitibong pag-unlad: batayan, pangkalahatan, mas mataas at mahigpit na kontrolado. Susuriin dito ang katumpakan, pagkakapare-pareho, kakayahang makakilala ng di-pangkaraniwang input at magwasto ng mga pagkakamali, seguridad sa cyberspace, kakayahang masubaybayan, at mga kundisyon kung kailan maaaring makialam at pumalit ang isang tao.

Isa pang salik ang pagtutugma ng kumpiyansa sa aktuwal na katumpakan. Sa payak na pananalita, sinusuri rito kung tumutugma ang ipinapakitang kumpiyansa ng sistema sa dalas ng pagiging tama nito. Maaaring maging lalong mahirap pangasiwaan ng mga gumagamit ang sistemang tila tiyak magsalita gayong madalas naman itong magkamali.

Susuriin din ng balangkas kung maipapaliwanag ang mahahalagang output at kung kaya ng sistema na manatili sa loob ng itinakdang mga hangganan. Kapag magkahiwalay na sinuri ang kakayahan at pagiging maaasahan, matutukoy ng tagapagpatupad ng regulasyon ang sistemang sapat ang lakas para kumilos nang nagsasarili ngunit hindi sapat ang pagiging maaasahan para sa sensitibong atas.

Aling mga Gawain ang Susuriing Mabuti?

Hinahati ng panukala ang mga gawain sa tatlong antas ng epekto: mababa, pangkalahatan at mataas. Isasaalang-alang sa pagsusuri ang kahalagahan ng mga karapatang naaapektuhan, posibilidad at tindi ng pinsala, dami ng mga taong maaapektuhan, tagal ng mga epekto, kung mababawi ang resulta, at kung makakakuha ng remedyo ang mga tao.

Mahalaga rin ang kahinaan ng mga apektado. Maaaring mangailangan ng mas masusing pagsusuri ang pasyang nakaaapekto sa isang taong limitado ang kakayahang kuwestiyunin ito kaysa sa kahalintulad na pasyang nakaaapekto sa taong madaling makahingi ng tulong.

Ipalalagay na may mataas na epekto ang mga gawaing may kinalaman sa buhay at kalusugan, kalayaan ng tao, dignidad ng tao, pantay na oportunidad, mahahalagang ari-arian, edukasyon, trabaho, social security, katarungan, pagpapatupad ng batas administratibo o kaligtasan ng publiko. Ipapalagay ding mataas ang epekto ng mga gawaing maaaring lubhang makaapekto sa maraming tao.

Nakasaad din sa panukala na hindi dapat buuin, ipatupad o gamitin ang mga ipinagbabawal na aplikasyon ng AI, anuman ang klasipikasyon ng epekto ng gawain. Hindi nakasaad sa mga paglalarawang inilabas kasama ng panukala ang detalyadong talaan ng mga ipinagbabawal na aplikasyon o ang eksaktong legal na sagot sa bawat usapin tungkol sa copyright, maling output at pagpapalit ng mukha na binanggit sa simula.

Ipinapaliwanag ng Halimbawa sa Medisina ang Prinsipyo ng Pagtutugma

Ginamit ni Sun ang medikal na imaging at pagsusuri ng patolohiya bilang halimbawa kung bakit kasinghalaga ng teknikal na lakas ng sistema ang atas dito. Mabilis na mapoproseso ng AI ang malalaking dami ng larawan at medikal na datos, ngunit maaaring limitado pa rin ang pangangatwiran nito kapag humarap ito sa mahirap o di-pangkaraniwang mga kondisyon.

Dapat isaalang-alang ng angkop na atas ang dalawang katangiang ito. Magiging sanhi ng hindi pagtutugma na layong tugunan ng balangkas ang pagbibigay sa sistema ng buong pananagutan sa isang mahirap na diyagnosis habang labis na nagtitiwala sa pagpapasya nito.

Inilarawan ni Sun sa wikang Tsino ang layunin:

Iba ang pag-aatas ng pagtutugma sa simpleng pagpapataw ng mga paghihigpit; layunin nitong makamit ang pinakamainam na pagtutugma sa kakayahan, kognisyon at mga gawain.

Sa pananaw niya, maaaring ilipat sa hindi gaanong masalimuot na gawain ang sistemang hindi mahusay sa isang mahirap na gawain sa halip na tuluyang itapon ito. Kaya mas malawak sa pagpapahintulot ng walang limitasyong paggamit o ganap na pagbabawal dito ang mga praktikal na pagpipilian. Maaaring isaayos ng mga awtoridad at tagapagpatakbo ang gawain, mga pahintulot ng sistema o antas ng pakikilahok ng tao.

Para sa isang ospital, itutuon ng paraang ito ang pansin sa eksaktong gawaing itinalaga sa AI at sa mga pananggalang na nakapaligid dito. Para sa pasyente, ang pangunahing tanong ay kung naaangkop ang papel ng sistema sa bigat ng pasya.

Dapat Magbago ang Pag-apruba Kasabay ng Pagbabago ng AI

Saklaw ng iminungkahing proseso ng pamamahala ang anim na yugto: pananaliksik at pagpapaunlad, pagsubok, paglalagay sa operasyon, pagpapatakbo, pag-ulit ng pagbuo at pag-alis sa paggamit. Magpapatuloy ang pag-uuri sa lahat ng yugtong ito dahil maaaring magbago ang kakayahan at mga kalagayan ng sistema matapos itong simulang gamitin.

Maaaring palawakin ng pag-update sa modelo ang saklaw ng mga kilos na kayang gawin ng sistema. Maaaring malantad sa mga pasya nito ang mas maraming tao o mas sensitibong interes kapag pinalawak ang paggamit nito sa bagong kapaligiran. Maaari ring baguhin ng bagong datos ang pagkilos ng modelo, pati na ang pagpapababa sa pagiging maaasahan nito sa paraang hindi nakita sa mga naunang pagsubok.

Nananawagan ang panukala ng muling pagsusuri kapag nagbago ang sistema o gawain. Iuugnay ang isang pagtatasa sa partikular na bersiyon, layunin at kapaligiran ng pagpapatakbo, upang magkaroon ng dahilan ang mga tagapagpatakbo na muling suriin ang kanilang mga obligasyon kapag nagbago ang alinman sa mga ito.

Itinuturo ni Sun ang walong larangang maaaring gabayan ng prinsipyo ng pagtutugma sa pagbuo ng mga tuntuning legal: pag-uuri, pagtatalaga ng mga tungkulin, pagtatasa, pagtukoy sa mga gamit na may mataas na epekto, tindi ng regulasyon, mga kontrol sa panganib, legal na pananagutan at pagsasaayos sa paglipas ng panahon. Pangunahing pagtatangka ng panukala na gawing mas magkakaugnay ang pamamahala sa AI ang pag-uugnay sa mga pasyang ito sa iisang balangkas.

Nasa mga Detalye ang Pag-uugnay ng Pangangalaga sa mga Karapatan at mga Tungkulin ng Negosyo

Ipinakikita ng mga tanong tungkol sa mga ilustrador, maling sagot at mga gawa-gawang bidyo kung bakit mahalaga ang pananagutan bukod pa sa teknikal na pagsusuri. Kailangan ng taong naghahangad ng bayad-pinsala o pagpapatanggal ng mapaminsalang nilalaman ng praktikal na paraan para matukoy ang mga partidong mananagot sa pinsalang naranasan niya.

Inilalagay ng panukala ang legal na pananagutan sa loob ng balangkas ng pagtutugma. Dahil dito, magiging mahalagang bahagi ng pagtalakay sa mga tungkulin at pananagutan kung angkop ba ang sistema sa gawaing iniatas dito. Gayunman, kabilang sa mga usaping nangangailangan pa ng mas detalyadong gawain ang ugnayan ng mga resulta ng pagsusuri at umiiral na mga tuntunin sa pananagutang sibil, ayon kay Sun.

Kailangan ding tukuyin ng mga mananaliksik kung paano susubukin ang antas ng kognitibong pag-unlad at kung gaano kalaking agwat sa pagitan ng kakayahan, pagiging maaasahan at hinihingi ng gawain ang maituturing na hindi angkop na pagtutugma. Magtatakda ang mga pagpapasyang ito kung gaano pare-parehong maipatutupad ng mga kumpanya ang balangkas at kung gaano kaepektibong masusuri ng mga tagapagpatupad ng regulasyon ang kanilang mga pagtatasa.

Pinagsama ng adyenda ng paglulunsad ang magkakaibang praktikal na pangangailangang ito sa iisang programa. Kabilang sa mga kalahok sa sesyon tungkol sa industriya ang mga espesyalista sa batas mula sa Meituan at Douyin, kasama ang mga kalahok mula sa akademya at teknikal na larangan. Kabilang naman sa sesyon tungkol sa mga karapatan at pananagutan ang isang direktor ng pagsunod sa mga patakaran mula sa Alibaba, mga abogado at mga iskolar sa unibersidad. Ipinakikita ng paglahok nila ang lawak ng mga pananaw na hinangad ng mga nag-organisa para sa talakayan; walang batayan sa adyenda para sabihing iisa ang paninindigan ng mga kalahok tungkol sa burador.

Para sa mas maliliit na negosyo, nakataya ang bilang ng mga kinakailangang pagtatasa, ang mga ebidensiyang kailangan nilang ihanda at kung paano nagbabago ang mga obligasyon habang umuunlad ang produkto. Para sa mga taong naaapektuhan ng AI, nakataya kung makatutulong ang mga obligasyong iyon para maiwasan ang pinsala at makapagbigay ng magagamit na remedyo kapag may nagkaproblema.

Plano ng pangkat ng pananaliksik na rebisahin ang panukala batay sa mga puna mula sa pulong. Ang pangunahing gawain ngayon ay gawing mga pagsusuri, hangganan at tuntunin sa pananagutan ang prinsipyo ng pagtutugma upang magamit ito ng mga tao sa aktuwal na mga alitan at pagpapasya tungkol sa produkto.

Mahahalagang Punto

• Binubuo ng walong kabanata at 99 artikulo ang panukalang batas sa AI ng mga eksperto sa Zhejiang University; pinaikli ito mula sa unang burador na may 174 artikulo.
• Iniuugnay ng balangkas ang kakayahang magsagawa, pagiging maaasahan ng kognisyon at itinakdang gawain ng isang sistema.
• Ipalalagay na may mataas na epekto ang mga sensitibong gawain na may kinalaman sa kalusugan, kalayaan, trabaho, edukasyon at iba pa.
• Sasaklawin ng mga pagtatasa ang buong siklo ng pagbuo at paggamit, at magbabago ang mga ito kapag nagbago ang sistema o gawain nito.
• Dadaan pa sa karagdagang rebisyon ang akademikong panukala; kailangan pang mas detalyadong pag-aralan ang mga paraan ng pagsubok, hangganan at tuntunin sa pananagutan.