Sinusuri ng Russia, China at U.S. ang mga tuntunin para manatili sa tao ang kontrol sa AI sa mga sandatang nuklear

14 min. na pagbasa
Russia, China and U.S. Explore Human Control Rules for AI in Nuclear Weapons

Umuusad ang mga pag-uusap tungkol sa AI at nuklear bago ang posibleng summit sa Shenzhen

Pinag-uusapan ng Russia, China at United States ang posibleng pangakong panatilihin sa tao ang pagpapasya sa paggamit ng mga sandatang nuklear, habang naghahanda ang mga diplomat para sa iminungkahing pagpupulong nina Vladimir Putin, Xi Jinping at Donald Trump sa Shenzhen sa Nobyembre 18 at 19. Nakatuon ang mga negosasyon sa paglilimita sa paggamit ng artificial intelligence sa mga sistema ng command ng nuklear, isang larangang hinahanapan ng mga opisyal ng pagkakasundo sa kabila ng mga pagtatalo sa pormat at mas malawak na adyenda ng summit.

Mga Nilalaman
  1. Umuusad ang mga pag-uusap tungkol sa AI at nuklear bago ang posibleng summit sa Shenzhen
  2. Ano ang ibig sabihin ng pagpapanatili ng kontrol sa tao?
  3. Bakit bahagi ng usapan ang mga sistema ng babala
  4. Hindi nagkakasundo ang Beijing at Washington kung paano magpupulong
  5. Iba ang pagtatalo sa mga pananggalang sa AI sa usapin ng pagbawas ng mga arsenal
  6. Nananatili sa mas malawak na adyendang diplomatiko ang Ukraine
  7. Daloy ng mga paghahanda
  8. Nababahala ang Asya sa pormat ng tatlong kapangyarihan
  9. Mahahalagang Punto

Gaganapin sana ang pagpupulong kasabay ng summit ng Asia-Pacific Economic Cooperation sa lungsod sa China. Ilang linggo nang pinag-uusapan ng mga pangkat ng negosasyon ang mga paksang maaaring talakayin ng tatlong pangulo, at ngayon ay higit na nakatuon ang pansin sa mga hakbang para sa kaligtasang nuklear sa halip na sa mas pinagtatalunang mga usaping pampolitika.

Batay ang ulat tungkol sa mga panukalang AI sa mga di-pinangalanang sangguniang naglarawan ng ilang linggong talakayan sa antas ng mga opisyal, kabilang ang mga usapin tungkol sa AI sa mahahalagang sistema ng armas at posibleng magkasanib na pahayag laban sa digmaang nuklear. Inilarawan ng isang sanggunian ang pamamahala sa AI para sa mga sandatang nuklear bilang isang “madaling maisakatuparang hakbang” na kaayon ng mga naunang patakaran.

Isa sa mga pangunahing panukala ang panatilihin sa isang tao, at hindi sa isang nagsasariling sistema ng AI, ang pinal na desisyon sa paggamit ng mga sandatang nuklear. Kabilang din sa mga pinag-uusapang ideya ang pagprotekta sa mga komunikasyong nuklear laban sa mga cyberattack, pagpapalitan ng impormasyon tungkol sa mga pagsubok sa misil, at muling pagpapatibay na hindi maaaring manalo sa digmaang nuklear at hindi ito dapat kailanman labanan.

Sinabi ni Heather Williams, senior fellow sa Centre for Strategic and International Studies, na posibleng magkaroon ng magkasanib na pahayag na nagsasaad na hindi maaaring manalo sa digmaang nuklear at hindi ito dapat kailanman labanan. Aniya, nagkasundo na ang tatlong bansa sa gayong pananalita bilang mga permanenteng miyembro ng United Nations Security Council. Itinuro rin ni Williams na posibleng kalabasan ang kasunduan sa pagpapanatili sa tao ng kontrol sa mga sandatang nuklear at sa command and control ng mga ito.

Nakasalalay pa rin ang pagpupulong sa pagkakasundo sa adyenda at mga kaayusan nito. Sinabi ni Kremlin spokesman Dmitry Peskov noong Nobyembre 8 na matutuloy ang summit kung magkakaroon ng consensus ang mga panig. Hindi pa inihahayag ang saklaw, legal na porma at mga kaayusan sa pagpapatupad ng anumang pangako tungkol sa AI.

Hayagang nagpahiwatig si Trump na inaasahan niyang makikipagkita kina Xi at Putin sa pagtitipon ng APEC. Kinumpirma ng Ministry of Foreign Affairs ng China na nakikipag-ugnayan ito sa mga kaugnay na panig tungkol sa posibleng pagpupulong. Wala pang opisyal na pinal na kasunduan sa adyenda.

Ano ang ibig sabihin ng pagpapanatili ng kontrol sa tao?

Ang command and control ng nuklear ay binubuo ng mga tao, kagamitan sa komunikasyon at mga pamamaraang ginagamit ng pamahalaan sa pagtasa ng mga banta, pagbibigay ng mga utos at pagkontrol sa mga sandatang nuklear nito. Posibleng makatulong ang AI sa ilang bahagi ng prosesong ito nang hindi binibigyan ng pahintulot na mag-utos ng pag-atake.

Iniulat na saklaw ng mga talakayan ang mga sistema ng maagang babala, software na ginagamit sa pagtukoy ng mga target at ang proseso ng pagpapasya kung maglulunsad ng armas. Sinusuri ng mga sistema ng maagang babala ang impormasyong nagmumula sa mga sensor upang maghanap ng mga palatandaan ng paparating na pag-atake. Tumutulong naman ang software sa pagtukoy ng target na tasahin kung ano ang maaaring tamaan ng isang armas.

Patalastas

Magtatakda ng hangganan ang patakarang naglalaan sa tao ng kapangyarihang mag-utos ng paglulunsad: maaaring magbigay ng impormasyon ang software, ngunit hindi ito ang gagawa ng pinal na desisyon. Halimbawa, maaaring magbigay ng babala ang isang computer tungkol sa posibleng paglulunsad ng misil para masuri ito, habang nananatili sa tao ang awtoridad sa anumang tugon.

Tinutugunan din ng mga iminungkahing hakbang ang posibilidad na magkaroon ng di-awtorisadong kontrol ng AI sa mga sistemang nuklear. Hindi lamang ang pinal na utos na maglunsad ang saklaw ng pangambang ito: kailangang isaalang-alang ng mga pamahalaan kung paano pinangangasiwaan ng mga automated na kagamitan ang mga babala, ipinadaraan ang impormasyon sa mga network ng komunikasyon at inilalahad ang mga pagpipilian sa mga nagpapasya.

Nauna nang nagpahayag ang Washington at Beijing ng pangangailangang manatili sa tao ang kontrol sa paggamit ng mga sandatang nuklear. Inilarawan namang mas maingat ang Moscow sa pagtanggap ng pormal na mga pandaigdigang paghihigpit na maaaring maglimita sa kakayahang umangkop nito sa militar. Kaya mahalagang bahagi ng kasalukuyang pagsisikap diplomatiko ang pagsali sa Russia sa iisang pangako.

Bakit bahagi ng usapan ang mga sistema ng babala

Mabilis na masusuri ng AI ang maraming impormasyong nagmumula sa mga sensor. Sa mga sistema ng babalang nuklear, maaaring makatulong ang bilis na ito sa mga opisyal na bigyang-kahulugan ang posibleng banta, ngunit maaari ring makarating sa mga nagpapasya ang maling pagtatasa sa panahong kakaunti na lamang ang oras para tumugon.

Dalawa sa mga panganib na tinukoy sa mga talakayan tungkol sa mga panukala ang mga pagkakamali ng algorithm at ang paglalason sa datos. Nagkakaroon ng pagkakamali ng algorithm kapag mali ang resultang inilalabas ng software. Ang paglalason sa datos naman ay sadyang pagsira sa impormasyong ginagamit sa pagsasanay o paggabay sa isang sistema, na maaaring magtulak dito na maling tukuyin ang isang pangyayari.

Lubhang mapanganib ang maling babala tungkol sa pag-atake ng ballistic missile dahil maaari nitong pilitin ang mga lider na gumawa agad ng desisyon. Isa sa mga iminungkahing pananggalang ang pagpapanatili sa tao ng awtoridad sa paglulunsad; isa pa ang pagprotekta sa impormasyong at komunikasyong humuhubog sa desisyong iyon.

Kaya umaabot din ang mga pinag-uusapang ideya sa paglilimita sa mga cyberattack laban sa mga sistema ng command at komunikasyong nuklear. Saklaw ng gayong pangako ang mga network na dinaraanan ng mga babala at utos, kasabay ng usapin kung sino ang huling magpapahintulot sa paggamit ng armas.

Hindi gaanong malamang na mapagkasunduan ang mga panukalang ipagbawal ang mga cyberattack o pag-atakeng pinapagana ng AI laban sa mga sistema ng command, control at komunikasyon ng nuklear. Sinabi ni Williams na interesado rin ang China na talakayin ang paglilimita sa estratehikong kompetisyon o sa paglalagay ng mga sandatang nuklear sa kalawakan. Maaari ring mapag-usapan ang Iran, dahil malamang na hihilingin ni Trump ang magkasanib na pahayag na hindi dapat kailanman magkaroon ng mga sandatang nuklear ang Tehran.

Hindi nagkakasundo ang Beijing at Washington kung paano magpupulong

Iniulat na nais ng China ang isang maingat na inihandang pagtitipon kung saan babasahin ng bawat pangulo ang nakahandang pahayag at susunod sa napagkasunduang adyenda, na halos walang puwang para sa malayang talakayan. Mas nais naman ng administrasyong Trump ang malayang palitan ng pananaw upang direktang makatugon ang mga lider sa isa't isa.

Patalastas

Iniulat na mas pipiliin ng Beijing ang magkakahiwalay na bilateral na pagpupulong kung hindi magkakasundo ang tatlong pamahalaan sa pormat na may nakahandang pahayag. Mahalaga ang pagpiling ito sa mga negosasyon: kung nakahanda ang mga pahayag, kailangang mapagkasunduan ang malaking bahagi ng mahahalagang usapin bago pumasok sa silid ang mga lider; samantalang sa malayang talakayan, mas maluwag silang makikipagnegosasyon.

Iniulat ang magkaibang kagustuhan sa pormat bilang mga posisyon sa negosasyon, hindi bilang opisyal nang napagkasunduang kaayusan. Inilarawan ng isang di-pinangalanang sanggunian na mabagal ang pag-usad tungo sa tatluhang pag-uusap, at maaari ring maging hadlang sa pag-iskedyul ang siksik na mga kalendaryo ng mga lider.

Inilarawan ni Peskov ang prosesong naghahain ang bawat pamahalaan ng mga paksa, na maaaring katanggap-tanggap sa isang kalahok ngunit hindi katanggap-tanggap sa iba. Sa kanyang mga pahayag noong Nobyembre 8, ginawa niyang kondisyon sa pagsasagawa ng summit ang pagkakasundo sa adyenda.

Sinabi ni U.S. Secretary of State Marco Rubio na umaasa si Trump na maisagawa ang pagpupulong upang talakayin ang mga sandatang nuklear. Iminungkahi ni Putin ang pagtitipon sa isang tawag sa telepono kay Trump noong Oktubre 9, at kalaunan ay nagpahayag ng paunang pagsang-ayon sa ideya ang tatlong panig.

Iba ang pagtatalo sa mga pananggalang sa AI sa usapin ng pagbawas ng mga arsenal

Nais talakayin ni Trump ang pagkontrol at pag-aalis ng mga sandatang nuklear. Tumanggi ang China sa negosasyong lalahukan ng tatlong bansa tungkol sa kanilang mga arsenal nuklear, at iginiit na mas maliit nang malaki ang imbakan nitong nuklear kaysa sa Russia at United States, kaya dapat munang gumawa ng malaking pagbawas ang Washington at Moscow.

Nag-expire noong Pebrero 2026 ang New START treaty sa pagitan ng United States at Russia. Nilimitahan nito ang mga estratehikong sandatang nuklear ng dalawang bansa na naka-deploy at nagtakda ng balangkas para sa beripikasyon. Nagdagdag ng pagkaapurahan sa interes ng Washington sa mas malawak na balangkas na maaaring magsama kalaunan sa China ang pag-expire ng kasunduan.

Tinalakay ni Peskov ang hadlang na ito noong Oktubre 14. Sinabi ng tagapagsalita ng Kremlin na itinuturing ng China na hindi maihahambing ang mga kakayahan nitong nuklear sa mga kakayahan ng Russia at United States, at iginagalang ng Moscow ang posisyon ng Beijing.

“Hindi angkop na pag-usapan ang mga arsenal nuklear,” aniya.

Ang mga tuntunin sa AI ay tungkol sa pagkontrol sa mga sandatang nuklear, hindi sa dami ng sandatang taglay ng bawat bansa. Nagbibigay ang mas makitid na paksang ito ng posibleng mapagkasunduan ng mga negosyador habang nagpapatuloy ang hindi pagkakasundo sa mga pagbawas.

Iniulat na mas nais ng China na talakayin ang transparency at pagpapalitan ng impormasyon bilang mga posibleng alternatibo sa negosasyon tungkol sa pagbawas ng mga arsenal. Kabilang sa mga isinasaalang-alang na hakbang ang pagbabahagi ng impormasyon tungkol sa mga pagsubok sa misil. Makakatulong ito sa ibang pamahalaan na maunawaan ang naobserbahang paglulunsad at mabawasan ang kawalang-katiyakan tungkol sa layunin nito.

Sinabi ng isang di-pinangalanang sanggunian na nag-alok ang Beijing ng mga talakayan tungkol sa transparency sa larangan ng nuklear bilang mas magaang alternatibo sa ganap na usapan tungkol sa estratehikong katatagan, at tila nakikita nito ang pag-usad sa mga usaping nuklear bilang paraan upang patatagin ang ugnayan sa Washington. Inilarawan ni Williams ang kasunduan sa pagbibigay-abiso sa paglulunsad ng misil bilang “pinakamadaling mapagkasunduan” para makamit ang makabuluhang resulta ng tatluhang pag-uusap.

Nagdudulot ng panibagong hamon sa negosasyon ang pag-iingat ng Russia sa mga pormal na paghihigpit. Kahit suportahan ng tatlong pamahalaan ang pangkalahatang ideya na dapat may awtoridad ang tao, kailangan pa rin nilang magkasundo sa mga saklaw na gawain at mga obligasyong tatanggapin ng bawat isa.

Patalastas

Nananatili sa mas malawak na adyendang diplomatiko ang Ukraine

Iniulat na itinulak ng mga paghahanda para sa pagpupulong ng tatlong lider sa mas mababang prayoridad ang digmaan ng Russia laban sa Ukraine at ang denuklearisasyon ng Korean Peninsula. Sinasabing mas nais ng Beijing ang direktang pag-uusap ng Washington at Moscow tungkol sa Ukraine, at pag-uusap naman ng Washington at Pyongyang tungkol sa seguridad ng Korean Peninsula.

Gayunman, sinabi ni Peskov na nananatili sa adyenda ng mga talakayan sa pinakamataas na antas ang pagkakaroon ng kasunduan sa Ukraine. Ginawa niya ang pahayag na ito nang tanungin kung paano maaaring makaapekto ang mga pagpupulong sa Abu Dhabi sa posibleng bilateral na pakikipag-ugnayan nina Putin at Trump sa pagtitipon ng APEC.

Magkaiba ang iminungkahing sesyon ng tatlong lider at ang mas malawak na hanay ng mga diplomatikong pag-uusap na nakapaligid dito. Maaaring limitadong mapag-usapan ang Ukraine sa mahigpit na pinag-uusapang adyendang trilateral, ngunit maaari pa rin itong maisama sa hiwalay na pagpupulong ng mga pangulo ng Russia at United States.

Tila magkakaiba rin ang mga prayoridad ng mga lider. Iniulat na iminungkahi ni Putin ang pagpupulong, bukod sa iba pang dahilan, upang isulong ang kasunduan sa Ukraine na pabor sa Moscow. Mas interesado naman si Trump na gamitin ang pagtitipon upang talakayin ang mga sandatang nuklear at pag-aalis ng mga ito. Nakatutulong ang magkasalungat na layuning ito upang maipaliwanag kung bakit ilang linggo nang pinag-uusapan ang pagkakasundo sa adyenda.

Daloy ng mga paghahanda

Mula sa mungkahi ng isang pangulo, umusad ang mga paghahanda tungo sa mga negosasyon tungkol sa mga paksa at pamamaraan. Ipinakikita ng iniulat na pagkakasunod-sunod kung bakit hindi pa nagbunga ng pinal na programa ang paunang kahandaang magpulong.

  • Oktubre 9: Iminungkahi ni Putin ang pagpupulong nila ni Trump at Xi sa isang tawag sa telepono sa pangulo ng United States.
  • Oktubre 14: Sinabi ni Peskov na malabong talakayin ang mga arsenal nuklear sa pormat na trilateral, at binanggit ang posisyon ng China.
  • Nobyembre 8: Sinabi ni Peskov na nagpapalitan ng mga panukalang adyenda ang Moscow, Washington at Beijing, at nakasalalay sa consensus ang summit.
  • Nobyembre 10: Naging publiko ang mga hindi pagkakasundo tungkol sa mga nakahandang pahayag at malayang talakayan.
  • Nobyembre 18 at 19: Gaganapin sana ang iminungkahing pagpupulong kasabay ng summit ng APEC sa Shenzhen.

Bahagi ng pagsisikap na humanap ng mas makitid na paksang katanggap-tanggap sa tatlong pamahalaan ang pinakahuling pagtutok sa AI. Iniulat ding gumagawa ang mga diplomat ng deklarasyong uulit sa prinsipyo na hindi maaaring manalo sa digmaang nuklear at hindi ito dapat kailanman labanan.

Ilalahad ng gayong deklarasyon ang pinagsasaluhang pampolitikang posisyon. Kailangang tukuyin sa mas detalyadong pangako tungkol sa AI ang inaasahang asal ng bawat bansa, kabilang kung saang mga bahagi dapat manatili ang awtoridad sa tao at kung aling mga awtomatikong gawain ang paghihigpitan.

Patalastas

Nababahala ang Asya sa pormat ng tatlong kapangyarihan

Iniulat na nababahala ang Japan sa posibleng platapormang impormal na tinatawag na G3, kung saan magsasama ang United States, China at Russia upang talakayin ang mahahalagang usaping panseguridad. Pangamba nito na maaaring bumuo ng mga desisyong makaaapekto sa ibang bansa nang hindi sila nakikilahok.

Sinabi ng isang di-pinangalanang sanggunian na partikular na nagpahayag ng pangamba ang Japan sa pananalitang nagpapahiwatig ng alyansa ng tatlong kapangyarihan noong panahon ng digmaan laban sa Japan, na ginamit nina Trump at Xi sa pagbisita ni Xi sa Washington noong Setyembre.

Ginagawang kongkreto ng mga iminungkahing talakayan tungkol sa seguridad ng Korean Peninsula ang usaping ito. Kung itutulak ng Beijing, gaya ng iniulat, na ipaubaya ang paksang ito sa Washington at Pyongyang, magiging mas makitid ang adyenda ng pagpupulong ng tatlong lider, habang ililipat sa ibang diplomatikong daluyan ang isang malaking usaping panseguridad sa rehiyon.

Maraming layunin ang maaaring pagsilbihan ng pagpupulong para sa tatlong pamahalaang kalahok. Magho-host ang China ng isang mahalagang pagtitipong diplomatiko, magkakaroon ang Russia ng pagkakataong makilahok kasama ng mga pangulo ng U.S. at China, at magkakaroon si Trump ng pagkakataong isulong ang kasunduan sa seguridad nuklear.

Mas tiyak ang agarang gawain kaysa sa paglikha ng pangmatagalang institusyon ng tatlong kapangyarihan: kailangang pagpasyahan ng mga negosyador kung magpupulong ang mga lider, kung ano ang tatalakayin nila at kung tatanggap sila ng magkakatulad na pananalita tungkol sa AI. Ang pagtitipon sa Nobyembre 18 at 19 ang susunod na nakaplanong pagkakataon upang gawing pampublikong pangako ang mga talakayang ito.

Mahahalagang Punto

  • Pinag-uusapan ng Russia, China at United States ang paglilimita sa AI sa mga sistema ng command ng nuklear, kabilang ang pagpapanatili sa tao ng pinal na desisyon sa paglulunsad.
  • Inihahanda ang posibleng pagpupulong nina Putin, Xi at Trump sa Shenzhen sa Nobyembre 18 at 19, ngunit nakasalalay ito sa pagkakasundo sa adyenda at pormat.
  • Iniulat na mas nais ng China ang mga nakahandang pahayag at napagkasunduang adyenda, samantalang nais ng Washington ng mas malayang talakayan ng mga lider.
  • Tumutol ang Beijing sa mga pag-uusap ng tatlong bansa tungkol sa pagbawas ng mga arsenal nuklear at nais nitong bawasan muna ng Russia at United States ang mas malalaki nilang arsenal.
  • Kabilang sa mga posibleng hakbang ang paghadlang sa di-awtorisadong kontrol ng AI, paglilimita sa mga cyberattack laban sa mga komunikasyong nuklear at pagpapalitan ng impormasyon tungkol sa mga pagsubok sa misil.
  • Iniulat na naalis ang Ukraine sa mataas na prayoridad ng iminungkahing adyendang trilateral, samantalang sinasabi ng Kremlin na nananatili ito sa mas malawak na mga talakayan sa pinakamataas na antas.
  • Iniulat na nagpahayag ang Japan ng pangamba sa pananalitang nagpapahiwatig ng alyansa ng tatlong kapangyarihan noong panahon ng digmaan laban dito.
  • Wala pang inihahayag na pinal na adyenda, teksto o kaayusan sa pagpapatupad para sa anumang pangako tungkol sa AI.
Ibahagi ang artikulong ito

Baka magustuhan mo rin