Sinusubok ng Libreng AI ng South Korea Kung Makakasabay ang mga Pananggalang sa mga Panganib

Mula pangako tungo sa pagsubok: pampublikong AI utility

Naghahanda ang South Korea na bigyan ang bawat mamamayan ng libreng access sa artificial intelligence, upang magamit ng mga tao ang mga chatbot at AI agent sa mga gawain sa paaralan, pangangalagang pangkalusugan, serbisyong pampubliko, at pang-araw-araw na pagpapasya. Layunin ng inisyatibang tinatawag na “AI for All” na palaganapin ang teknolohiyang ito at tulungan ang bansa na makipagsabayan sa Estados Unidos at China. Itinatampok din nito ang isang mahirap na tanong: makakasabay ba ang mga pananggalang habang nagiging karaniwang bahagi ng buhay publiko ang AI?

Plano ng administrasyon ni Pangulong Lee Jae Myung na magsimula sa beta service, at saka pag-isipan kung gagawing permanente at popondohan ng buwis ang serbisyong ito simula sa susunod na taon. Ikokonekta ng iminungkahing serbisyo ang mga tao sa mga AI tool na pangkalahatang gamit, na binuo ng tatlong lokal na consortium na pinangungunahan ng SK Telecom, KT, at Kakao. Nagpahiram ang pamahalaan sa mga grupong ito ng daan-daang Nvidia B200 graphics processing unit, mga espesyalisadong chip na ginagamit sa pagsasanay at pagpapatakbo ng mahihirap patakbuhing AI system.

Nakikita ng mga opisyal na sa kalaunan ay tutulong ang mga AI intermediary sa mga tao na magpa-iskedyul ng konsultasyong medikal, maghanap ng matitirhan, at humingi ng gabay sa buwis sa pamamagitan ng mga serbisyong konektado sa pamahalaan. Maaari nitong padaliin ang paggamit ng mga pampublikong sistema, lalo na para sa mga nahihirapan sa masalimuot na form o mahabang paghihintay. Nangangahulugan din ito na maaaring maapektuhan ng mga pagkakamali, paglabag sa privacy, o may kinikilingang rekomendasyon ang mga taong gumagamit ng mahahalagang serbisyo.

Naglaan ang pamahalaan ng 250 bilyong won para sa pagpapalawak ng serbisyo hanggang 2027, bukod pa sa 10 trilyong won na badyet para sa AI sa kasalukuyang taon ng pananalapi. Sumasalamin ang laki ng pondong ito sa pambansang estratehiya na palakasin ang kakayahan sa AI at palawakin ang access, sa halip na limitahan ito sa mga kayang magbayad ng pribadong subscription. Susubukin ng trial kung magiging kapaki-pakinabang na pampublikong imprastraktura ang libreng access at kung mapagkakatiwalaan ng mga mamamayan ang mga sistemang hahawak sa kanilang impormasyon at mga tanong.

Bakit nagbababala tungkol sa teknolohiyang ito ang mga lider ng AI?

Inilulunsad ang mga plano ng South Korea habang nagbababala ang mga kilalang tao sa industriya ng AI na may malulubhang panganib ang mabilis na pag-unlad nito. Nanawagan si Dario Amodei, punong ehekutibo ng Anthropic, na maghinay-hinay ang industriya. Sinabi ng isang dating inhinyero ng Anthropic na nagtrabaho rin sa OpenAI, matapos umalis sa kumpanya, na “talagang natatakot” siya na maaaring mangahulugan ang walang-kontrol na pag-unlad na “mamatay tayong lahat sa nalalapit na hinaharap.” Nagbabala rin ang computer scientist at nagwagi ng Nobel Prize na si Geoffrey Hinton, na madalas tawaging “ninong ng AI,” na maaaring magdulot ng eksistensiyal na panganib ang mga advanced na sistema kung makawala ang mga ito sa kontrol ng tao.

Kabilang sa mga panganib na tinutukoy ng mga babalang ito ang mga awtonomong armas, cyberattack na pinatatakbo ng makina, at malawakang pagkawala ng trabaho. Mas pamilyar na ang ilan pang panganib: mga pekeng larawan at video na kapani-paniwala, mga awtomatikong desisyong may diskriminasyon, at pag-asa ng mga tao sa mga sistemang nagbibigay ng tiyak na sagot kahit mali naman. Hindi lumilikha ng lahat ng panganib na ito ang pampublikong pagpapalawak ng serbisyo, ngunit maaari nitong dagdagan ang pagkakalantad sa mga ito dahil mas madali nang magagamit ang AI sa malawakang saklaw.

Bumubuo ng mga tugon ang mga AI system na pangkalahatang gamit sa pamamagitan ng pagtukoy sa mga padron sa datos, sa halip na unawain ang mundo gaya ng tao. Kapaki-pakinabang ang mga ito sa pagbuo ng burador, pagbubuod, at paghahanap sa impormasyon, pero maaari silang maglahad ng kasinungalingan na para bang katotohanan. Sa mga usaping may kinalaman sa pamahalaan o kalusugan, kailangan ng mga gumagamit ng malinaw na paraan para beripikahin ang mga sagot at makausap ang taong may awtoridad na itama ang mga ito.

Anong mga pananggalang ang ipinatutupad ng Seoul?

Umaasa ang South Korea sa AI Basic Act nito, na nagkabisa noong Enero, upang magtakda ng mga tuntunin sa lumalawak na paggamit ng AI. Itinatakda ng balangkas ang pangangasiwa ng tao, mga pagsusuri sa epekto, at malinaw na paglalagay ng label sa sintetikong nilalaman. Layunin ng mga hakbang na ito na padaliin ang pagtukoy sa materyal na binuo ng AI at atasan ang mga organisasyon na suriin ang mga posibleng pinsala bago magpatupad ng mga sistema.

Inatasan din ang isang AI Safety Institute na pinopondohan ng estado na magsuri ng mga panganib at magsilbing teknikal na tagapagbantay. Kasinghalaga ng mga pormal na tuntunin ang gawain nito: ang pagtatasa kung maaasahang kumikilos ang mga sistema, kung napoprotektahan ang sensitibong datos, at kung may paraan ang mga gumagamit na kuwestiyunin ang mahahalagang desisyon. Magiging kapaki-pakinabang lamang ang pagsusuri sa epekto kung titingnan nito ang mga tunay na epekto sa buhay at hahantong sa mga pagbabago kapag may lumitaw na problema.

Dahil planong iugnay ang serbisyo sa mga serbisyo ng pamahalaan, lalong mahalaga ang pananagutan. Kung magbibigay ng maling gabay sa buwis ang AI assistant o hindi maayos na aasikasuhin ang kahilingan para sa konsultasyong medikal, dapat malaman ng mga gumagamit kung aling ahensiya ang may pananagutan at kung paano makahihingi ng tulong. Hindi dapat maging hadlang ang sistema sa pagitan ng mga mamamayan at ng mga opisyal na gumagawa ng mga desisyon. Pinakamakabuluhan ang pagsusuri ng tao kapag madaling makuha, napapanahon, at may kapangyarihang baligtarin ang awtomatikong rekomendasyon.

Hindi rin nangangahulugang walang gastos ang libreng access. Kailangang magbayad ang mga pampublikong ahensiya para sa computing, seguridad, maintenance, at pagsusuri, habang nagpapasya kung gaano karaming personal na impormasyon ang dapat itago ng serbisyo. Bahagi lamang ng pangmatagalang pampublikong serbisyo ang pamumuhunan ng pamahalaan sa hardware at software para sa computing; mangangailangan ng patuloy na pondo ang pangangasiwa at suporta.

Bahagi na ng usapan ang mga trabaho at pang-aabuso sa pamamagitan ng deepfake

Nakaugat sa mga pinsalang nagaganap na ngayon ang ilan sa mga ikinababahala ng South Korea. Iniulat ng Bank of Korea na bumaba nang 285,000 ang bilang ng mga nagtatrabahong edad 15 hanggang 29 mula Hunyo 2022 hanggang Hunyo ng taong ito. Tinataya nitong naganap ang 94 porsiyento ng pagbaba sa mga sektor na lubhang lantad sa automation. Ipinakikita ng mga bilang ang malaking ugnayan ng trabaho ng kabataan at ng pagbabago sa teknolohiya, ngunit hindi nito pinatutunayang AI lamang ang sanhi ng pagbaba. Maaari ring makaapekto sa trabaho ang kalagayang pang-ekonomiya at iba pang pagbabago sa pagkuha ng mga manggagawa.

Maaaring palitan ng automation ang ilang partikular na gawain nang hindi inaalis ang buong hanapbuhay. Gayunman, hindi nito gaanong napapagaan ang pangamba ng mga manggagawang nawawalan ng mga tungkuling karaniwang ibinibigay sa mga baguhan o ng mga employer na nagbabawas ng pagkuha. Maaaring higit na malantad dito ang mga nakababatang manggagawa kung naging tradisyonal na pasukan sa trabaho ang mga karaniwang gawaing administratibo o pangserbisyo. Kailangang subaybayan ng mga tagagawa ng patakaran ang kalidad ng trabaho at mga padron sa pagkuha, hindi lamang ang kabuuang bilang ng mga nagtatrabaho, habang lumalaganap ang paggamit ng AI.

Para sa maraming South Korean, ang pinakamalapit na pangamba ay ang paggamit ng teknolohiya sa krimen, lalo na ang mga deepfake na seksuwal na mapang-abuso. Nakatulong ang Nth Room case, isang iskandalo ng seksuwal na pagsasamantala online noong 2020, at ang mga sumunod na kaso upang maipatupad ang mas mahihigpit na batas laban sa deepfake noong 2024. Gayunman, nagtala ang pulisya ng 1,553 paglabag na may kaugnayan sa deepfake noong nakaraang taon, ayon sa mga bilang na inilahad sa isang kamakailang forum ng Amnesty International Korea.

Ngayong taon, malaking bahagi ng oras ni Won Eun-ji, direktor ng grupong nagsisiyasat sa mga krimeng seksuwal sa digital na mundo na Team Flame, ay ginugol sa pagpasok sa humigit-kumulang 50 Telegram chat room kasama ang Newstapa, isang organisasyong nagsasagawa ng mga imbestigasyong pamamahayag. Idinokumento niya kung paano pinalawak ng mga AI tool ang hanay ng mga hindi nagpapakilalang salarin at pinababa ang edad ng mga biktima. Pinadadali ng mga tool sa paglikha ng larawan at pagpapalit ng mukha ang paggawa ng mapang-abusong materyal, samantalang mas pinahihirap naman ng mga naka-encrypt o anonymous na online space ang imbestigasyon at pagpapanagot sa mga salarin.

Bahagi lamang ng pagtugon ang batas kriminal; mahalaga rin ang pag-iwas at suporta. Kailangan ng mga biktima ang agarang pagpapatanggal sa mga larawan, praktikal na tulong sa pag-uulat ng pang-aabuso, at proteksiyon laban sa muling pagpapakalat ng mga ito. Habang nagiging mas malawak ang access sa mga AI tool, kailangang isaalang-alang sa mga patakaran sa pampublikong access ang posibilidad na magamit ang mga sistema sa paglikha o pagpapakalat ng mapaminsalang materyal, kahit hindi iyon ang nilalayong gamit ng mga ito.

Hiwalay na pagsubok sa halaga ng AI ang kinakaharap ng mga paaralan

Naging isa pang pinagtatalunang usapin ang edukasyon. Nagprotesta ang mga guro noong nakaraang taon laban sa panandaliang plano ng pamahalaan na gumastos ng 1.2 trilyong won sa mga textbook na pinatatakbo ng AI. Hindi lamang ang paggana ng software ang ikinababahala nila. Kinuwestiyon din nila kung ano ang mawawala sa mga mag-aaral kapag ibinigay na agad ng sistema ang sagot bago nila pag-isipan ang isang suliranin.

Sinabi ni Song Keun-sang, isang guro sa ikalimang baitang sa lalawigan ng South Chungcheong na sumali sa protesta, na “ibinibigay lang ng AI ang mga sagot” at “hindi gaanong kapaki-pakinabang sa edukasyon.” Tinutukoy ng kaniyang puna ang isang mahalagang pagkakaiba sa edukasyon: hindi katumbas ng pagkatuto kung matapos lamang ang isang gawain. Makakatulong ang isang tool na nagpapaliwanag ng mahirap na konsepto o nag-aangkop ng pagsasanay sa isang mag-aaral. Ngunit maaaring pahinain ng tool na lumalaktaw sa pagbabasa, pangangatwiran, o pagsusulat ang mga kasanayang ito.

Lalong nagiging apurahan ang usapin dahil sa mga pangambang bumababa ang mga marka sa pagbasa, bagaman hindi ito dapat ituring na patunay na AI ang sanhi ng pagbabago sa pagganap ng mga mag-aaral. Kailangan ng mga paaralan ng ebidensiya tungkol sa epekto ng mga partikular na tool sa pag-unawa, atensiyon, at malayang paggawa. Kailangan ding magkaroon ng papel ang mga guro sa pagpili kung kailan nakatutulong ang AI sa pagtuturo at kung kailan ito dapat ilayo sa proseso ng pagkatuto.

Maaaring iba ang mga tuntunin sa silid-aralan sa mga patakaran para sa mga chatbot na pangkalahatang gamit ng publiko. Kailangan ng mga mag-aaral ng mga proteksiyong angkop sa kanilang edad, malinaw na limitasyon sa pangangalap ng datos, at mga gawaing sumusukat sa sarili nilang pag-unawa. Makakatulong ang AI sa paghahanda ng guro o makapagbibigay ito sa mag-aaral ng ibang paliwanag, pero hindi nito mapapalitan ang ugnayan sa edukasyon ni maaasahang matukoy ang pangangailangan ng bawat mag-aaral.

Makapagpapatibay ba ng tiwala ng publiko ang unibersal na access?

Isang ambisyosong pagsisikap ang “AI for All” na ituring ang access sa AI bilang pampublikong imprastraktura. Mababawasan ng modelong ito ang agwat kung saan pangunahing nagagamit ang mga advanced na tool ng mayayamang indibidwal at malalaking kumpanya. Maaaring makatulong ang maaasahang assistant sa paghahanap ng impormasyon, pagkumpleto ng karaniwang papeles, o pag-abot sa mga serbisyong mahirap gamitin. Nakadepende ang mga benepisyong ito sa kalidad ng mga tool at sa kakayahan ng mga gumagamit na makakuha ng sagot mula sa tao kapag pumalya ang sistema.

Binabago rin ng unibersal na access ang magiging epekto ng mga pasiya sa disenyo. Maaapektuhan ng kapintasan sa pribadong chatbot ang mga gumagamit nito; maaaring umabot sa mas malaking bahagi ng populasyon ang kapintasan sa pampublikong serbisyo. Kung ikokonekta ang isang sistema sa mga pampublikong rekord o daloy ng trabaho ng mga ahensiya, maaaring lumampas sa iisang pag-uusap ang epekto ng paglabag sa seguridad at mga maling sagot. Makakatulong ang mahihigpit na limitasyon sa privacy, independiyenteng pagsusuri, malinaw na tala ng pagganap ng sistema, at mga paraan ng pag-apela upang matukoy kung mapagkakatiwalaan ang serbisyo.

May matatag na sektor ng teknolohiya at sapat na yaman ang South Korea upang magsagawa ng malaking trial. Pangunahing hamon nito na tiyaking mananagot ang serbisyo sa publiko bukod sa pagiging mahusay nito sa teknikal na aspeto. Nangangahulugan ito ng pagpapaliwanag kung anong datos ang kinokolekta ng mga sistema, pagtukoy kung sino ang mananagot sa mga pagkakamali, at paglalathala ng sapat na impormasyon para masuri ito ng mga panlabas na tagamasid. Nangangahulugan din ito ng pagsukat kung nakatutulong ang serbisyo sa mga tao, sa halip na ituring na patunay ng tagumpay ang bilang ng mga gumagamit o mga tampok na iniaalok nito.

Susubukin ng pagpapalawak ng serbisyo kung kayang palawakin ng pampublikong pamumuhunan ang access habang pinananatili ang pagpapasya ng tao sa mga larangang may tunay na kapalit ang mga pagkakamali. Nagbibigay ng balangkas ang mga batas at safety institute ng South Korea, ngunit malalaman ang halaga ng mga ito batay sa pagpapatupad sa aktuwal na buhay, habang pumapasok ang AI sa mga silid-aralan, lugar ng trabaho, at tanggapan ng pamahalaan.

Mahahalagang Punto

• Plano ng South Korea ang libreng trial ng AI na pangungunahan ng mga consortium na kaugnay ng SK Telecom, KT, at Kakao.
• Umaasa ang pamahalaan na gawing permanenteng pampublikong utility ang AI na konektado sa mga serbisyong gaya ng pag-iskedyul ng konsultasyon at gabay sa buwis.
• Inaatas ng AI Basic Act ang pangangasiwa ng tao, mga pagsusuri sa epekto, at paglalagay ng label sa sintetikong nilalaman.
• Kabilang sa mga ikinababahala tungkol sa trabaho ang pagbaba ng bilang ng mga nagtatrabahong edad 15 hanggang 29, na nakatuon sa mga sektor na lantad sa automation.
• Nagtala ang pulisya ng 1,553 paglabag na may kaugnayan sa deepfake noong nakaraang taon, kasabay ng patuloy na pangamba sa seksuwal na pang-aabusong nagagawa sa tulong ng mga AI tool.
• Tinutulan ng mga guro ang mga textbook na pinatatakbo ng AI, at iginiit na maaaring makasagabal sa pagkatuto ang agarang pagbibigay ng mga sagot.