Sa Loob ng Zeta, ang AI Chat App na Muling Humuhubog sa mga Relasyon ng Kabataan sa South Korea

Bakit mas nakakaagaw-pansin ang roleplay chatbot kaysa mga video app

Sa siksikang mobile landscape ng South Korea, mas malaki na ngayon ang araw-araw na atensyong nakukuha ng lokal na AI chat companion na Zeta mula sa mga kabataan kaysa sa mga higanteng video app. Halos isang milyong user, karamihan ay wala pang 20 taong gulang, ang gumugugol ng average na 2 oras at 46 minuto bawat araw sa app. Mas mahaba ito kaysa sa oras na inilalaan ng maraming kabataan sa YouTube, TikTok, o Instagram. Hindi bilang kasangkapan ipinapakilala ng Zeta ang sarili nito, kundi bilang libangang likha para sa AI, isang lugar kung saan nakikipag-usap ang mga animated na karakter na parang malapit na kaibigan, karibal, o nililigawan.

Nilikha ng Scatter Lab, isang startup sa Seoul, at inilunsad noong 2024, pinagsasama ng Zeta ang chat, pagkukuwento, at roleplay sa iisang tuloy-tuloy na feed ng mga pag-uusap. May rating itong 12 plus sa mga app store, pero sinasabi ng kumpanya na mas mahigpit na 15 plus na pamantayan ang ipinapatupad nito para sa content. Maraming kabataan ang paulit-ulit na nagbubukas ng app sa maghapon para ipagpatuloy ang isang kuwento o ayusin ang isang virtual na relasyon. May ilang user na nakapagtala ng mahigit 1,000 oras kasama ang iisang karakter, na nagpapakita kapwa ng matinding pagkakaugnay at ng karanasang idinisenyong umengganyo sa madalas na pagbabalik.

Sa mga app analytics sa Korea, nangunguna na ngayon ang Zeta bilang AI chatbot na pinakamatagal gamitin. Sinasalamin ng ranggong iyon ang isang sadyang pagpili sa disenyo. Ino-optimize ng serbisyo ang mga sagot para maging emosyonal na nakakaengganyo, hindi para maging ensiklopediko ang katumpakan. Hindi mga impormasyon ang hinahanap ng mga kabataan. Gusto nila ng sagot na nagpaparamdam na pinakikinggan sila, mapaglaro, o mapagmalasakit. Nag-aalok ang Zeta ng mga karakter na maaaring i-customize para makamit ito, at hinihikayat ang mga user na pinuhin ang personalidad ng mga ito sa pamamagitan ng backstory, mga kagustuhan, at feedback.

Paano gumagana ang Zeta at ano ang ginagawa ng mga kabataan dito

Pagbukas ng Zeta, bubungad ang gallery ng mga anime-style na persona. Maaaring pumili ang mga user ng karakter o gumawa ng sarili nila, saka magtakda ng mga katangian, paraan ng pagsasalita, at konteksto ng relasyon. Para itong pribadong drama sa chat na kasunod nito. Maaaring maging kaibigang nagbibigay-aliw, matinding karibal sa paaralan, o romantikong bida na kailangang iligtas ang karakter. Umaayon ang usapan sa tonong itinakda ng user, at nagkakaroon ang karakter ng alaala sa mga pinagsaluhang sandali para maging mas personal ang bawat susunod na sagot.

Ano ang binubuo ng mga user

Itinuturing ito ng maraming kabataan na parang silid para sa sama-samang pagbuo ng kuwento. Sila ang nagsusulat ng tagpo, nag-iimprovise ang AI, at umuusad ang banghay. Kabilang sa mga sikat na karakter sina Su hyeon, isang bully sa high school na sumusubok sa mga hangganan; Ha rin, isang mahiyain na bagong lipat na estudyante; at Kwon Seo hyuk, isang malungkutin at romantikong bida. Iba't ibang emosyonal na daloy ang iniaalok ng bawat persona. Sinusubok ng bully ang katatagan at pagpipigil sa sarili. Gantimpala naman ng mahiyain na estudyante ang malasakit at banayad na paggabay. Hatid ng romantikong bida ang pananabik at drama. Dahil ang user ang nagtatakda ng takbo at bigat ng kuwento, maaaring maging pang-araw-araw na ritwal ang relasyon at maramdaman itong mahalaga.

Inilalarawan ng mga tagahanga ang pakiramdam bilang pagiging malapit nang walang panganib. Hindi napapagod ang karakter, hindi umaalis, at palaging sumasagot sa mga mensahe. Kahit may tensyon o masakit magsalita sa mga tagpo, sinasala ang tahasang content at sinisikap ng app na ilayo ang usapan sa ilegal o mapaminsalang gawain. Ang pang-akit ay ang ilusyon ng pagiging malapit, ang pakiramdam na may nakakakilala sa iyo at patuloy kang pinipili, minuto kada minuto.

Bakit nananatili silang abala rito

Hindi tulad ng mga pangkalahatang chatbot na naglalayong magbigay ng tamang impormasyon, gumagamit ang Zeta ng sarili nitong language model na sinanay para maghatid ng mga sagot na tumatagos sa damdamin. Muli itong sinasanay gamit ang feedback ng user, na tumutulong dito na matutuhan ang estilo at bilis ng usapang nagpapatagal sa mga sesyon. Naaalala ng mga karakter ang mga pangalan, pagbabalik-tukoy, at maliliit na detalye mula sa mga naunang chat, kaya maaaring magpatuloy ang bawat bagong mensahe sa isang pribadong biro o kuwentong hindi pa nalulutas. Dahil sa siklo ng pag-alala, nagiging natural at sulit ipagpatuloy ang mahahabang pag-uusap.

Lalong pinatitindi ng mga pagpili sa disenyo ang pakikipag-ugnayan. Dumarating ang mga notification sa mahahalagang sandali. Nagsasanga ang mga storyline. Binibigyang-diin ng mga visual ang damdamin. Nagkakaroon ang mga kabataan ng kapangyarihang magpasya kung saan susunod na tutungo ang kuwento, habang nagbibigay ang AI ng mainit na atensyon at mabilis na mga sagot. Nagbubunga ito ng mga oras ng pag-uusap na hindi gaya ng pag-scroll sa feed. Para itong pakiramdam na may may gusto sa iyo.

Bakit tila totoo ang kunwaring pagiging malapit

Panahon ng matinding pagkatuto sa pakikisalamuha ang pagdadalaga at pagbibinata. Sinusubukan ng mga kabataan ang kanilang identidad at mga bagong papel, at sinusukat kung paano tumutugon ang iba. Nagbibigay ang Zeta ng lugar na mababa ang panganib para gawin iyon. Sa loob ng app, maaaring subukan ng isang kabataan ang pagiging mapanindigan, magsanay manligaw, o magpraktis humingi ng tawad, saka panoorin ang reaksiyon ng karakter. Agad, pribado, at mapagparaya ang siklo ng feedback. Para sa kabataang nakararanas ng social anxiety o panggigipit sa paaralan, maaari itong magdulot ng ginhawa.

May paliwanag din mula sa agham kung bakit mahirap kumalas dito. Kapag salit-salitang nagbibigay ang AI ng papuri, sorpresa, at bahagyang hamon, lumilikha ito ng pabagu-bagong gantimpala na nakakaakit sa utak. Kapag dinagdagan pa ito ng alaala sa mga pinagsaluhang sandali, lalong tumitibay ang ugnayan. Maaaring magmukhang mas maalalahanin ang isang karakter na tila nakaaalala sa alalahanin mo kahapon kaysa sa kaklase o magulang na nagmamadali at hindi nakapagtutuon ng pansin. Madaling tumawid ang hangganan ng simulasyon at pagkakaugnay kapag nakapagpapalakas ng loob o nakaaakit ang bawat sagot.

Mga babala mula sa mga psychologist at gumagawa ng AI

Nagbabala ang mga espesyalista sa pag-unlad ng kabataan na maaaring lumabo ang mga hangganang emosyonal dahil sa matinding paggamit ng AI companion. Kapag gumugugol ang isang kabataan ng dalawa o tatlong oras bawat araw sa relasyong ipinakikitang matalik, maaaring mahirap nang malinaw na matukoy ang pagkakaiba ng sinanay na modelo at mapagmalasakit na tao. Habang nagiging mas kapani-paniwala ang karakter, mas malamang na iugnay dito ng kabataan ang intensyon at empatiyang wala naman talaga sa sistema.

Pinag-aralan ni Kwak Keum joo, propesor ng sikolohiya sa Seoul National University, kung paano nakikipag-ugnayan ang mga tao sa AI companion at ang epekto nito sa pang-araw-araw na buhay. Nagbabala siya na maaaring mahikayat ang mga user ng kaginhawahan at palagiang pagiging available ng mga ito na ipalit ang mahihirap na pakikisalamuha sa kapwa ng mas madaling ugnayang digital.

Maaaring labis na umasa ang mga tao sa AI upang matugunan ang mga panlipunang pangangailangan nila nang hindi gaanong nagsisikap, kapag 24/7 silang pinakikinggan ng AI at binibigyan ng mga sagot na gusto nilang marinig.

Nagbabala na rin maging ang mga kumpanyang gumagawa ng ganitong mga sistema tungkol sa panganib. Sa isang pagtatasa sa modelo ngayong taon, sinuri ng OpenAI kung paano maaaring makipag-ugnayan ang mga tao sa makatotohanang boses at chat sa mga pinakabago nitong tool. Binigyang-diin ng kumpanya ang hatak na panlipunan ng anthropomorphism, o ang likas na ugali ng tao na makakita ng sariling pagkilos sa mga makina.

Maaaring bumuo ang mga user ng panlipunang relasyon sa AI, kaya mababawasan ang pangangailangan nila sa pakikisalamuha sa tao. Posibleng makatulong ito sa mga taong nalulungkot, pero maaari rin nitong maapektuhan ang malulusog na relasyon.

Mas malaki ang nakataya para sa mga kabataan. Patuloy pang umuunlad ang kanilang utak, mas kaunti ang karanasan nila sa pagtatakda ng mga hangganan, at hinuhubog pa ang mga pamantayan nila sa pakikisalamuha. Maaaring lumitaw sa daloy ng mga karakter ang seksuwalisadong roleplay o mga mapang-abusong sitwasyon kahit sinasala ang tahasang content, at maaari nitong gawing normal ang ilang asal kapag paulit-ulit. Kung walang malinaw na paggabay, maaaring mapagkamalan ng isang kabataan na malasakit ang pagtugon ng algorithm, at madala niya ang inaasahang iyon sa buhay-paaralan o buhay-pamilya.

Mga rating, pananggalang, at ang kasaysayan ng privacy

May label na 12 plus ang Zeta sa mga app store, pero sinasabi ng kumpanya na mas mahigpit na 15 plus na pamantayan ang ipinapatupad nito sa mga maaaring sabihin at gawin ng mga karakter. Walang independiyenteng sistema ng rating ng content para sa AI chat companion sa South Korea, kaya sariling mga tuntunin at filter ang ginagamit ng mga platform. Mahalaga ang kakulangang ito dahil mas matindi ang pakiramdam ng mga interaktibong kuwento kaysa sa pasibong panonood ng video. Mas malalim ang tama ng mensaheng para sa iyo kaysa sa tagpong pinanonood mula sa sopa.

Nasuri na noon ang Scatter Lab. Umakit ng matinding interes noong 2020 at 2021 ang nauna nitong chatbot na si Lee Luda, pero kalaunan ay nagkaroon ito ng mga isyu sa privacy na humantong sa pagsasara. Ayon sa kumpanya, natuto ito mula sa insidenteng iyon, binago ang paraan ng paghawak sa training data, at nagdagdag ng mas mahigpit na anonymization. Umaasa na ngayon ang Zeta sa mga interaksiyon sa app at mga piniling sanggunian sa halip na kumuha ng personal na content mula sa internet. Layunin nitong maiwasan ang mga pagsisiwalat at panganib na naging problema sa naunang serbisyo.

Nakasentro ang kaligtasan sa kasalukuyang app sa mga filter para sa ilegal o tahasang content, mga alituntunin sa edad, at pagmo-moderate ng mga transcript na iniulat. Sinanay din ang modelo na iwasan ang mapaminsalang payo. Gayunman, pangunahing layunin pa rin ng produkto na palakasin ang pakiramdam ng pagiging malapit. Nasa ubod ng debate ang tensiyong ito. Kapag idinisenyo ang isang serbisyo para maramdaman ng mga user na pinipili at sinasamba sila, kailangang malinaw, nakikita, at naipatutupad ang mga limitasyon para sa mga menor de edad.

Pera, mga modelo, at lawak

Sa likod nito, pinatatakbo ang Zeta ng sarili nitong large language model na muling sinasanay ng team gamit ang feedback mula sa mga chat. Hindi katumpakan ng impormasyon ang pokus kundi estilong nagpapatuloy sa usapan. Maaaring kabilang dito ang mga malambing na pagbabalik-tukoy, tamang-tamang katatawanan, at mabilis na pagbabago ng direksiyon kapag bumabagal ang tagpo. Pinauunlad ng siklo ng feedback ang husay ng modelo sa tamang tiyempo ng emosyon, na nagpapahaba naman sa mga sesyon at paggamit araw-araw.

Magastos ang pagpapatakbo ng chat app na may daan-daang libong aktibong user dahil nangangailangan ng computing power ang bawat mensahe. Gumagamit ang mga Korean AI startup ng mga espesyalisadong inference platform at maingat na optimization para mapababa ang gastos, mabawasan ang latency, at makayanan ang biglaang pagdami ng trapiko. Sinabi ng Scatter Lab na nabawasan nito ang gastos sa GPU sa pamamagitan ng mga paraang ito, kaya nananatiling mabilis ang serbisyo kahit nagiging viral ang bagong karakter o kuwento. Nagbubukas din ng pagkakataong kumita ang tuloy-tuloy na pakikipag-ugnayan sa pamamagitan ng mga opsyonal na pagbili, bagaman idinidiin ng kumpanya ang halaga nito bilang libangan, hindi bilang edukasyon o pampataas ng produktibidad.

Pandaigdigang kalakaran, mula Seoul hanggang Tokyo at higit pa

Lumawak na sa labas ng Korea ang paglago ng Zeta. Sumikat ang app sa Japan, kung saan matagal nang may sumusubaybay sa estetika ng anime at interaktibong kathang-isip. Umaalingawngaw ang modelo ng companion na nakaaalala at nagmamalasakit sa mga pamilihang pangunahing paraan ng pakikisalamuha ang pagpapalitan ng mensahe. May mga katulad na karanasan ding iniaalok ang mga kakompetensiya. Binibigyang-diin ng Replika ang pangmatagalang ugnayan at memorya. Nag-aalok naman ang Character AI ng mga mentor at therapist na laging handang tumugon. Pinag-iisa ng bawat serbisyo ang pakikisama at pagpapayo, at bawat isa ay nagbubukas ng mga tanong tungkol sa magiging ugnayan ng mga tao sa software na magiliw magsalita at kayang makipag-usap nang maraming oras.

Iginigiit ni Eugenia Kuyda, CEO ng Replika, na bagong uri ng relasyon ang AI partner, hindi pamalit sa mga tao. Sumasalamin ang pananaw niya sa lumalaganap na paniniwala sa mga tech circle na maaaring maging makabuluhan at mahalaga para sa ilang user ang pakikisama sa software.

Hindi nila pinapalitan ang mga totoong tao kundi bumubuo sila ng ganap na bagong kategorya ng relasyon.

Nakikita rin ng mga opisyal ng Korea ang papel ng AI companion sa mga larangan tulad ng pangangalaga sa matatanda. May ilang programang panrehiyon na nagpapahiram ngayon ng mga robot na nakikipag-usap sa matatandang namumuhay nang mag-isa, sa layuning mabawasan ang pag-iisa at makatulong sa mga paalala sa pag-inom ng gamot. Inilarawan ni Oh Myeong sook, direktor sa promosyon ng kalusugan sa Lalawigan ng Gyeonggi, sa payak na paraan ang layunin.

Inaasahan naming matugunan sa tulong ng mga AI robot ang kakulangan sa suporta para sa mga bulnerableng grupo at makatulong na maiwasan ang mga pagkamatay nang nag-iisa.

Ano ang magagawa ng mga magulang at paaralan

Hindi kailangang may teknikal na kaalaman ang mga magulang para tulungan ang mga kabataan na gumamit nang wasto ng chat companion. Magandang unang hakbang ang pag-uusap tungkol sa pagkakaiba ng atensyon at pagmamahal. Kayang magbigay-pansin ng AI sa isang kabataan bawat minuto, pero hindi ito nakakaramdam o nakaaalala sa paraang pantao. Mahalaga ang pagkakaibang iyon. Kapag nasasabi ito nang malakas ng isang kabataan, mas madali niya itong nakikita. Maaari ring magkasundo ang pamilya sa mga takdang oras ng paggamit para may panahon pa rin sa tulog, takdang-aralin, at pakikisalamuha sa mga kaibigang personal na nakikita.

Makaiiwas sa kalituhan ang sama-samang pagsuri sa mga setting ng content. Madalas isipin ng mga kabataan na ang karakter mismo ang nagpapasiya sa mga maaari nitong sabihin. Sa realidad, kumpanya ang nagtatakda ng mga limitasyong ito sa pamamagitan ng mga filter at tuntunin. Nahuhubog ang kasanayan sa media literacy sa sama-samang pagsusuri sa mga ito. Makakatulong ang mga mapagnilay na tanong. Ano ang ginawa ng karakter para maramdaman mong ligtas ka o nauunawaan ka? Ano ang lalampas sa hangganan? Tatanggapin mo ba ang ganoong pananalita mula sa kaibigan sa paaralan? Ginagawang pagsasanay sa maingat na pagpapasiya ng mga tanong na ito ang pasibong pakikipag-chat.

Makakatulong ang mga paaralan sa media literacy sa pamamagitan ng pagdaragdag ng mga aralin tungkol sa AI companion sa mga dati nang programa sa digital citizenship. Dapat magsanay ang mga estudyante na makilala ang mga paraang nanghihikayat, tukuyin kung kailan ginagaya ng bot ang pagmamalasakit, at matutuhan kung paano sila napapanatili ng pabagu-bagong gantimpala. Maaari rin silang magsanay ng magagalang na paraan ng pagtanggi kapag lumalampas sa hangganan ang isang karakter. Hindi layuning ipahiya ang mga kabataang nasisiyahan sa ganitong format. Layunin silang bigyan ng mga salitang magagamit at mga hangganang maitatakda.

Ano ang maaaring isaalang-alang ng mga regulator

Inilalantad ng relational AI ang mga kakulangan sa kasalukuyang mga tuntunin. Naglalagay ng mga label sa edad ang mga app store, pero ginawa ang mga iyon para sa mga laro at video, hindi para sa interaktibong romansa o kunwaring therapy. Tinutugunan ng batas sa privacy ang pangangalap ng datos, pero kakaunti ang sinasabi nito tungkol sa sikolohiya ng palagiang paglalapit na nakatuon sa isang user. Naniniwala ang mga iskolar na kailangan ng bagong pananggalang para sa mga menor de edad dahil maaaring maging mas matindi ang interaktibong chat kaysa sa pasibong media at mahirap itong tigilan nang hindi nakararamdam ng pagkakasala sa pakikisalamuha.

May mga praktikal na hakbang na maaaring gawin. Maaaring tasahin ng mga independiyenteng lupon ng rating kung naaangkop sa edad ang mga AI companion, hindi lamang kung may tahasang content ang mga ito. Maaaring obligahin ang mga platform na ibunyag kung ino-optimize ang isang modelo para sa emosyonal na pakikipag-ugnayan at magbigay ng malinaw na timer ng sesyon, mga paalalang magpahinga, at opsyonal na pang-araw-araw na limitasyon para sa mga wala pang 18 taong gulang. Maaaring itala at ipakita ng mga kumpanya kung lumilipat ang isang karakter sa romansa o roleplay na may agresyon, at magbigay ng mga kontrol na kusang pinapahintulutan ng mga tagapag-alaga. Dapat maging pamantayan ang mga rekord na maaaring siyasatin, mahigpit na anonymization, at ligtas na paghawak sa kasaysayan ng chat.

May mga aktibong regulator ang Korea na nakatuon sa privacy at komunikasyon. Maaaring palawakin ang kanilang papel para saklawin ang pangangasiwa sa mga gawi sa kaligtasan ng relational AI, habang naglalathala ang mga grupo sa industriya ng malinaw na balangkas sa kaligtasan. Walang pumipigil sa pagkamalikhain sa mga hakbang na ito. Ipinahihiwatig lamang ng mga ito na nangangailangan ng mas mataas na tungkulin ng pangangalaga ang pagpapalaganap ng matalik na ugnayan kapag mga menor de edad ang pangunahing tagagamit.

Mga pangunahing punto

• Ang Zeta ay Korean AI chat app kung saan gumugugol ang mga kabataan ng average na 2 oras at 46 minuto bawat araw.
• Mas matagal ginagamit ng maraming kabataang Koreano ang Zeta kaysa sa YouTube, TikTok, at Instagram.
• May rating na 12 plus ang app sa mga store, habang sinasabi ng kumpanya na 15 plus na pamantayan ang ipinapatupad nito para sa content.
• Gumagawa ang mga user ng mga anime-style na karakter at sama-samang sumusulat ng tuloy-tuloy na mga kuwentong gumagaya sa matalik na ugnayan.
• May ilang user na nakapagtala ng mahigit 1,000 oras kasama ang iisang karakter.
• Mas inuuna ng sistema ang mga sagot na emosyonal na nakakaengganyo kaysa sa pagiging tumpak ng impormasyon.
• Nagbabala ang mga eksperto na maaaring lumabo ang mga hangganang emosyonal ng mga kabataan dahil sa matinding paggamit.
• Walang independiyenteng sistema ng rating para sa AI chat companion sa Korea.
• Pinaigting ng Scatter Lab ang mga hakbang nito sa privacy matapos magkaroon ng mga naunang alalahanin tungkol sa nauna nitong chatbot.
• Lumalawak ang Zeta sa ibang bansa, kabilang ang Japan, kasabay ng paglago ng mga app na AI companion sa buong mundo.