Inilantad ng Reddit AMA ng Kimi K2.5 ng Moonshot AI ang Magulong Realidad ng mga Nangungunang Open-Source na Modelo

Kapag Nakatagpo ng Realidad ng mga Developer ang 595 Gigabyte

Dalawang araw matapos ilabas ang tinawag ng mga analyst sa industriya na pinakamakapangyarihang open-source na modelo ng artificial intelligence na nagawa, nag-log in sa Reddit ang mga mananaliksik mula sa Moonshot AI para harapin ang mga user na sabik na sabik ngunit may mga sama rin ng loob. Maraming dahilan para magdiwang ang startup na nakabase sa Beijing. Naging laman ng mga headline ang Kimi K2.5 dahil sa pagsasara nito sa agwat ng kakayahan laban sa malalaking kompanya ng AI sa Amerika at sa pagsubok nito sa mga limitasyon ng kontrol ng Estados Unidos sa pag-export ng mga chip. Pero may mas kagyat na alalahanin ang mga developer na nag-aabang sa r/LocalLLaMA, isang forum kung saan nagpapalitan ng payo ang mga engineer tungkol sa pagpapatakbo ng malalaking language model sa iba’t ibang kagamitan, mula sa iisang consumer GPU hanggang sa maliliit na rack ng prosumer hardware. Gusto nilang malaman kung kailan nila talaga magagamit ang modelong ito.

Ang tatlong oras na Ask Me Anything session ay naging di-inaasahang prangkang sulyap sa pagbuo ng mga nangungunang AI noong 2026. Hindi ito ang pinakinis na bersiyong makikita sa mga materyal sa marketing ng kompanya, kundi ang magulong realidad ng pag-debug ng mga problema, pamamahala sa pagbabago ng personalidad ng modelo, at pagharap sa isang pangunahing tensiyong humuhubog sa open-source AI ngayon. Inilathala ng Moonshot ang mga timbang ng modelo para ma-download at ma-customize ng sinuman. Tinatayang 595 gigabyte ang laki ng file. Para sa karamihan ng mga developer sa talakayan, nanatili lamang sa teorya ang pagiging bukas na ito.

Lumahok ang tatlong miyembro ng Moonshot sa ilalim ng mga username na ComfortableAsk4494, zxytim, at ppwwyyxx. Sa humigit-kumulang 187 komento, sinagot nila ang mga tanong tungkol sa arkitektura, pamamaraan ng pagsasanay, at pilosopikal na palaisipan kung ano ang nagbibigay sa isang AI model ng personalidad nito. Nagbigay rin sila ng larawan kung saan magmumula ang susunod na bugso ng pag-unlad, at hindi lang ito tungkol sa pagdaragdag ng mga parameter.

Ang Problema sa Laki na Hindi Mawawala

Itinuring ng unang bugso ng mga tanong ang Kimi K2.5 na hindi gaanong isang pambihirang tagumpay kundi isang problema sa logistik. Diretsahang tinanong ng isang user kung bakit hindi gumagawa ang Moonshot ng mas maliliit na modelo kasabay ng pangunahing modelo nito. “Mahuhusay na pagpipilian para sa densidad ng intelihensiya ang maliliit na sukat gaya ng 8B, 32B, 70B,” sulat nila, na tumutukoy sa bilang ng mga parameter sa bilyon. Sabi naman ng isa, mahirap nang ipagdiwang ang malalaking modelo dahil hindi talaga kayang patakbuhin ng maraming developer ang mga ito. Itinuro ng ikatlo ang mga kakompetensiya sa Amerika bilang batayan ng laki, at humiling ng mga bersiyong nakatuon sa coding na kayang patakbuhin sa karaniwang GPU.

Walang agad na inanunsiyo ang pangkat ng Moonshot na mas maliit na modelo. Pero kinilala nito ang pangangailangan sa paraang nagpapahiwatig na pamilyar na sa kanila ang reklamo. “Naitala namin ang mga kahilingan!” sulat ng isang co-host. Binanggit naman ng isa na mayroon nang ilang mas maliliit na mixture-of-experts na modelo sa koleksiyon ng Moonshot sa Hugging Face, pero nagbabala rin na madalas ay magkakaibang pamumuhunan sa engineering ang kailangan para sa maliliit at malalaking modelo.

Dumating ang pinakanakabubunyag na sagot nang tanungin ng isang user kung posibleng bumuo ang Moonshot ng modelong nasa humigit-kumulang 100 bilyong parameter na optimisado para sa lokal na paggamit. Nagmungkahi ang pangkat ng Kimi ng ibang kompromiso: isang modelong may 200 bilyon o 300 bilyong parameter na mananatili raw sa itaas ng tinawag nilang “hangganan ng kakayahang magamit” sa maraming gawain. Ipinakita ng sagot na ito ang suliraning kinakaharap ng mga laboratoryong naglalabas ng mga timbang na bukas sa publiko. Mas malawak ang maaabot ng modelong may 200 hanggang 300 bilyong parameter kumpara sa sistemang may isang trilyong parameter, pero ipinapalagay pa rin nito ang paggamit ng maraming GPU o agresibong quantization, mga paraang nagpapababa ng precision para makatipid ng memorya.

Hindi basta bahagyang mas maliliit na modelo ang hinihiling ng mga developer sa talakayan. Gusto nila ng mga modelong kasya sa hardware na pag-aari talaga nila, at ng roadmap na itinuturing na pangunahing limitasyon ang lokal na deployment sa halip na bagay lang para sa mga hobbyist. Itinampok ng palitan ang lumalaking pagkakahati sa komunidad ng open-source AI sa pagitan ng mga laboratoryong naglalabas ng malalaking modelong nangangailangan ng imprastrakturang kasinlaki ng data center at ng mga propesyonal na gustong magpatakbo ng mga sistema sa sarili nilang kagamitan.

Naabot na ba ng Scaling Laws ang Hangganan?

Nang malampasan na ng talakayan ang mga reklamo tungkol sa hardware, bumaling ito sa tanong na itinuturing na ngayon ng maraming mananaliksik na sentro ng usapin tungkol sa malalaking language model: nagsisimula na bang tumigil ang pag-unlad na ipinapakita ng scaling laws? Tinutukoy ng scaling laws ang mahuhulaang ugnayan ng laki ng modelo, dami ng datos, at performance na nagtulak sa pag-unlad ng AI sa loob ng maraming taon. Direktang nagtanong ang isang kalahok kung “tumama na sa pader” ang scaling.

Sumagot ang kinatawan ng Kimi sa pamamagitan ng paliwanag na lalong nagiging karaniwan sa buong industriya. “Hindi kasingbilis ng pagdami ng available na computing power ang dami ng de-kalidad na datos,” sulat nila, “kaya mas kaunti na ang maidaragdag na pag-unlad ng scaling gamit ang karaniwang paghula sa susunod na token batay sa datos mula sa internet.” Tinutukoy ng obserbasyong ito ang isang pangunahing limitasyon: hanggang doon lang ang de-kalidad na tekstong nasa internet, at halos lahat nito ay nagamit na sa pagsasanay ng mga AI lab.

Pagkatapos ay inilatag ng pangkat ang pinapaboran nitong paraan para makaiwas sa limitasyong ito. Itinuro nila ang Agent Swarm, ang kakayahan ng Kimi K2.5 na mag-ugnay ng hanggang 100 sub-agent na sabay-sabay na gumagawa, bilang isang anyo ng “test-time scaling” na maaaring magbukas ng bagong landas tungo sa higit na kakayahan. Ang test-time scaling ay tumutukoy sa pagdaragdag ng computing na ginagawa habang nag-iinferens ang modelo, o aktuwal na sumasagot sa mga tanong, sa halip na habang isinasagawa ang paunang pagsasanay.

Sa paliwanag ng pangkat, hindi kailangang mangahulugan lamang ang scaling ng mas malalaking pretraining run. Maaari rin itong mangahulugan ng pagdaragdag ng organisadong gawaing ginagawa habang nag-iinferens, at pagkatapos ay ibinabalik ang mga natuklasan sa pagsasanay sa pamamagitan ng reinforcement learning. “Posibleng magkaroon ng mga bagong paradigma ng scaling,” sulat ng isang co-host. “Sa hinaharap, malamang na magkakaroon ng modelong natututo gamit ang mas kaunti o maging walang anumang naunang palagay na mula sa tao.”

Ipinahihiwatig ng pahayag na maaaring nagbabago ang sukatan ng pag-unlad: mula sa bilang ng mga parameter at kurba ng loss sa pretraining, tungo sa mga sistemang kayang magplano, magtalaga ng gawain, at magsuri ng resulta, gamit ang mga tool at sub-agent bilang mga bloke ng pagbuo sa halip na umasa sa iisang napakalaking pagdaan sa neural network.

Sa Loob ng Agent Swarm: Paano Nagbabahagi ng Memorya ang 100 Sub-Agent

Sa papel, parang pamilyar na ideya lang na binalutan ng bagong pangalan ang Agent Swarm: maraming AI agent na nagtutulungan sa isang gawain. Inilantad ng AMA ang mas mahahalagang detalye tungkol sa kung saan napupunta ang memorya, paano nagaganap ang koordinasyon, at bakit hindi nauuwi sa ingay ang pag-oorganisa ng mga agent.

Ibinangon ng isang developer ang karaniwang suliranin sa maraming agent. Kapag umabot sa 100 ang mga sub-agent, madalas nagiging bottleneck ang tagapag-ugnay na agent, kapwa sa latency at sa tinatawag ng komunidad na “pagkasira ng konteksto.” Ang pagkasira ng konteksto ay ang paghina ng performance habang napupuno ang kasaysayan ng usapan ng mga panloob na palitan at bakas ng paggamit ng tool, hanggang sa mawala sa modelo ang orihinal nitong layunin.

Sumagot ang isang co-host ng Kimi sa pamamagitan ng pagpiling disenyo na mahalaga para sa sinumang gumagawa ng mga agent system para sa mga negosyo.

May sarili silang working memory ang mga sub-agent at resulta ang ipinapadala nila pabalik sa tagapag-ugnay, sa halip na i-stream ang lahat sa iisang pinagsasaluhang konteksto. Dahil dito, napapalawak natin ang kabuuang haba ng konteksto sa bagong dimensiyon!

Sinuri naman ng isa pang developer ang mga pahayag tungkol sa performance. Inilarawan na ng Moonshot sa publiko ang Agent Swarm bilang may kakayahang pabilisin nang humigit-kumulang 4.5 beses ang mga angkop na workflow, pero nagtanong ang mga nag-aalinlangan kung ipinapakita lang ba ng bilang na ito kung gaano kadaling hatiin nang sabay-sabay ang isang gawain. Sumang-ayon ang pangkat: depende ito. Sa ilang pagkakataon, nagpapasiya ang sistema na hindi kailangan ng magkakasabay na agent para sa gawain at iniiwasang gumamit ng dagdag na computing. Inilarawan din nila ang badyet ng mga sub-agent para sa mga token bilang bagay na kailangang pamahalaan ng tagapag-ugnay, sa pamamagitan ng pagtatalaga sa bawat sub-agent ng gawaing angkop ang laki.

Kung babasahin bilang paliwanag sa engineering sa halip na marketing, inilalarawan ng Moonshot ang pamilyar na padron sa mga sistema ng negosyo: panatilihing malinis ang control plane, limitahan ang output ng mga worker process, at iwasang bahain ng mga log ang tagapag-ugnay na hindi kayang himayin ang mga ito. Ipinahihiwatig ng arkitekturang ito na mas magiging kahawig ng mga distributed computing cluster ang mga AI system sa hinaharap kaysa sa mga monolitikong chatbot.

Ang Paglipat Mula System 1 Patungong System 2

Ang pinakamahalagang pagbabagong ipinahiwatig sa AMA ay hindi bagong marka sa benchmark. Pahayag ito tungkol sa mga prayoridad sa pananaliksik. Itinanong ng isang kalahok kung inililipat ba ng Moonshot ang computing mula sa pretraining na “System 1” tungo sa reinforcement learning na “System 2.” Tumutukoy ang mga terminong ito sa mga paraang kognitibo na pinasikat ng sikologong si Daniel Kahneman: mabilis at likas na pag-iisip ang System 1, samantalang mas mabagal at mas masusing pangangatwiran ang System 2.

Sa konteksto ng AI, nangangahulugan ito ng paglipat mula sa malawakang pagkatuto ng mga padron tungo sa pagsasanay na tahasang nagbibigay-gantimpala sa pangangatwiran at tamang asal sa mga gawaing may maraming hakbang. Sumagot ang isang kinatawan ng Kimi na patuloy na darami ang computing para sa reinforcement learning, at nagpahiwatig na malamang na magkakaroon ng mga bagong function ng layunin para sa RL, “lalo na sa larangan ng mga agent.”

Parang roadmap ang pahayag na iyon. Habang nagiging mas mahusay ang mga modelo sa paggamit ng tool at paghahati-hati ng gawain, mas malaking bahagi ng badyet ng mga laboratoryo ang ilalaan sa pagsasanay sa mga modelong kumilos nang maayos bilang mga agent, hindi lamang manghula ng mga token. Mahalaga ito sa mga negosyo dahil madalas may kapalit ang mga pag-unlad na dulot ng RL. Maaaring maging mas desidido ang modelo, mas hilig gumamit ng tool, o mas sumunod sa mga reward signal na hindi akma sa inaasahan ng kompanya.

Nang tanungin tungkol sa agwat sa computing sa pagitan ng Moonshot at ng mga laboratoryo sa Amerika na may mas malalaking koleksiyon ng GPU, naging prangka ang pangkat. “Sa tingin ko, hindi nagsasara ang agwat,” sulat ng isang co-host. “Pero gaano karaming computing ang kailangan para makamit ang AGI? Makikita natin.” Nagbigay naman ang isa pa ng mas pilosopikal na pananaw: “Napakaraming salik ang nakaaapekto sa available na computing. Pero anuman ang mangyari, umuunlad ang inobasyon sa harap ng mga limitasyon.”

Bakit Minsan Claude ang Itawag ng Kimi sa Sarili Nito

Laging may kaakibat na hinala ang mga modelong inilalabas na bukas ang mga timbang: masyado bang maraming natutuhan ang modelo mula sa mga kakompetensiya? Madaling mauwi ang hinalang ito sa mga paratang ng distillation, kung saan natututo ang isang AI sa pamamagitan ng pagsasanay gamit ang mga output ng isa pang AI. Ibinangon ng isang user ang isa sa mga pinakanakababahalang paratang na kumakalat sa mga komunidad ng open model: minsan daw ay ipinapakilala ng K2.5 ang sarili nito bilang “Claude,” ang pangunahing modelo ng Anthropic. Mabigat ang ipinahihiwatig nito: nangopya ito nang husto.

Hindi itinanggi ng Moonshot ang asal na ito. Sa halip, ipinaliwanag nito ang mga kondisyong nagdudulot nito. Kapag tama ang system prompt, mataas ang posibilidad na “Kimi” ang isagot ng modelo, ayon sa pangkat, lalo na sa thinking mode. Pero kapag walang laman ang system prompt, napupunta ang modelo sa tinawag ng pangkat na “hindi tinukoy na bahagi,” na sumasalamin sa mga distribusyon sa datos ng pretraining sa halip na sa mga sinadyang pasiya sa pagsasanay.

Nagbigay rin sila ng tiyak na paliwanag na nakatali sa isang pasiya sa pagsasanay. Sinabi ng Moonshot na dinagdagan nito ang bigat ng mas bagong datos ng coding mula sa internet habang nagpe-pretrain, at mukhang mas madalas na kaugnay ng token na “Claude” ang datos na ito, malamang dahil madalas banggitin ng mga developer ang modelo ng Anthropic kapag pinag-uusapan ang mga AI coding assistant. Tinuligsa ng pangkat ang paratang ng distillation sa pamamagitan ng mga resulta sa benchmark.

Sa katunayan, mukhang mas mahusay ang K2.5 kaysa kay Claude sa maraming benchmark. Kabilang dito ang HLE, BrowseComp, MMMU Pro, at MathVision, para magbanggit lamang ng ilan.

Para sa mga negosyong gagamit nito, hindi ang drama sa internet ang mahalagang punto. Totoong problema ang paglihis ng pagkakakilanlan ng modelo, at madalas itong mapipigilan ng mga organisasyon sa pamamagitan ng pagkontrol sa mga system prompt sa halip na ipaubaya sa pagkakataon ang paglalarawan ng modelo sa sarili nito. Itinuring ng AMA ang pamamahala sa prompt hindi bilang pampaganda lang sa karanasan ng user, kundi bilang mahalagang bahagi ng pagpapanatili ng maaasahang deployment.

Ang Paghahanap sa Kaluluwa ng Reward Model

Paulit-ulit na lumitaw sa talakayan ang obserbasyong mas pangkaraniwan ang estilo ng pagsulat ng K2.5 kaysa sa mga naunang modelo ng Kimi. Inilarawan ito ng mga user na mas kahawig ng karaniwang “matulunging assistant,” isang tonong itinuturing na ngayon ng maraming developer na default na personalidad ng mga modelong dumaan sa masusing post-training. Sinabi ng isang user na gustung-gusto nila ang personalidad ng Kimi K2 at nagtanong kung ano ang nangyari.

Kinilala ng isang co-host ng Kimi na nagbabago ang personalidad sa bawat bagong labas at sinabing personal ang pagtingin dito at mahirap itong suriin. “Mahirap na problema ito,” sulat nila. Sinabi ng pangkat na gusto nilang pagbutihin ito at bigyan ang bawat user ng mas maraming pagpipilian sa pag-customize ng personalidad.

Sa hiwalay na palitan tungkol sa kung nakasasama ba sa malikhaing pagsulat at emosyonal na talino ang pagpapalakas sa kakayahan sa coding, iginiit ng isang kinatawan ng Kimi na walang likas na salungatan kung sapat ang laki ng modelo. Pero mahirap panatilihin ang “panlasa sa pagsulat” sa iba’t ibang bersiyon, sabi nila, dahil patuloy na nagbabago ang reward model. Umaasa ang pangkat sa mga panloob na benchmark, isang uri ng meta-evaluation, para subaybayan ang pag-unlad sa malikhaing pagsulat at iakma ang mga reward model batay rito.

Lalong pinalawak ng isa pang sagot ang usapan gamit ang mga salitang kakaiba sa pormal na espesipikasyon ng AI para sa negosyo, pero pamilyar sa mga araw-araw na gumagamit ng mga tool na ito. Binanggit ng pangkat ang “kaluluwa” ng reward model at iminungkahing posibleng mag-imbak ng “estado” ng user na sumasalamin sa panlasa nito, at gamitin iyon para gabayan ang mga output ng modelo. Itinuturo ng palitang ito ang isang hangganan sa pagbuo ng produkto na madalas minamaliit ng mga negosyo. Hindi lang usapin ng estetika ang pagbabago ng estilo. Maaari nitong baguhin kung paano ipinapaliwanag ng modelo ang mga pasiya, kung gaano ito kaingat sa mga pahayag, paano ito humaharap sa kalabuan, at paano ito nakikitungo sa mga customer at empleyado.

Pag-debug: Ang Tunay na Gawain sa Pananaliksik ng AI

Dumating ang pinakanakabubunyag na palatandaan ng kultura ng pangkat bilang tugon sa tanong tungkol sa mga di-inaasahan sa panahon ng pagsasanay at reinforcement learning. Isang salita lang ang isinagot ng co-host, at naka-bold ito para bigyang-diin: pag-debug.

Pre-training man o post-training, palaging lumilitaw ang isang bagay bilang pinakamataas na prayoridad: ang pag-debug.

Itinampok ng komento ang temang bumalot sa buong sesyon. Nang tanungin tungkol sa pamamaraan nilang “scaling ladder” para suriin ang mga bagong ideya sa iba’t ibang laki ng modelo, nagbahagi si zxytim ng isang kuwento tungkol sa kabiguan. Minadali raw nilang isama noon ang Kimi Linear, isang eksperimental na arkitekturang gumagamit ng linear attention, sa naunang henerasyon ng modelo. Bumagsak ito sa scaling ladder sa isang partikular na antas. Umatras sila at dumaan sa tinawag ng co-host na “mahirap na proseso ng pag-debug,” at ilang buwan pa ang lumipas bago nila ito napagana.

“Sa estadistika, karamihan sa mga ideyang gumagana sa maliit na sukat ay hindi makalalampas sa scaling ladder,” patuloy nila. “Karaniwang simple, epektibo, at nakabatay sa matematika ang mga nakalalampas. Kadalasan, tungkol ang pananaliksik sa pamamahala ng kabiguan, hindi sa pagdiriwang ng tagumpay.”

Makabuluhan ang pag-amin na ito para sa mga teknikal na lider na nagsusuri ng mga AI vendor. Hindi lang magagandang pambihirang tagumpay ang pinagmumulan ng makabagong kakayahan. Nagmumula rin ito sa tuluy-tuloy na paghihiwalay at pagsusuri sa mga pagkakamali, at sa mga organisasyong handang gumugol ng ilang buwan sa mga problemang maaaring hindi malutas. Malaki ang kaibahan ng realidad na ito sa pinakinis na salaysay na madalas iharap sa mga paglulunsad ng produkto.

Roadmap Tungo sa K3 at Patuloy na Pagkatuto

Nagsilbi rin ang AMA bilang pahapyaw na patikim sa susunod na henerasyon ng Kimi. Nagtanong ang mga developer kung gagamitin ba ng Kimi K3 ang pananaliksik ng Moonshot sa linear attention, na naglalayong pangasiwaan ang mahahabang konteksto nang mas mahusay kaysa sa tradisyonal na mga mekanismo ng attention. Ipinahiwatig ng mga miyembro ng pangkat na seryoso nilang isinasaalang-alang ang mga pamamaraang linear. “Malamang na magiging bahagi ng K3 ang Kimi Linear,” sulat ng isa. “Magsasama rin kami ng iba pang optimization.”

Sa isa pang palitan, hinulaan ng isang co-host na “higit na mas mahusay ang K3 kaysa sa K2.5, posibleng umabot sa 10 ulit.” Itinampok din ng pangkat ang patuloy na pagkatuto bilang direksiyong aktibo nilang sinasaliksik, na nagpapahiwatig ng hinaharap kung saan epektibong makagagawa ang mga agent sa mas mahabang panahon. Mahalagang pangangailangan ito ng mga negosyo kung aasahang hahawak ang mga agent ng mga nagpapatuloy na proyekto sa halip na mga gawaing isang palitan lang ang haba.

“Naniniwala kaming mapauunlad ng patuloy na pagkatuto ang kakayahan ng mga agent at matutulungan silang magtrabaho nang mabisa sa mas mahahabang panahon,” sulat ng isang co-host. Tungkol naman sa Agent Swarm, sinabi ng pangkat na plano nilang gawing available sa mga developer ang balangkas ng koordinasyon kapag mas matatag na ang sistema. “Sana ay sa lalong madaling panahon,” dagdag nila.

Ano ang Ipinakikita Nito Tungkol sa Bukas na AI sa 2026

Hindi nasagot ng sesyon ang bawat tanong. Ipinagpaliban sa isang nalalapit na teknikal na ulat ang ilan sa mga tanong na nangangailangan ng mas malalim na teknikal na paliwanag, tungkol sa mga recipe ng multimodal na pagsasanay, mga panangga laban sa pagmamanipula sa reward, at pamamahala sa datos. Karaniwan ito. Itinuturing na ngayong sensitibo ng maraming laboratoryo ang mga detalyeng pinakamahalaga sa aktuwal na operasyon.

Gayunman, ipinakita pa rin ng talakayan kung saan na nakasentro ang tunay na tunggalian sa AI. Hindi na ang pinakamahalagang agwat ay sa pagitan ng Tsina at Estados Unidos, o ng bukas at sarado. Ito ang agwat sa pagitan ng ipinapangako ng mga modelo at ng aktuwal na kayang ihatid ng mga sistema. Nagiging produkto na mismo ang koordinasyon. Hindi lang isang modelo ang inilalabas ng Moonshot. Inilalabas din nito ang pananaw na magmumula ang susunod na mga pag-unlad sa mga agent na kayang maghati-hati ng gawain, gumamit ng tool, at mabilis na magbalik ng organisadong resulta.

Sumasalpok ang bukas na mga timbang sa realidad ng hardware, habang hinihiling ng mga developer ang pagiging bukas na kayang patakbuhin nang lokal sa halip na mangailangan ng data center. Lumilipat naman ang larangan ng kompetisyon mula sa hilaw na intelihensiya tungo sa pagiging maaasahan: mula sa lamang na dalawang puntos sa isang benchmark tungo sa maingat na pag-debug sa paggamit ng tool, pamamahala ng memorya sa mga workflow na maraming agent, at pagpapanatili ng mahirap sukatin na “panlasa” na nakaaapekto sa tiwala ng mga user sa output.

Nagpakita ang Moonshot sa Reddit kasunod ng isang tanyag na paglulunsad at lumalawak na salaysay tungkol sa heopolitika. Mas praktikal na tanong ang mahalaga sa mga developer na nag-aabang doon: Kailan nga ba nagiging tunay na magagamit ang isang bagay na bukas? Sa ganitong diwa, hindi lang nag-market ng Kimi K2.5 ang AMA. Nagbigay rin ito ng larawan ng industriyang nagbabago: mula sa mas malalaking modelo tungo sa mas organisadong computing, mula sa mga saradong API tungo sa bukas na mga timbang na nangangailangan pa rin ng seryosong engineering para ma-deploy, at mula sa pagdiriwang ng tagumpay tungo sa pamamahala ng kabiguan.

Sa Isang Sulyap

• Inilabas ng Moonshot AI ang Kimi K2.5, isang open-source na modelong 595GB, at pagkatapos ay nagsagawa ng Reddit AMA sa r/LocalLLaMA kung saan hinarap nito ang mga tanong tungkol sa praktikal na kakayahang gamitin ang modelo
• Humiling ang mga developer ng mas maliliit na modelo (8B-70B na parameter) para sa lokal na hardware, pero iminungkahi ng Moonshot ang 200B-300B na parameter bilang minimum para magamit ito sa maraming gawain
• Kinilala ng pangkat na nagsisimula nang tumigil ang pag-unlad na ipinapakita ng scaling laws dahil limitado ang de-kalidad na datos para sa pagsasanay, at bumaling ito sa “test-time scaling” sa pamamagitan ng Agent Swarm na nag-uugnay ng 100 sub-agent
• May hiwalay na working memory ang bawat sub-agent ng Agent Swarm para maiwasan ang pagkasira ng konteksto, habang pinamamahalaan ng tagapag-ugnay ang badyet ng mga token at pagtatalaga ng gawain
• Dadami ang computing para sa reinforcement learning, at lilipat ang pokus mula sa pagtutugma ng mga padron ng System 1 tungo sa pangangatwiran ng System 2 at pagsasanay sa asal ng mga agent
• Ipinaliwanag ng Moonshot na nagmumula sa pagdaragdag ng bigat sa datos ng coding na madalas bumabanggit kay Claude ang paglihis ng pagkakakilanlan ng modelo, gaya ng pagtawag nito sa sarili na “Claude,” at hindi ito resulta ng distillation
• Mahirap sukatin at panatilihin ang personalidad at “kaluluwa” sa iba’t ibang bersiyon, at may planong magbigay ng mga estadong naaayon sa panlasa ng bawat user
• Inaasahang isasama sa Kimi K3 ang mga arkitekturang gumagamit ng linear attention at kakayahan sa patuloy na pagkatuto para sa mga gawaing pang-agent na tumatagal nang mahabang panahon