Kimi K4, target umano ang 5.4 trilyong parameter at paglulunsad sa 2027

Halos dodoble ang laki ng susunod na flagship model ng Moonshot

Iniulat na target ng Moonshot AI ang 5.4 trilyong parameter para sa Kimi K4, na inaasahang ilulunsad sa ikalawa o ikatlong quarter ng 2027. Halos doble ang laki ng panukalang modelong ito kumpara sa Kimi K3 at K3.1 Pro, na kapwa iniulat na may 2.8 trilyong parameter.

Ayon sa iniulat na iskedyul, mauuna ang mas maliit na pag-upgrade na Kimi K3.5 bago ang K4, posibleng sa panahon ng Lunar New Year ng 2027. Inaasahang ilulunsad bago matapos ang 2026 ang mas mabilis na produktong Kimi K3 Flash, na papalit sa Kimi K2.8.

Wala pang opisyal na anunsyo ang Moonshot tungkol sa bilang ng parameter o petsa ng paglabas ng K4. Batay sa mga ulat tungkol sa mga plano nito sa pagbuo ng modelo ang bilang na 5.4 trilyon at ang palugit ng paglulunsad mula Abril hanggang Setyembre 2027. Sa mga naunang pagtataya, nasa 5 trilyon hanggang 6 trilyon ang bilang ng parameter ng K4.

Samakatuwid, ang pangunahing balita ay ang iniulat na plano na palakihin ang modelo at palawakin ang hanay ng mga produktong magagamit. Iniulat ding namumuhunan ang Moonshot sa compression, self-distillation at post-training, mga paraang layuning pahusayin ang nagagawa ng mga modelo nito gamit ang magagamit na computing resources.

Iba-iba ang pakinabang sa mga user ng magkasabay na pagsisikap na ito. Kayang humawak ng mas mabibigat na gawain ang mas malaking flagship model, samantalang mapapabilis at mapapamura ng mas magaan na modelo ang mga karaniwang kahilingan. Nagbibigay ang iniulat na roadmap ng mga target para sa laki at takdang panahon, ngunit hindi pa tiyak ang mga presyo sa hinaharap, nasukat na performance at mga tuntunin sa pag-access.

Ano ang ibig sabihin ng 5.4 trilyong parameter

Ang mga parameter ay mga numerikal na setting na natututuhan ng isang modelo habang sinasanay. Tinutulungan ng mga ito ang modelo na kumilala ng mga pattern at bumuo ng mga sagot. Mas malaki ang kapasidad na matuto ng modelong may mas maraming parameter, bagaman nakasalalay din ang pagiging kapaki-pakinabang nito sa datos ng pagsasanay, disenyo at paraan ng pagpino rito.

Ang iniulat na 5.4 trilyong parameter ng K4 ay dagdag na 2.6 trilyon kumpara sa iniulat na 2.8 trilyon ng K3. Batay sa mga bilang na ito, aabot sa humigit-kumulang 93% ang paglaki, kaya mga 1.93 beses ang laki ng K4.

Mas maliit na hakbang sa laki ang K3.5. Ang iniulat nitong 3 trilyong parameter ay humigit-kumulang 7% na mas marami kaysa sa K3. Ipinahihiwatig ng pagkakaibang ito ang dalawang magkaibang paraan ng pagbuo: pinipino muna ang kasalukuyang henerasyon sa pamamagitan ng K3.5, saka malaking pagpapalawak naman sa K4.

Pasok ang eksaktong target na 5.4 trilyon sa naunang pagtataya na 5 trilyon hanggang 6 trilyon. Ayon sa isang ulat, nagmula ang saklaw na ito sa Nomura Securities. Dahil tugma ito sa mas bagong bilang, mas napapakitid ang iniulat na target, ngunit Moonshot pa rin ang kailangang magkumpirma nito.

Paano nagkakaugnay ang mga iniulat na paglulunsad

Saklaw ng iniulat na iskedyul ng Moonshot ang panahong mula sa pagpapakilala ng K3 noong Hulyo 2026 hanggang sa posibleng pagdating ng K4 sa 2027. Tutugunan ng mga ilalabas sa pagitan ng mga ito ang kakayahan ng flagship model at ang pangangailangan para sa mas magaan na produkto.

• Enero 10, 2026: Iniulat na tinalakay ng tagapagtatag na si Yang Zhilin ang mga plano para sa K4 sa isang pampublikong talumpati.
• Hulyo 17, 2026: Iniulat na inilunsad ang Kimi K3 na may 2.8 trilyong parameter at context window na 1 milyong token.
• Huling bahagi ng Hulyo 2026: Iniulat na nagsimula ang mga paghahanda para sa pagsasanay ng K4, kasabay ng mga pagsisikap na makakuha ng mas malaking computing capacity.
• Bago matapos ang 2026: Inaasahang papalit ang Kimi K3 Flash sa Kimi K2.8.
• Maagang bahagi ng 2027: Inaasahang ilalabas ang Kimi K3.5, posibleng sa panahon ng Lunar New Year, na may 3 trilyong parameter.
• Ikalawa o ikatlong quarter ng 2027: Iniulat na target ilabas ang Kimi K4 na may 5.4 trilyong parameter.

Saklaw ng mas malawak na palugit para sa K4 ang Abril hanggang Setyembre 2027. Pagtataya rin ang posibleng paglabas ng K3.5 sa panahon ng Lunar New Year, kaya hindi pa tiyak kung gaano kahaba ang pagitan ng dalawang flagship release.

Bakit binibigyang-pansin ng K3.5 ang datos ng pagsasanay

Iniulat na planong gumamit ang Kimi K3.5 ng 10 trilyong token ng post-training data. Ang mga token ay mga piraso ng impormasyong pinoproseso ng isang modelo, na kadalasan ay mga salita o bahagi ng mga salita. Sinusukat ng bilang ng token ang dami ng naprosesong datos, hindi ang dami ng magkakaibang dokumento o impormasyon.

Nagaganap ang post-training matapos makumpleto ng modelo ang pangunahing paunang pagsasanay nito. Makakatulong ito upang masunod ng modelo ang mga tagubilin, mapahusay ang mga sagot nito at mas maaasahan nitong magawa ang mga partikular na gawain. Maaaring makatulong dito ang mga halimbawa, feedback at paulit-ulit na pagsasanay.

Dahil sa iminungkahing dami na 10 trilyong token, hindi lang tungkol sa katamtamang pagdami ng parameter ang K3.5. Lumilitaw na target ng Moonshot ang malaking pagsisikap upang paghusayin ang asal ng modelo, kasabay ng mas maliit na paglawak sa batayang laki nito.

Walang ibinigay na detalye ang mga ulat tungkol sa mga token, kabilang kung gaano karaming materyal ang bagong kokolektahin, bubuuin ng mga modelo o gagamitin nang paulit-ulit. Mahalaga ang detalyeng ito dahil nakaaapekto ang kalidad at pagkakaiba-iba ng mga halimbawa sa pagsasanay sa natututuhan ng modelo mula sa mga ito.

Sapat ang computing power sa ngayon, ngunit tumitindi ang presyur habang lumalaki ang mga modelo

Iniulat na may sapat na computing capacity ang Moonshot para sa kasalukuyan nitong programa sa pagbuo ng mga modelo. Inilalarawan din sa mga ulat na ito ang mga limitasyon sa karagdagang pagpapalawak, lalo na sa pag-access sa makabagong hardware at malalaking suplay ng de-kalidad na datos.

Maaaring umiiral nang sabay ang mga kondisyong ito. Maaaring may sapat na kagamitan ang isang kumpanya para sa kasalukuyang ginagawa, habang nangangailangan pa ng dagdag na chip, kuryente at suportang imprastraktura para sa mas malaking susunod na modelo.

Iniulat na nagsimula ang mga paghahanda para sa K4 noong huling bahagi ng Hulyo 2026, wala pang dalawang linggo matapos ang iniulat na paglabas ng K3. Iniulat ding naghahanap ang Moonshot ng karagdagang graphics processor ng Nvidia na batay sa arkitekturang Blackwell. Dinisenyo ang mga chip na ito para isagawa ang maraming kalkulasyong ginagamit sa pagsasanay at pagpapatakbo ng AI.

Iniulat na naglantad ang paglulunsad ng K3 ng mga hamon sa hiwalay na gawaing magbigay ng serbisyo sa mga user. Noong Hulyo 19, iniulat na itinigil muna ng Moonshot ang mga bagong subscription para sa consumer dahil sa kakulangan ng computing capacity. Malaki ang kinakailangang resources kapwa sa pagpapatakbo ng modelo para sa mga customer at pagsasanay sa susunod nitong bersyon.

Binanggit si Ryan Fedasiuk, isang mananaliksik sa American Enterprise Institute, na nagtaya na aabot sa bilyun-bilyong dolyar ang kailangang puhunan para sa mga chip at kaugnay na imprastraktura ng enerhiya na kailangan upang masuportahan ang mga serbisyo ng K3. Tinutukoy ng pagtatayang ito ang mga resource na kailangan para sa malawakang operasyon, isang patuloy na konsiderasyon sa gastos habang nagpaplano ang Moonshot ng mas malaking modelo.

Mga paraan ng Moonshot para masulit ang hardware nito

Kabilang sa mga iniulat na teknikal na prayoridad ng Moonshot ang model compression, self-distillation at post-training. Nagbibigay ang bawat isa ng paraan para pahusayin ang kakayahan o episyensya, kasabay ng mas magastos na pagpapalaki ng modelo.

Layunin ng compression na bawasan ang mga resource na kailangan ng modelo habang pinananatili hangga't maaari ang kapaki-pakinabang nitong performance. Depende sa paraan, maaari nitong bawasan ang pangangailangan sa memory, pabilisin ang mga tugon o pababain ang gastos sa pag-deploy.

Gumagamit ang self-distillation ng mga output o natutuhang asal ng modelo bilang materyal sa pagtuturo para sa karagdagang pagsasanay. Sa madaling sabi, maaaring bumuo ang isang modelo ng mga halimbawang tutulong sa pagpino ng isa pang bersiyon nito. Mahalaga ang pagpili at pagsusuri sa materyal na ito dahil maaaring may mga pagkakamali ang mga sagot na binuo ng modelo.

Pinagtutuunan naman ng post-training kung paano ginagamit ng modelo ang mga kakayahan nito. Para sa user, maaaring makita ang mga pagpapahusay sa mas mahusay na pagsunod sa mga tagubilin o mas maaasahang pagkumpleto ng isang gawain. Para sa Moonshot, layunin nitong pahusayin ang praktikal na performance nang hindi nakasalalay ang bawat pagbuti sa pagbili ng mas malaking computing system.

Naipapaliwanag ng iniulat na pagbibigay-diin sa mga paraang ito kung bakit magkaiba ang layunin ng K3.5 at K4. Nakatuon ang una sa pagpino sa halos kaparehong antas ng parameter; target naman ng ikalawa ang malaking pagtaas sa kapasidad.

Tutugunan ng K3 Flash ang bilis at gastos

Iniulat na planong ilabas ang Kimi K3 Flash bago matapos ang 2026 bilang kahalili ng Kimi K2.8. Palalawakin nito ang hanay ng mas magagaan na produkto ng Moonshot habang binubuo pa ang mas malalaking flagship model.

Kapaki-pakinabang ang mas magaan na modelo para sa paulit-ulit na pang-araw-araw na gawain, gaya ng pagsagot sa mga karaniwang kahilingan o pagproseso ng maraming maiikling gawain. Sa ganitong mga sitwasyon, kasinghalaga ng performance sa mahihirap na problema ang oras ng paghihintay at gastos sa bawat kahilingan.

Tinutukoy sa mga ulat ang posibleng kompetisyon mula sa hanay ng Flash ng DeepSeek, kabilang ang V4.1 Flash at posibleng ilabas na V4.2 o V5.0 Flash. Hindi pa tiyak ang paghahambing na ito: hindi pa ibinubunyag sa iniulat na roadmap ang bilang ng parameter, presyo at nasukat na performance ng K3 Flash.

Iniulat ding itinigil ng Moonshot ang mga serbisyo ng Kimi K2.5 at moonshot-v1 API noong Agosto 31, 2026, at itinuro sa mga developer ang K3. Ang API ay koneksiyong ginagamit ng software para magpadala ng mga kahilingan sa isang modelo. Dahil dito, nakaaapekto ang mga pagbabago sa produkto kapwa sa mga pumipili ng chatbot at sa mga developer na nagpapanatili ng mga application na umaasa sa isang partikular na modelo.

Kalagayan ng paghahambing sa mga internasyonal na modelo

Inihahambing ang iniulat na laki ng K4 sa Mythos at Fable, na sinasabing may mahigit 5 trilyong parameter. Sa 5.4 trilyon, mapapabilang ang K4 sa parehong malawak na saklaw ng laki na iniulat para sa mga modelong ito.

Para maihambing ang praktikal na kakayahan, kailangan pa ng mas detalyadong impormasyon: kung paano gumaganap ang mga modelo sa magkakaparehong gawain, gaano kabilis silang tumugon, magkano ang gastos sa pagpapatakbo at gaano sila maaasahan sa pagkumpleto ng mga gawain. Mahalaga rin ang arkitektura, kabilang ang dami ng bahaging ginagamit ng modelo sa pagsagot sa bawat kahilingan.

Inilalagay sa mga ulat ang iskedyul ng pagbuo ng Moonshot nang humigit-kumulang isang taon na mas huli kaysa sa mga nangungunang internasyonal na pagsisikap, at iniuugnay ang agwat sa mga limitasyon sa makabagong computing resources at pag-iipon ng de-kalidad na datos ng pagsasanay. Tinatayang paghahambing ito, at walang tinukoy na iisang benchmark o eksaktong release na pinaghahambingan.

Mahalaga ring bahagi ng paghahambing ang iniulat na context window ng K3 na 1 milyong token. Dami ito ng materyal na maaaring isaalang-alang ng modelo sa isang interaksiyon, kabilang ang mga tagubilin at dokumento. Ibang kakayahan ito kumpara sa bilang ng parameter, at mahalaga para sa mga taong nagtatrabaho sa mahahabang file.

Ang susunod na kongkretong milestone ng Moonshot ay ang inaasahang paglulunsad ng K3 Flash, kasunod ang K3.5 sa unang bahagi ng 2027 at K4 sa huling bahagi ng taong iyon. Magbibigay ang mga opisyal na detalye, tuntunin sa pag-access at maihahambing na resulta ng performance ng impormasyong kailangan ng mga user at developer para masuri ang bawat release.

Mahahalagang Punto

• Iniulat na target ng Kimi K4 ang 5.4 trilyong parameter at paglulunsad mula Abril hanggang Setyembre 2027.
• Humigit-kumulang 93% itong mas malaki kaysa sa iniulat na 2.8 trilyong parameter ng K3 at K3.1 Pro.
• Iniulat na planong ilabas ang K3.5 sa unang bahagi ng 2027, na may 3 trilyong parameter at 10 trilyong token ng post-training data.
• Inaasahang ilalabas ang K3 Flash bago matapos ang 2026 bilang kahalili ng K2.8.
• Iniulat na may sapat na computing capacity ang Moonshot para sa kasalukuyang pagbuo ng mga modelo, ngunit nalilimitahan ang karagdagang pagpapalawak ng pangangailangan sa hardware at datos.
• Wala pang opisyal na anunsyo ang Moonshot tungkol sa bilang ng parameter o petsa ng paglabas ng K4.