Inilabas ng Moonshot ang mga weight ng Kimi K3.1 Pro, kasabay ng suporta sa deployment mula sa Huawei at Alibaba

14 min. na pagbasa
Moonshot Releases Kimi K3.1 Pro Weights as Huawei and Alibaba Add Deployment Support

Lumampas na sa API ang modelong may 2.8 trilyong parameter

Inilabas ng Moonshot AI sa Hugging Face ang kumpletong weights ng Kimi K3.1 Pro, na nagbibigay sa mga developer at negosyo ng paraan para patakbuhin ang flagship multimodal model nito sa sarili nilang computing infrastructure. Inanunsyo ito madaling-araw sa Beijing noong Nobyembre 5, kasunod ng pagpapakilala rito noong Oktubre 24, 2026, na nagbigay-daan para magamit ang modelo sa mga produkto ng Kimi at sa application programming interface nito, o API.

Mga Nilalaman
  1. Lumampas na sa API ang modelong may 2.8 trilyong parameter
  2. Ano ang bago at ano ang minana mula sa K3?
  3. May mga kundisyon sa pagpapatakbo at lisensya ang open weights
  4. Ipinamamahagi ng Huawei ang memory load sa mga Ascend system
  5. Nag-aalok ang Alibaba ng isa pang paraan sa pamamagitan ng SuperPoD platform nito
  6. Ipinakikita ng mga resulta sa coding ang pag-unlad sa tuluy-tuloy na pagpapatupad ng gawain
  7. May mga nakatuong pagbuti sa paglikha ng 3D at pananalapi
  8. Naglabas ang Moonshot ng dalawang magkaibang resulta sa mga error sa katotohanan
  9. Magkakaiba ang mga kapalit sa paggamit ng hosted agent at API
  10. Mahahalagang Punto

May 2.8 trilyong parameter ang K3.1 Pro, ang mga numerikal na setting na nag-iimbak ng natutuhan ng isang modelo. Sa disenyo nitong mixture of experts, humigit-kumulang 104 bilyong parameter ang ina-activate sa bawat hakbang ng inference sa halip na gamitin ang buong modelo nang sabay-sabay. Sinusuportahan nito ang humigit-kumulang isang milyong token ng context at nakauunawa ng biswal na impormasyon kasabay ng teksto.

Inanunsyo ng Huawei Ascend at Alibaba Cloud ang suporta sa araw ng paglabas ng weights. Ginagamit ng mga deployment ng mga ito ang mga inference framework na vLLM at SGLang, mga software na namamahala kung paano pinoproseso ng mga sinanay na modelo ang mga request. Para sa mga negosyong isinasaalang-alang ang lokal na deployment, nagbibigay ang release ng nada-download na weights at mga paunang paraan para patakbuhin ang mga ito sa mga accelerator system ng China.

Sa anunsyo ng paglulunsad ng modelo ng Moonshot, na in-update noong Oktubre 24, sinabi nitong ilalabas ang kumpletong weights pagsapit ng Nobyembre 4; sumunod ang pampublikong anunsyo ng release noong Nobyembre 5. Nauna nang binuksan ng kumpanya ang access sa pamamagitan ng kimi.com, Kimi App, Kimi Work, Kimi Code at Kimi API.

Ang praktikal na pagbabago ay ang pagkontrol sa kung saan pinapatakbo ang modelo. Nagpapadala ng mga request ang isang API customer sa serbisyo ng provider. Maaaring patakbuhin ng organisasyong nag-deploy ng weights ang modelo sa loob ng imprastrakturang pinamamahalaan nito, alinsunod sa lisensya ng Moonshot at sa malaking hardware na kailangan para patakbuhin ito.

Ipinakilala rin ng Moonshot ang Kimi Hosted Agents, isang pinamamahalaang serbisyo para tuloy-tuloy na magpatakbo ng mga AI agent habang gumagawa ng mahahabang gawain. Magkasamang nag-aalok ang mga anunsyo ng dalawang magkaibang pagpipilian sa mga negosyo: sila mismo ang mamamahala sa modelo o ipauubaya sa Kimi ang mas malaking bahagi ng pagpapatakbo nito.

Patalastas

Ano ang bago at ano ang minana mula sa K3?

Nakabatay ang Kimi K3.1 Pro sa K3 at dumaan sa karagdagang pagsasanay sa halip na magsimula sa bagong sinanay na pundasyon. Ayon sa Moonshot, malaki ang itinaas nito sa mga computing resource para sa reinforcement learning, prosesong nagbibigay-gantimpala sa matagumpay na mga aksyon at tumutulong sa modelo na umunlad sa pamamagitan ng paulit-ulit na pagsubok.

Inilapat ng Moonshot ang pagsasanay na iyon sa daan-daang larangan ng gawain, na partikular na nakatuon sa coding, paggawa ng 3D, pananaliksik sa pananalapi at mga agent na humahawak ng maraming hakbang. Kabilang sa mga pagbabago sa engineering nito ang training software, pagproseso ng mahabang context, pag-iiskedyul at mga sandbox environment kung saan maaaring patakbuhin ang nabuong code.

Namana sa K3 ang context window na humigit-kumulang isang milyong token. Ang mga token ang mga bahagi kung saan hinahati ng modelo ang teksto at iba pang input. Kapag mas malaki ang context window, mas maraming dokumento, tagubilin at naunang usapan ang maaaring manatiling magagamit habang pinoproseso ang isang request.

Magkahiwalay sa pagkakasunod-sunod ng release ang access sa serbisyo at ang access sa mismong modelo:

  • Hulyo 16, 2026: Ipinakilala ang Kimi K3, ayon sa inilathalang paghahambing ng mga modelo.
  • Oktubre 24, 2026: Ipinakilala ng Moonshot ang K3.1 Pro sa pamamagitan ng mga produkto at API nito, at itinakdang ilabas ang weights pagsapit ng Nobyembre 4.
  • Nobyembre 5: Inanunsyo ng Moonshot ang paglabas ng weights at Kimi Hosted Agents; inanunsyo ng Huawei at Alibaba ang suporta sa deployment.

May mga kundisyon sa pagpapatakbo at lisensya ang open weights

Pinahihintulutan ng weights ang mga organisasyong may sapat na computing capacity na i-download at patakbuhin nang sarili ang K3.1 Pro. Maaaring magtakda ang mga negosyo ng sarili nilang serving system, magkonekta ng mga panloob na tool at gumawa ng mga espesyalisadong pagbabago alinsunod sa naaangkop na lisensya.

Gumagamit ang Moonshot ng sarili nitong lisensya na namamahala sa komersyal na paggamit. Saklaw ng release ang model weights, samantalang hindi inilathala ang training code at orihinal na mga dataset ng pagsasanay. Kaya natatanggap ng mga developer ang sinanay na modelo, na napapailalim sa mga pahintulot na itinakda ng mga tuntunin ng Moonshot, sa halip na kumpletong training package ayon sa depinisyon ng Open Source Initiative.

Nananatiling malaking konsiderasyon sa pagpapatakbo ang laki ng modelo. Bagaman bahagi lamang ng mixture of experts network ang aktibo sa bawat hakbang, kailangan pa rin ng deployment ng access sa buong koleksiyon ng weights. Lumilikha rin ang mahahabang request ng maraming pansamantalang attention data na kailangang itago habang gumagana ang modelo.

Patalastas

Ipinamamahagi ng Huawei ang memory load sa mga Ascend system

Ayon sa Huawei, natapos ng Ascend team nito ang adaptation sa araw na naging available ang weights ng K3.1 Pro, kaya agad na nasuri ang deployment. Saklaw ng suporta ang Atlas 800 A3, Atlas 900 A3 SuperPod at Ascend 950 supernode system sa pamamagitan ng vLLM Ascend at SGLang.

Tinutugunan ng adaptation ang hybrid attention architecture ng modelo, kabilang ang sparse attention at multimodal processing. Ang attention ang mekanismong tumutulong sa modelo na magpasya kung aling mga bahagi ng input ang mahalaga sa susunod nitong hakbang. Nililimitahan ng sparse attention ang ilan sa mga koneksiyong iyon para mabawasan ang kailangang pagproseso sa napakahahabang input.

Gumagamit ang Ascend ng distributed caching para ipamahagi sa ilang neural processing unit, o NPU, ang pansamantalang data ng modelo at mabawasan ang memory pressure sa bawat accelerator. Inilarawan din ng Huawei ang mga pagbabago sa mga pangunahing operasyong matematikal na nagbabawas sa hindi kailangang pagkopya at pagkukuwenta.

Maaaring i-load ng mga magde-deploy ang orihinal na weights o gumamit ng mas mababang bit precision para sa iba't ibang bahagi ng modelo, kasabay ng attention cache quantisation. Iniimbak ng quantisation ang mga numero gamit ang mas kaunting bit, kaya nababawasan ang pangangailangan sa memory. Ayon sa Huawei, pinananatili ng implementasyon ang prefix caching, na muling gumagamit ng paulit-ulit na input; chunked prefill, na nagpoproseso ng mahahabang prompt nang paisa-isang bahagi; at speculative inference, na nagpapabilis sa pagbuo ng output sa pamamagitan ng sabayang pagsusuri sa mga iminungkahing token.

Nag-aalok ang Alibaba ng isa pang paraan sa pamamagitan ng SuperPoD platform nito

Ayon sa Alibaba Cloud, natapos ng Lingjun Zhenwu M890 SuperPoD nito ang adaptation at validation sa buong software stack gamit ang vLLM at SGLang. Saklaw rin ng suporta ang mga configuration ng Zhenwu 810E, kaya nagkakaroon pa ng isang paraan para i-deploy ang modelo sa mga accelerator ng China.

Nagtulungan ang Alibaba Cloud, T-Head at Kimi team sa T-Head SAIL software stack, kabilang ang FlashMLA, mga operasyon ng DeepGEMM mixture of experts, MegaMoE at MoonEP. Pinangangasiwaan ng mga bahaging ito ang mga kalkulasyon ng attention at ang paglilipat ng gawain sa pagitan ng mga expert at accelerator. Maaaring mag-deploy ang mga customer sa pamamagitan ng nakalaang bare metal SuperPoD instance o serbisyo ng REIN ng Alibaba, at nag-aalok din ito ng access sa API sa pamamagitan ng Qwen AI platform nito.

Nagbukas ang Alibaba ng imbitasyonal na pagsubok para sa rehiyon ng SuperPoD sa Zhongwei, Ningxia, kasabay ng mga instance sa araw ng paglulunsad sa Zhongwei at Ulanqab. May dagdag na Panmai 920 network card ng T-Head ang configuration sa Zhongwei, na ayon sa Alibaba ay sumusuporta sa PCIe 5.0, 112G PAM4 Ethernet, throughput na hanggang 400 gigabit bawat segundo at 400 milyong packet bawat segundo.

Mahalaga ang mga detalye tungkol sa networking dahil kailangang mabilis na maglipat ng impormasyon sa pagitan ng mga processor ang modelong ganito kalaki. Ayon sa Alibaba, maaaring magpababa nang humigit-kumulang 30% sa gastos ng system ang integrated PCIe switch ng card. Sinabi rin nitong nagsisilbi ang M890 SuperPoD sa mahigit 100 malalaking customer at tinataya nitong halos tatlong ulit ng kasalukuyang henerasyon ang performance ng planong kahaliling V900; inaasahan pa lamang ito ng kumpanya.

Patalastas

Ipinakikita ng mga resulta sa coding ang pag-unlad sa tuluy-tuloy na pagpapatupad ng gawain

Nag-ulat ang Moonshot ng iskor na 65.7% sa Terminal-Bench 4.0, na sumusubok sa mga agent sa mga terminal task sa totoong computing environment na may limitasyon sa resource. Sa inilathalang paghahambing nito, nakakuha ang GPT-6 Astra ng 58.2% at Claude Opus 5.5 ng 66.4%, kaya 0.7 percentage point na mas mababa sa huli ang K3.1 Pro sa setup na iyon.

Tumaas mula 55.95% para sa K3 tungo sa 61.2% para sa K3.1 Pro ang iskor sa internal na Kimi Code Bench 3.0 Long-horizon ng kumpanya, isang pagbuti na 5.25 percentage point. Nakatuon ang pagsusulit na ito sa pagpaplano, paggamit ng tool at paglutas ng mga problemang pang-engineering sa maraming hakbang.

Nagbibigay ng ibang pananaw ang mga independiyenteng pagsusuri. Itinala ng Artificial Analysis ang pagtaas ng Intelligence Index mula 44 tungo sa 55, at resulta sa Terminal-Bench na humigit-kumulang 67% para sa K3.1 Pro kumpara sa 13% para sa K3. Gumamit ang terminal evaluation nito ng ibang agent framework kaysa sa Moonshot, kaya magkaibang setup ng pagpapatakbo ang inilalarawan ng mga iskor.

Itinampok sa mga demonstrasyon ng Moonshot ang pagpupursige, gayundin ang pagbuo ng code. Sa isang internal na pagsubok, gumawa ang modelo sa isang walking simulation na binuo mula sa 296 skeletal component at 402 muscle component. Sa 167 gawain at 420 magkakahiwalay na pagsusuri, pinahaba nito sa 11.2 segundo ang tuluy-tuloy na paglalakad ng kunwaring katawan at itinama ang 36 na error sa mga kalkulasyon ng kalamnan sa balikat, ayon sa kumpanya.

Sa hiwalay na pagsusuri ng Plotly, nakakuha ang K3.1 Pro ng 42 tamang sagot mula sa 43, kumpara sa 35 para sa K3, kasabay ng mas mataas na gastos at mas mahabang median na oras ng pagkumpleto. Kaya maaaring sabay na mangyari ang mas mabilis na pagbuo ng token at mas mahusay na mga sagot habang mas matagal namang hinihintay ang pagkumpleto ng gawain.

May mga nakatuong pagbuti sa paglikha ng 3D at pananalapi

Nakakuha ang K3.1 Pro ng 92.7% sa BenchCAD kapag gumagamit ng mga tool, ayon sa Moonshot. Inaatasan ng benchmark ang isang modelo na buuing muli ang mga 3D object mula sa mga larawan ng mga ito sa pamamagitan ng pagbuo ng computer-aided design code. Nakasaad sa paghahambing ng kumpanya ang 96.2% para sa Claude Opus 5.5 at 95.9% para sa GPT-6 Astra.

Ayon sa Moonshot, kaya ng modelo na magsulat at magpatakbo ng mga script para sa mga propesyonal na tool sa pagmomodelo, kabilang ang Blender at CAD software. Kabilang sa mga halimbawa nito ang turbofan engine sa FreeCAD na may 2,100 solid object at isang ilawang dinisenyo bilang limang piyesa para sa 3D printing. Nag-aalok din ang website at app ng Kimi ng 3D Make para sa pag-preview, pag-edit at pag-export ng mga modelo.

Isa pang pangunahing target ang mga gawaing pinansyal. Nag-ulat ang Moonshot ng iskor na 64.4 sa OfficeQA Pro v2, na sumusubok sa pagsusuri ng mga totoong dokumentong pinansyal sa pamamagitan ng pagkuha ng impormasyon, pagberipika sa iba't ibang dokumento at numerikal na pangangatwiran. Sa mga internal na pagsusuri nito, bumuti nang 14% ang financial modelling at 20% ang financial research, habang umabot sa humigit-kumulang 4.2 ulit ng iskor ng K3 ang kunwaring pagpapatakbo ng negosyo.

Ibinibigay sa inilathalang paghahambing ang mga batayang bilang para sa dalawa sa mga pagsusulit na iyon: tumaas ang Financial Research mula 58.8 tungo sa 70.4, habang umakyat ang Business Operation mula 8.9 tungo sa 37.0. Para sa mga gumagamit sa negosyo, ang inaasahang pakinabang ay modelong kayang magpatuloy mula sa paghahanap ng impormasyon hanggang sa pagkukuwenta at paggawa ng kumpletong workbook o resulta ng pananaliksik.

Patalastas

Naglabas ang Moonshot ng dalawang magkaibang resulta sa mga error sa katotohanan

Ayon sa anunsyo ng paglulunsad ng Moonshot, bumaba mula 23.4% para sa K3 tungo sa 8.3% para sa K3.1 Pro ang error rate sa iisang pahayag tungkol sa katotohanan sa Kimi Hallu Bench Hard; ibang resulta naman ang ibinigay sa API guide ng kumpanya sa isang stress test, kung saan bumaba ito mula 23.35% tungo sa 6.85% sa mga hindi nagpapakilalang pag-uusap na iniulat ng mga user dahil sa mga pagkakamali sa katotohanan.

Magkaiba rin ang mga bilang sa antas ng sagot na ibinigay ng dalawang pahina. Ayon sa anunsyo ng paglulunsad, humigit-kumulang 42.4% ng rate ng K3 ang bahagdan ng mga sagot na naglalaman ng kahit isang error sa katotohanan; humigit-kumulang 46.4% naman ang nasa API guide. Hindi ipinaliwanag ng Moonshot kung paano magkaugnay ang mga pagsusuring ito.

Kapwa nakatuon ang mga paglalarawan sa mahihirap na halimbawang pinili dahil malamang magkamali ang mga modelo sa mga ito. Para sa mga deployment sa pananalapi at negosyo, nananatiling praktikal na hakbang ang pagsuri sa mga kalkulasyon, sanggunian at pahayag tungkol sa katotohanan batay sa mga pinagmulan bago kumilos ayon sa output.

Nagtala rin ang independiyenteng paghahambing ng bahagyang pagbaba sa isang pagsusulit sa mahabang context: bumaba ang AA-LCR v1.1 mula 88.7% para sa K3 tungo sa 86.3% para sa K3.1 Pro. Kailangang isaalang-alang ng mga organisasyong nagpoproseso ng mahahabang dokumento ang katumpakan ng pagkuha ng impormasyon, kasabay ng hindi nagbabagong kapasidad ng context ng modelo.

Magkakaiba ang mga kapalit sa paggamit ng hosted agent at API

Ibinibigay ng Kimi Hosted Agents ang operating framework, na madalas tawaging harness, sa palibot ng isang AI model. Pinangangasiwaan ng framework na ito ang mga tool, pagpapatupad ng code, context, pahintulot at pagbawi kapag naantala ang isang gawain. Ayon sa Moonshot, sinusuportahan ng serbisyo ang tuluy-tuloy na operasyon, mahahabang gawain at pagtutulungan ng maraming agent.

Tinutukoy ng Moonshot ang panloob na pagsubaybay at pagtugon sa operasyon bilang mga posibleng gamit, kasama ang mga research assistant at serbisyo ng suporta para sa customer. Itinatakda ng mga negosyong gumagamit ng pinamamahalaang serbisyo ang mga gawain at ikinokonekta ang mga tool habang pinananatili ng Kimi ang batayang runtime. Ang mga negosyong nagpapatakbo ng weights ang may pananagutan sa sarili nilang mga kaayusan sa pagpapatakbo at pagserbisyo ng modelo.

Para sa mga customer ng API, hinihingi ng API quickstart guide ng Moonshot ang minimum na 10 yuan na top-up para ma-unlock ang K3.1 Pro. Hindi magagamit sa modelong ito ang 15 yuan na voucher para sa mga bagong rehistradong user. Nagbibigay ang gabay ng mababa, mataas at max na setting ng pangangatwiran, kung saan max ang default, at pagpipilian sa pagpapanatili ng cache na limang minuto o isang oras.

Nag-aalok din ang Moonshot ng K3.1 Pro Highspeed, na ayon dito ay nagbibigay ng kaparehong antas ng talino sa bilis ng output na humigit-kumulang dalawa hanggang tatlong ulit. Itinatala sa inilathalang paghahambing ang karaniwang singil na $2 para sa input at $10 para sa output kada isang milyong token, mula sa $3 at $15 para sa K3, isang katumbas na isang-katlong bawas bago ang singil sa cache at iba pang naaangkop na bayarin. Nakasalalay pa rin ang kabuuang gastos sa dami ng token at interaksiyon sa tool na nauubos ng isang gawain.

May ilang partikular na kinakailangan sa integration ang mga developer: kailangang panatilihin ang kumpletong mga mensahe ng assistant sa mga tool call, kailangan ng base64 data o identifier ng na-upload na file sa halip na pampublikong URL ng larawan para sa mga biswal na input, at ipinapayo ng gabay na huwag gamitin sa produksyon ang web search tool habang ina-update ito.

Patalastas

Mahahalagang Punto

  • Inanunsyo ng Moonshot ang weights ng Kimi K3.1 Pro noong Nobyembre 5, matapos ang mas maagang access sa pamamagitan ng produkto at API.
  • May kabuuang 2.8 trilyong parameter ang modelo, humigit-kumulang 104 bilyong aktibong parameter sa bawat hakbang ng inference at context na halos isang milyong token.
  • Inanunsyo ng Huawei Ascend at Alibaba Cloud ang suporta sa deployment sa pamamagitan ng vLLM at SGLang.
  • Nag-ulat ang Moonshot ng mga pag-unlad sa coding, 3D modelling at pananalapi, ngunit nag-iiba ang mga resulta ayon sa gawain at setup ng pagsusuri.
  • Nangangailangan ng malaking computing resource at pagsunod sa sariling lisensya ng Moonshot ang independiyenteng deployment.
  • Nag-aalok ang Kimi Hosted Agents ng pinamamahalaang alternatibo para sa pagpapatakbo ng mahahabang gawain at koordinasyon ng maraming agent.
Ibahagi ang artikulong ito

Baka magustuhan mo rin