Naabot ng Xiaomi MiMo ang 1,000 Token Kada Segundo sa mga Karaniwang GPU Nang Walang Pasadyang Chip

Bagong Rekord sa Bilis ng Artificial Intelligence

Noong Hunyo 8, 2026, inilabas ng Xiaomi ang MiMo V2.5 Pro UltraSpeed, isang inference mode na nagpapabilis sa isang language model na may isang trilyong parameter nang lampas 1,000 token kada segundo sa karaniwang cloud graphics processing unit. Ito ang unang pagkakataong lumampas sa naturang bilis ang modelong ganito kalaki nang hindi umaasa sa pasadyang silicon o espesyal na hardware. Ipinakikita ng mga panloob na demo na umaabot sa halos 1,200 token kada segundo ang tuloy-tuloy na pinakamataas na throughput sa iisang pangkaraniwang node na may walong GPU.

Para maunawaan ang kahalagahan nito, ikumpara ito sa kasalukuyang pampublikong benchmark. Nakagagawa ang GPT 5.5 ng OpenAI ng humigit-kumulang 68 token kada segundo. Tumatakbo ang Claude Opus 4.6 sa tinatayang 71 token kada segundo, habang umaabot sa 192 ang Google Gemini Flash. Nagbibigay ang UltraSpeed mode ng Xiaomi ng humigit-kumulang 15 ulit na bilis ng output kumpara sa karaniwang karanasan sa ChatGPT, at nagagawa ito sa modelong nakikipagtagisan na sa mga nangungunang sistema sa mga pagsusuri sa software engineering.

Ang modelong nasa likod ng bilis na ito ay ang MiMo V2.5 Pro, isang Mixture of Experts architecture na may 1.02 trilyong parameter at context window na isang milyong token. Di tulad ng maraming katunggali, likas na pinoproseso ng sistema ang teksto, mga larawan, audio, at video sa iisang modelo. Inilabas ng Xiaomi ang batayang checkpoint sa ilalim ng MIT open source license, kaya maaaring patakbuhin ito ng mga developer sa sarili nilang server, i-fine-tune, at gamitin sa mga komersiyal na deployment nang walang bayad sa lisensiya.

Ang Di-inaasahang Pag-angat ng Xiaomi sa Artificial Intelligence

Iniuugnay ng karamihan ng mga mamimili ang Xiaomi sa abot-kayang smartphone, electric scooter, at, nitong mga nakaraang panahon, mga de-kuryenteng sasakyan. Nagpadala ang kompanya ng 33.8 milyong handset noong unang quarter ng 2026 at naghatid ng mahigit 30,000 de-kuryenteng sasakyan noong Mayo lamang. Gayunman, sa likod ng mga produktong ito para sa mamimili ay may nakalaang dibisyon ng artificial intelligence na gumagawa ng malalaking language model mula pa noong Abril 2025, nang ilunsad nito ang isang compact na reasoning model na may 7 bilyong parameter.

Sa loob ng 14 na buwan mula noon, lumago ang pamilya ng MiMo at naging isa sa mas mapagkumpitensyang open weight lineup na magagamit. Unang inilabas noong Abril 22, 2026 ang kasalukuyang flagship nito, ang MiMo V2.5 Pro. Halos kaantas nito ang Claude Opus 4.6 sa mga gawain sa software engineering, habang humigit-kumulang isang ikawalo lamang ang halaga nito kada token. Para sa batayang modelo, ang karaniwang presyo ay 0.025 yuan kada isang milyong token kapag may cache hit, 3 yuan kada isang milyong input token kapag walang cache hit, at 6 yuan kada isang milyong output token.

Idinagdag ng anunsiyo noong Hunyo 8 ang UltraSpeed bilang high performance na mode ng paghahatid na direktang nakapatong sa umiiral na modelong ito. Hindi binago ang weights o arkitektura ng modelo; ganap na nagmula sa pag-optimize ng inference ang pagbilis, isang tagumpay sa software na kumukuwestiyon sa mga palagay tungkol sa kakayahan ng karaniwang hardware.

Ang Halaga ng Bilis sa Makabagong AI

Naging mahalagang larangan ng kompetisyon para sa malalaking language model ang bilis ng inference. Hindi lamang nakasalalay sa bilis ng pagbuo ng token kung gaano kabilis makatatanggap ng sagot ang mga user, kundi pati kung aling mga aplikasyon ang praktikal sa teknikal at pinansiyal na aspeto. Ang modelong nakakabuo ng 68 token kada segundo ay angkop sa mga chat interface kung saan nagbabasa ang mga tao sa sarili nilang bilis. Ngunit hindi ito uubra sa mga gawaing sensitibo sa latency, gaya ng real-time na pagtukoy ng panloloko, mga signal para sa high-frequency trading, o mga autonomous coding agent na kailangang dumaan sa maraming hakbang ng pangangatwiran sa loob ng ilang segundo.

Dahil kinilala nila ang hadlang na ito, bumuo ang ilang startup ng buong negosyo sa paligid ng pasadyang silicon. Dinisenyo ng Cerebras ang wafer-scale chip na halos kasinlaki ng plato, na may 44 gigabyte na on-chip memory para alisin ang mga limitasyon sa bandwidth na nagpapabagal sa inference sa karaniwang GPU. Umabot sa humigit-kumulang 969 token kada segundo ang sistemang ito sa Llama 3.1 405B ng Meta, isang modelong wala pang kalahati ng dami ng parameter ng MiMo V2.5 Pro. Bumuo naman ang Groq ng pasadyang arkitekturang Language Processing Unit na kayang maghatid ng 300 hanggang 750 token kada segundo, depende sa modelo. Wala sa dalawang platform ang tumatakbo sa hardware na karaniwang inuupahan sa mga cloud service.

Tinatanggihan ng pamamaraan ng Xiaomi ang karera sa pasadyang hardware na ito. Sa sabayang pag-optimize ng software at disenyo ng modelo, nakamit ng kompanya ang maihahambing na bilis gamit ang mga karaniwang GPU na maaaring arkilahin. Sa teorya, kayang ulitin ang resulta ng sinumang developer na may access sa karaniwang node na may walong GPU. Maaari nitong ilipat ang bentahe sa kompetisyon mula sa mga gumagawa ng espesyal na chip tungo sa inobasyon sa mga algorithm.

Pagpapaliit ng Intelligence Gamit ang FP4 Quantization

Ang unang haligi ng UltraSpeed ay agresibong numerikal na compression na tinatawag na FP4 quantization. Karaniwang iniimbak ang weights ng mga modelo sa 16-bit o 8-bit na precision habang nag-i-inference. Nangangailangan ng tiyak na bandwidth ng memory ang bawat parameter. Kapag trilyon na ang mga parameter, nagiging sagabal ang paglilipat lamang ng mga weight na iyon mula sa memory papunta sa mga processing core, kaya nalilimitahan ang bilis ng pagbuo ng output.

Pinipili ng solusyon ng Xiaomi kung saan gagamit ng 4-bit na precision. Maraming expert layer ang Mixture of Experts architecture; hawak ng mga ito ang malaking mayorya ng mga parameter at mas natitiis ang pagbaba ng precision. Tanging mga expert layer ang kinompress ng Xiaomi sa MXFP4 format habang pinanatili sa mas mataas na precision ang ibang module ng modelo, na iniulat na FP8. Pinaliit ng piling pamamaraang ito ang memory footprint nang hindi pinababa ang kalidad ng output, dahil isinama ng Quantization Aware Training ang compression sa proseso ng pagkatuto ng modelo. Ipinakikita ng mga benchmark na halos kapantay ng orihinal na bersiyong full precision ang quantized na bersiyon.

Dahil bumubuo sa malaking bahagi ng modelo ang mga expert layer, malaki ang ibinabawas ng piling compression na ito sa dami ng datos na kailangang dumaan sa memory sa bawat hakbang ng pagbuo. Direktang nagiging mas mataas na throughput ang natipid na bandwidth.

Sabayang Paghula Gamit ang DFlash Speculative Decoding

Tinutugunan naman ng ikalawang haligi ang sunud-sunod na katangian ng pagbuo ng wika. Karaniwang paisa-isang gumagawa ng token ang mga modelo, at nakadepende ang bawat bagong token sa lahat ng nauna rito. Nag-aalok ng shortcut ang speculative decoding: mabilis na nanghuhula ang mas maliit na draft model ng ilang susunod na token, at sabay-sabay na bineberipika ng mas malaking target model ang mga hula. Kapag tama ang mga hula, nakatitipid ng oras ang sistema. Gayunman, sa tradisyonal na speculative decoding, sunud-sunod pa ring gumagawa ng mga hula ang draft model, kaya nalilimitahan ang pakinabang.

Ganap na inaalis ng DFlash, isang paraang nagmula sa komunidad ng mga mananaliksik at pinahusay ng Xiaomi, ang limitasyong ito. Sa halip na manghula ng mga token nang paisa-isa, pinupunan ng draft model sa iisang forward pass ang isang buong bloke ng mga posisyong natatakpan. Itinono ng Xiaomi ang prosesong ito gamit ang second-order optimizer na Muon at model self-distillation. Sliding Window Attention lamang ang ginagamit ng draft model, kaya nananatiling pareho ang gastos sa pagkalkula sa bawat hula gaano man kahaba ang usapan.

Sa mga sitwasyon ng coding, nakakamit ng sistema ang karaniwang acceptance length na 6.3 token sa bawat verification round, mula sa block size na hanggang 8. Ibig sabihin, kinukumpirma ng malaking modelo ang anim o pitong token sa iisang hakbang sa halip na isa-isang buuin ang mga ito. Dahil tinitiyak ng rejection sampling na mga wastong token lamang ang makapapasa, kaparehong-kapareho sa matematika ng karaniwang decoding ang output. Nakukuha ang pagbilis nang hindi isinasakripisyo ang kalidad.

Pag-aalis sa mga Gapyang Microsecond Gamit ang TileRT

Tinututukan ng ikatlong haligi ang isang di-nakikitang bottleneck na lumilitaw lamang sa matinding bilis. Kapag lumampas sa 1,000 token kada segundo ang inference, tumatagal lamang ng ilang microsecond ang bawat matematikal na operator. Isa-isang inilulunsad ng mga tradisyonal na sistema ng paghahatid ang mga operator, na may maliliit na pagitan sa bawat paglulunsad. Hindi gaanong mahalaga ang mga pagitan sa karaniwang bilis. Sa antas ng UltraSpeed, pinuputol ng mga ito ang tuloy-tuloy na takbo ng pagproseso at nagiging pangunahing bottleneck.

Nilulutas ito ng TileRT, na kapwa binuo kasama ang TileRT na katuwang sa inference, sa pamamagitan ng Persistent Engine Kernel na patuloy na nananatili sa GPU. Sa halip na paulit-ulit na simulan at ihinto ang mga operasyon, gumagamit ang kernel ng Warp Specialization para magtalaga ng mga partikular na hardware thread sa paglilipat ng datos, pagkalkula, at komunikasyon sa magkakaugnay na gawain. Naipapatupad nang walang pagkaantala maging ang maliliit na operasyon gaya ng RMSNorm, rotary position embedding, at pagsusulat sa KV cache, na karaniwang nagdudulot ng mga pagkaantalang umaabot ng ilang microsecond.

Dinisenyo ang sistema kasabay ng mga pagpili sa FP4 at DFlash, sa halip na idagdag lamang pagkaraan. Tinitiyak ng magkasanib na disenyo ng modelong ito na magkakatugma nang mahigpit ang tatlong antas. Tahasang sinabi ng Xiaomi na wala sa tatlong teknik ang makakamit nang mag-isa ang 1,000 token kada segundo. Sa pinagsamang pagpapatupad lamang nila nakukuha ang rekord na resulta.

Epekto sa Tunay na Buhay at Konteksto ng Negosyo

Binabago ng 1,000-token na hangganan kung aling mga aplikasyon ang praktikal para sa mga modelong nangunguna sa industriya. Nagiging maisasagawa ang parallel reasoning, kaya maaaring magpatakbo ang mga sistema ng dose-dosenang Best of N o mga landas ng pangangatwiran na tree search sa panahong gugugulin ng mas mabagal na modelo sa isa lamang. Nakikinabang ang mga coding agent dahil nababawasan ng mas mabilis na pagbuo ng output ang paghihintay sa pagitan ng mga awtonomong hakbang. Nagiging praktikal ang mga real-time na siklo ng pagpapasya para sa pagbuo ng mga signal sa trading, pagpigil sa panloloko, at mga live na sistema ng diyalogo kapag bumababa ang latency sa antas na hindi na namamalayan ng tao.

Ipinakita ng Xiaomi ang praktikal na epekto sa mga pampublikong demo. Nabuo sa humigit-kumulang sampung segundo ang isang ganap na gumaganang larong Snake. Lumitaw naman sa loob ng halos isang minuto ang isang prototype ng interface para sa macOS. Mga gawaing nalilimitahan ng throughput ang mga ito, kung saan bilis ng token ang pangunahing hadlang.

Makakakuha ng UltraSpeed sa pamamagitan ng limitadong API trial na kailangang aplayan, mula Hunyo 9 hanggang Hunyo 23, 2026. Tatlong ulit ang presyo nito kumpara sa karaniwang singil sa MiMo V2.5 Pro; katumbas ito ng tinatayang $1.29 kada isang milyong input token at $2.61 kada isang milyong output token batay sa kasalukuyang kalkulasyon ng palitan. Nangangako ang Xiaomi ng humigit-kumulang sampung ulit na bilis sa pagbuo kapalit ng dagdag na bayad. Hindi saklaw ng UltraSpeed ang serbisyong subscription na Token Plan. Makakatanggap ang mga aprubadong user ng dalawang linggong libreng access sa Chat na may pang-araw-araw na limitasyon: sampung pagpasok sa pila bawat account, hanggang 30 minuto bawat sesyon, at awtomatikong pagpapalaya ng mga resource matapos ang limang minutong walang aktibidad.

Sa kabila ng mga teknikal na tagumpay na ito, walang gaanong naging reaksiyon ang mga pamilihang pinansiyal. Nagsara sa €2.91 ang mga bahagi ng Xiaomi noong Hunyo 11, 1.75% lamang na mas mataas sa pinakamababang antas nito sa loob ng 52 linggo, at tanda ito ng 35% na pagbaba mula simula ng taon. Patuloy na pinalalawak ng kompanya ang mga negosyo nito: inilunsad nito sa India ang premium na 17T smartphone sa araw ding inilabas ang MiMo Code assistant, at ipinagpapatuloy ang pagpapalawak ng mga de-kuryenteng sasakyan kasama ang lungsod ng Changchun. Nakadepende sa susunod na datos ng kita kung maibabaligtad ng tuloy-tuloy na pag-usad ng negosyo ang naging takbo ng presyo ng mga bahagi.

Open Source na Paglalabas at Tanong sa Beripikasyon

Ginawang open source ng Xiaomi sa Hugging Face ang MiMo V2.5 Pro FP4 DFlash checkpoint, kabilang ang quantized weights at mga parameter ng DFlash. Naglathala naman ang TileRT ng piling module sa GitHub. Nagbibigay-daan ang pagiging bukas na ito sa independiyenteng pagsusuri ng komunidad, na magiging mahalaga dahil nagmula sa mga panloob na benchmark ng Xiaomi ang lahat ng kasalukuyang pahayag tungkol sa bilis. Wala pang nailalathalang beripikasyon mula sa independiyenteng third party.

Susubukin ng mga pagsisikap ng komunidad na ulitin ang resulta ang ilang tanong na hindi pa nasasagot. Una, kung nananatili ang bilis na 1,000 token kada segundo sa karaniwang GPU instance sa labas ng kontroladong trial environment ng Xiaomi. Ikalawa, kung may paglala sa kalidad sa mga bukas na usapang walang takdang paksa, kung saan mas mababa sa kasalukuyan ang acceptance rate ng speculative decoding kaysa sa mga nakaayos na gawaing coding. Ikatlo, kung maisasama ang persistent kernel approach ng TileRT sa mga karaniwang serving stack na ginagamit na sa mga aktuwal na sistema.

Kung makukumpirma ng mga independiyenteng pagsusuri ang mga pahayag, makakamit ng Xiaomi sa pamamagitan ng software ang pinagsikapang makuha ng mga katunggali sa pamamagitan ng pasadyang silicon sa halagang daan-daang milyong dolyar. Ipapahiwatig ng resulta na kayang magbukas ng algorithmic co-design ng mga antas ng performance na dating inaakalang nangangailangan ng espesyal na hardware, at maaari nitong ilihis ang direksiyon ng pamumuhunan sa buong industriya ng artificial intelligence.

Mahahalagang Punto

• Naging unang modelong may isang trilyong parameter na lumampas sa 1,000 token kada segundo sa karaniwang GPU ang MiMo V2.5 Pro UltraSpeed ng Xiaomi nang ilunsad ito noong Hunyo 8, 2026.
• Nagmumula ang bilis sa tatlong magkakaugnay na teknik: FP4 quantization sa mga expert layer, DFlash speculative decoding sa antas ng bloke, at persistent GPU runtime ng TileRT.
• Halos kapantay ng Claude Opus 4.6 sa mga gawaing coding ang batayang MiMo V2.5 Pro, habang humigit-kumulang isang ikawalo lamang ang halaga nito kada token.
• Di tulad ng mga katunggaling gaya ng Cerebras at Groq, nakamit ng Xiaomi ang rekord nang walang pasadyang silicon; gumamit ito ng karaniwang node na may walong GPU na mabibili sa mga cloud provider.
• Makukuha sa Hugging Face sa ilalim ng MIT open source license ang MiMo V2.5 Pro FP4 DFlash checkpoint, at nasa GitHub naman ang mga module ng TileRT.
• Tatagal mula Hunyo 9 hanggang Hunyo 23, 2026 ang limitadong API trial; tatlong ulit ng karaniwang singil ang presyo nito kapalit ng humigit-kumulang sampung ulit na bilis sa pagbuo.
• Nananatiling malapit sa pinakamababang antas sa loob ng 52 linggo ang presyo ng mga bahagi ng Xiaomi sa kabila ng teknikal na tagumpay nito; bumaba ang mga ito nang 35% mula simula ng taon hanggang kalagitnaan ng Hunyo 2026.