Ginawang open source ng Alibaba ang Qwen3-Next, isang mas mabilis at murang AI model na gumagana sa pangkaraniwang hardware

Mas mabilis at mas murang modelong para sa mga developer at negosyo

Naglabas ang Alibaba Cloud ng open source na pamilya ng malalaking language model sa ilalim ng bagong arkitekturang tinatawag na Qwen3-Next. Ang pangunahing modelo, ang Qwen3-Next-80B-A3B, ay may 80 bilyong parameter, ngunit gumagamit ng mga pagpipilian sa disenyo na nagpapahintulot sa sistema na tumakbo nang mas mabilis at mas mababa ang gastos kaysa sa mga naunang Qwen model. Ayon sa Alibaba, wala pang ikasampung bahagi ng compute na ginamit para sa Qwen3-32B ang kinailangan sa pagsasanay ng bagong base model. Inilabas ang mas naunang modelong ito, na may dense architecture, noong Abril. Samantala, kapantay ng kalidad ng mas malaking Qwen3-235B ng kumpanya ang bagong serye sa maraming gawain.

Ginawang open source ng Alibaba ang mga modelo para sa mga developer, at maaaring i-download o gamitin sa pamamagitan ng API sa mga pangunahing model hub at sarili nitong cloud. Inilalarawan ng kumpanya ang Qwen bilang isang mabilis lumalaking ecosystem para sa mga developer. Kaayon ito ng mas malawak na hakbang ng mga grupong Chinese sa AI na maglabas ng mga de-kalidad na modelong maaaring suriin at pagbatayan ng iba. Makapagpapalawak ng paggamit ang paraang ito nang hindi umaasa sa malakihang sentralisadong imprastraktura.

Kasabay ng mga pahayag tungkol sa episyensiya ng pagsasanay, nakatuon ang Qwen3-Next sa bilis at pagganap sa mahabang context habang ginagamit ang modelo. Sa mga pagsubok na ibinahagi ng Alibaba, naghahatid ang arkitektura ng mahigit 10 ulit na throughput para sa mga prompt na lampas 32,000 token kumpara sa mga naunang Qwen release. Umaabot sa 256,000 token ang context window at, sa ilang setting, maaari itong palawakin sa 1 milyong token. Mas angkop dito ang mga dokumentong kasin haba ng libro, malalaking code repository, at iba pang gawaing nangangailangan ng maraming input.

Mga pagbabagong hatid ng Qwen3-Next sa loob ng modelo

Ipinakikilala ng henerasyong ito ang ilang sangkap na nagiging karaniwang kasangkapan na sa mga advanced AI system. Nasa ubod nito ang sparse Mixture of Experts (MoE), isang disenyong nagsasanay ng maraming maliliit na expert network ngunit iilan lamang ang ginagamit sa bawat token. Ipinapares ito ng Qwen3-Next sa hybrid attention mechanism para mapangasiwaan ang mahahabang sequence, multi token prediction para mapabilis ang pagbuo ng sagot, at mga pagbabago sa pagsasanay para mapigil ang kawalang-tatag sa reinforcement learning (RL). Sa modelong Qwen3-Next-80B-A3B-Base, humigit-kumulang 3 bilyong parameter lamang ang aktibo sa bawat hakbang, bagaman 80 bilyon ang kabuuang parameter nito.

Ayon sa Alibaba, kapantay o kung minsan ay mas mahusay pa ang kalidad ng base model kaysa sa dense na Qwen3-32B, habang wala pang 10 porsiyento ng GPU hours nito ang ginagamit sa pagsasanay. Habang ginagamit ang modelo, pinananatiling mababa ng arkitektura ang compute nang hindi isinasakripisyo ang kapasidad. Dahil dito, iniulat ng pangkat ang malaking pagbilis sa mahahabang context at mas mababang gastos para sa cloud at consumer-grade hardware.

Payak na paliwanag sa Mixture of Experts

Sa Mixture of Experts, natututo ang network ng maraming espesyalisadong submodel na tinatawag na mga expert. Nagpapasya ang isang magaan na gating module kung aling mga expert ang gagamitin para sa bawat token. Gumagamit ang Qwen3-Next ng mataas na antas ng sparsity, ibig sabihin, maliit na bahagi lamang ng mga expert ang sabay-sabay na aktibo. Binabanggit sa ilang ulat ang 512 expert, kung saan 10 ang aktibo kada token sa ilang layer. Dahil dito, maihahambing ang compute at memory na kailangan sa bawat forward pass sa mas maliit na dense network, samantalang nagbibigay naman ng malaking kabuuang kapasidad ang buong pangkat ng mga expert.

Kapalit nito ang dagdag na komplikasyon sa pagsasanay at pangangailangan ng pag-iiskedyul upang matiyak na balanse ang paggamit sa mga expert. Ayon sa Alibaba, tinugunan nito ang mga isyu sa katatagan na madalas lumitaw kapag pinagsama ang sparse MoE at fine tuning na gumagamit ng RL. Para sa mga developer, mahalagang malaman na nakabatay ang runtime cost sa bilang ng mga aktibong parameter, hindi sa kabuuang bilang ng parameter.

Hybrid attention at mahabang context

Ang mga attention layer ang bahagi ng transformer na nagbibigay-daan sa modelo na tumingin sa mga input token at magpasya kung alin ang mahalaga. Nagiging magastos ang karaniwang attention habang humahaba ang input dahil tumataas nang ayon sa kuwadrado ng haba ng sequence ang gastos nito. Pinagsasama ng Qwen3-Next ang karaniwang attention at mga paraang mas matipid na nagtatantiya sa context. Inilarawan ito ng pangkat bilang Gated DeltaNet na pinagsama sa classic attention. Mas mataas ang throughput sa mahahabang input at mas kaunti ang paghina habang humahaba ang mga prompt. Iniulat ng Alibaba ang mahigit 10 ulit na mas mataas na throughput para sa mga context na lampas 32,000 token, default na context window na 256,000 token, at opsiyong palawakin ito sa 1 milyong token para sa mga espesyal na kaso. Iniulat din ng pangkat ang halos linear na pagbilis sa ilang kundisyon, kabilang ang hanggang humigit-kumulang 7 ulit na mas mabilis na prefill at humigit-kumulang 4 na ulit na mas mabilis na decode sa mas maiikling context.

Multi token prediction at decoding

Sinisikap ng multi token prediction na hulaan ang ilang susunod na token nang sabay-sabay, at itinatama ang mga ito kapag mali ang hula. Kapag isinama sa speculative decoding, nababawasan nito ang bilang ng magastos na forward pass na kailangan para maghatid ng sagot. Sinusuportahan ng Qwen3-Next ang paraang ito at gumagana ito sa mga popular na inference stack gaya ng SGLang at vLLM, na nakatutulong magpababa ng latency sa mga serbisyong ginagamit sa produksyon. Binanggit din ng pangkat ang Zero Centered RMSNorm at iba pang pagpipilian sa pag-optimize na nagpapatatag sa pagsasanay. Ang kabuuang epekto, kapag ipinares sa sparse MoE, ay mas mabilis na pagbuo ng sagot nang hindi gaanong nababawasan ang kalidad.

Dalawang bersiyon ng modelo para sa pagsunod sa tagubilin at pangangatwiran

Nang ilabas ang modelo, nagbigay ang Alibaba ng dalawang modelong sinanay matapos buuin ang base network. Para sa karaniwang pagsunod sa tagubilin, pakikipag-chat, at paggamit ng tool ang Qwen3-Next-80B-A3B-Instruct. Sa mga pagsubok ng kumpanya, malapit ang pagganap nito sa flagship na may 235 bilyong parameter sa maraming pangkalahatang gawain. Mahusay din ito kapag napakahaba ng context sa prompt, hanggang 256,000 token.

Iniangkop ang Qwen3-Next-80B-A3B-Thinking para sa masalimuot na pangangatwiran. Itinatampok ng Alibaba ang mga iskor nitong mas mataas kaysa sa sarili nitong mga Qwen3 model na nasa gitnang antas at higit sa saradong modelong Gemini 2.5 Flash Thinking sa ilang benchmark na pinili para sa pagsusuri. Binanggit ng kumpanya ang iskor na 60.8 porsiyento sa SuperGPQA, isang mahirap na pagsusulit para sa antas graduate. Kapaki-pakinabang na palatandaan ang mga benchmark, ngunit dapat magsagawa ang mga mamimili ng sarili nilang pagsubok sa mga gawaing partikular sa kanilang larangan, kabilang ang coding, retrieval-augmented generation, matematika, at pagpaplano ng maraming hakbang.

Bilis, gastos, at pangangailangan sa hardware

Tungkol sa pera at oras ang pangunahing pakinabang. Ayon sa Alibaba, natapos ang pagsasanay sa base model gamit ang wala pang 10 porsiyento ng compute na kinailangan ng Qwen3-32B. Habang ginagamit ang modelo, humigit-kumulang 3 bilyong parameter lamang ang aktibo sa bawat token, kaya mas mababa ang pangangailangan nito sa GPU memory at enerhiya sa pagsagot. Dahil dito, mas kaunting hardware ang kailangan para sa parehong antas ng serbisyo, o mas maraming kahilingan ang mapoproseso sa iisang setup.

Sa mahahabang prompt pinakamatingkad ang husay ng arkitektura. Iniulat ng Alibaba ang sampung ulit na pagtaas sa throughput para sa mga input na lampas 32,000 token at malaking pagbuti rin sa mas maiikling sequence, kabilang ang humigit-kumulang 7 ulit na mas mabilis na prefill at humigit-kumulang 4 na ulit na mas mabilis na decode sa ilang pagsubok. Sa 256,000-token na window, maaaring magbigay ang mga analyst ng buong kontrata, transcript, o malalaking code file sa iisang kahilingan, saka hilingin sa modelo na ibuod, paghambingin, o gumawa ng mga pagbabago. Binibigyang-diin ng kumpanya na iniangkop ang bagong serye upang gumana nang maayos sa consumer-grade hardware, kaya hindi na kailangan ng malalaking cluster para sa mga advanced na prototype.

Availability at access

Malawakang inilabas ang mga modelong Qwen3-Next. Nasa mga karaniwang model hub ang mga ito, gaya ng Hugging Face at ModelScope, at makukuha rin sa Alibaba Cloud Model Studio para sa pinamamahalaang deployment. Maaaring gumamit ang mga user ng naka-host na endpoint o mag-download ng mga weight para patakbuhin ang modelo sa sariling makina. Maa-access din ang serye sa NVIDIA API Catalog, at may ilang bersiyong inilagay rin sa Kaggle para mas madaling subukan.

Kasabay ng release na ito ang mga utility gaya ng Qwen3-ASR-Flash, isang bahagi para sa speech transcription na sumusuporta sa 11 pangunahing wika ayon sa pangkat. Hinihikayat ng Alibaba ang mga developer na suriin ang mga tuntunin ng lisensiya ng bawat modelo, lalo na para sa malawakang paggamit o komersiyal na layunin, at pagkatapos ay subukan ang mga ito gamit ang sarili nilang dataset at workload. Dapat makatulong ang suporta para sa mga inference framework gaya ng SGLang at vLLM, kasama ng mga pattern ng activation na angkop sa hardware, upang mas mabilis na maging maaasahang serbisyo ang isang demo.

Paano binabago nito ang kompetisyon sa AI

Itinatampok ng hakbang na ito ang mas malawak na paligsahan ng mga laboratoryo sa iba’t ibang panig ng mundo na gawing malawak na magagamit at mas mura ang makapangyarihang mga modelo. Masigasig na itinutulak ng mga kumpanyang Chinese ang open source AI upang lumawak ang paggamit nito at makahabol sa kakayahan ng mga karibal sa Kanluran. Ayon sa Alibaba, naging isa ang Qwen ecosystem sa pinakamalalaking open source na komunidad para sa mga developer. Nagpakita rin ang grupo ng preview ng Qwen3-Max, isang modelong may mahigit 1 trilyong parameter na kamakailan ay pumuwesto sa ikaanim sa chatbot leaderboard ng LMArena na pinamamahalaan ng mga mananaliksik. Bukod sa Alibaba, naglalabas din ng mga mapagkumpitensiyang modelo at serbisyo ang mga kumpanyang gaya ng DeepSeek at Meituan.

Mahalaga ang mas mura at mas mabilis na base model dahil kapos at magastos ang compute. Nagdaragdag ng pressure sa China ang mga limitasyon sa pag-export ng mga advanced chip, at maging sa Estados Unidos at Europa ay kapos din sa GPU ang maraming pangkat. Nagbibigay-daan ang mga arkitekturang pinananatiling hindi aktibo ang karamihan sa mga parameter habang ginagamit ang modelo para mapatakbo ng mas maliliit na laboratoryo, startup, at unibersidad ang de-kalidad na mga modelo sa katamtamang server. Sinusubaybayan ito ng mga mamumuhunan. Mas mahusay ang naging takbo ng stock ng Alibaba ngayong taon habang muling itinutuon ng kumpanya ang pansin sa cloud at AI. Lalawak ang mga epekto nito sa kompetisyon habang dumarami ang organisasyong gumagamit ng open source AI sa pang-araw-araw na gawain.

Mga benchmark, transparency, at maingat na pagsusuri

Kapaki-pakinabang ang mga leaderboard ng modelo, ngunit maaaring hindi nito ipakita ang mga kapalit na kailangang tanggapin. Nag-iiba ang mga bilang ng bilis ayon sa batch size, framework, quantization, at hardware. Nag-iiba rin ang katumpakan ayon sa larangan, estilo ng prompt, at kung may mga tool gaya ng code interpreter o retrieval. Sarili ring hanay ng pagsubok ang pinipili ng mga vendor. Karaniwang nagbibigay ng mas kumpletong larawan ng mga kalakasan at kakulangan ang malayang pagsusuri ng mga grupo sa komunidad at ng mga customer.

Dapat higit pa sa iskor sa iisang benchmark ang suriin ng mga pangkat na sumusubok sa Qwen3-Next. Sukatin ang katumpakan sa mahabang context, paggamit ng tool, pagiging maaasahan sa matematika at code, at pag-uugali ng modelo sa ilalim ng mga limitasyong pangkaligtasan. Subaybayan ang paggamit ng memory at throughput sa mga haba ng context na mahalaga sa inyo. Kung nakasalalay ang aplikasyon ninyo sa mga sagot na nakabatay sa ebidensiya, ipares ang modelo sa retrieval at suriin ang mga bakas ng ebidensiya. Kung kailangan ninyo ng pare-parehong chain of thought, ihambing ang Thinking variant sa kasalukuyan ninyong stack.

Mga gamit at sektor na posibleng makinabang

Mukhang ginawa ang Qwen3-Next para sa mga aplikasyon na nangangailangan ng mahabang context, mabilis na sagot, at mahigpit na pagkontrol sa gastos. Maaaring magsuri ang mga pangkat sa batas at pananalapi ng malalaking koleksiyon ng dokumento at gumawa ng mga buod na angkop sa pangangailangan habang pinananatili ang mga pagsipi. Maaaring pagsamahin ng mga namumuno sa customer support ang mga knowledge base at mahahabang gabay sa pag-troubleshoot sa iisang assistant na nakapapangatuwiran batay sa libo-libong pahina. Maaaring magbigay ang mga software team ng mga repository at log upang tumulong sa pagsusuri at pag-aayos ng code, gayundin sa pagbuo ng mga test.

Maaaring mag-upload ang mga mananaliksik ng mahahabang papel at dataset upang paghambingin ang mga pamamaraan at resulta. Maaaring mag-transcribe at magsalin ng audio ang mga tagapaghatid ng media at edukasyon gamit ang Qwen3-ASR-Flash, saka gamitin ang language model sa paggawa ng mga gabay sa pag-aaral o balangkas ng nilalaman. Makikinabang ang mga pamahalaan at industriyang may mahigpit na regulasyon na nangangailangan ng deployment sa sariling lugar dahil kayang patakbuhin ang isang may kakayahang modelo sa mga consumer-grade server, basta may maingat na pagsubaybay, audit log, at mga filter sa nilalaman.

Ang Pangunahing Punto

• Inilabas ng Alibaba ang Qwen3-Next at ginawang open source ang pamilya ng Qwen3-Next-80B-A3B.
• Gumamit ang pagsasanay ng wala pang 10 porsiyento ng compute na kinailangan ng Qwen3-32B, habang napantayan o nahigitan ito sa mga pagsubok.
• Humigit-kumulang 3 bilyon lamang sa 80 bilyong parameter ang aktibo sa bawat token dahil sa sparse Mixture of Experts.
• Mahigit 10 ulit ang pagtaas sa throughput para sa mga prompt na lampas 32,000 token, na may context window na 256,000 token.
• Sa ilang setting, maaari itong palawakin sa 1 milyong token; iniulat din ang pagbilis ng prefill at decode sa mas maiikling context.
• Saklaw ng dalawang modelong sinanay matapos buuin ang base model ang pagsunod sa tagubilin at masalimuot na pangangatwiran, at ipinakita sa mga pagsubok ng kumpanya na nahigitan ng mga ito ang ilang saradong karibal.
• Makukuha ang mga modelo sa Hugging Face, ModelScope, Alibaba Cloud Model Studio, at NVIDIA API Catalog.
• Pinapalawak ng open source access at mas mababang pangangailangan sa hardware ang paggamit nito sa mga startup, negosyo, at pangkat ng pananaliksik.