Hinahamon ng Ultra-Sparse na AI sa Coding ng Alibaba ang Paghahari ng Silicon Valley

Hinahamon ng Ultra-Sparse na AI sa Coding ng Alibaba ang Paghahari ng Silicon Valley

Inilabas ng higanteng kompanyang pangteknolohiya ng China na Alibaba ang Qwen3-Coder-Next, isang open source na modelo para sa coding na kasinghusay ng mga proprietary system mula sa OpenAI at Anthropic habang maliit na bahagi lamang ng computational resources ang kailangan nito. Sa 80 bilyong parameter ng modelo, 3 bilyon lamang ang ina-activate sa bawat forward pass sa pamamagitan ng ultra-sparse nitong Mixture-of-Experts architecture. Dahil dito, nakapagpapatakbo ang mga developer ng sopistikadong coding agent sa lokal na hardware nang hindi kinakailangang tiisin ang karaniwang latency at gastos na kaugnay ng malalaking language model. Nagpapahiwatig ang paraang ito ng pundamental na pagbabago sa ekonomiya ng AI engineering, at ipinakikita nitong hindi laging kailangan ng napakalaking computational footprint para sa sopistikadong kakayahan sa pangangatwiran.

Dumating ang paglalabas nito sa gitna ng napakabilis na pagbabago sa merkado ng AI coding assistant. Kamakailan ay naglabas ang Anthropic ng mga pagpapahusay sa efficiency ng Claude Code, inilunsad naman ng OpenAI ang Codex application, at mabilis na tinanggap ng komunidad ang mga open source framework gaya ng OpenClaw. Naiiba ang pagpasok ng Alibaba dahil sa pagsasama ng maluwag na open source licensing sa ilalim ng Apache 2.0 at mga inobasyon sa arkitektura na kumukuwestiyon sa palagay na laging mas mahusay ang mas malalaking modelo. Makukuha ang mga timbang ng modelo sa Hugging Face sa iba't ibang variant, kabilang ang mga format na FP8 at GGUF para sa magkakaibang deployment, kasama ang teknikal na ulat tungkol sa pamamaraan ng pagsasanay at mga desisyon sa arkitektura.

Pinagtibay ng mga independiyenteng benchmark ang mga pahayag ng Alibaba tungkol sa efficiency. Sa mga pagsubok sa iba't ibang configuration ng hardware, umabot ang Qwen3-Coder-Next sa 172 token kada segundo habang nakakuha ng 9.9 sa 10 sa kalidad ng mga gawain sa coding. Ipinakikita ng resultang ito na hindi na kailangang mamili ng mga developer sa pagitan ng bilis at katumpakan sa pagpili ng mga lokal na tool para sa development. Sinusuportahan ng modelo ang 370 programming language, malaking paglawak mula sa 92 wikang sinusuportahan ng mga naunang bersyon. Mayroon din itong likas na context window na 256,000 token na mapalalawak hanggang isang milyong token sa pamamagitan ng mga extrapolation technique.

Paano Nalalampasan ng Hybrid na Arkitektura ang Limitasyon sa Memorya

May kritikal na limitasyon ang mga tradisyonal na Transformer model na kilala bilang quadratic scaling problem. Habang lumalawak ang context window, nagiging labis ang computational cost ng mga karaniwang attention mechanism dahil tumataas nang quadratic ang gastos sa pagproseso kasabay ng haba ng sequence. Lumilikha ito ng limitasyon sa memorya na pumipigil sa mga modelo na mahusay na humawak ng malalaking codebase o mahahabang usapan. Tinutugunan ito ng Qwen3-Coder-Next sa pamamagitan ng hybrid na arkitekturang pinagsasama ang Gated DeltaNet at Gated Attention, kaya lubusang binabago ang paraan ng pagproseso ng mga language model sa impormasyon sa mahahabang context.

Alternatibo ang Gated DeltaNet sa karaniwang softmax attention na may linear complexity. Pinahihintulutan nito ang modelo na mapanatili ang state sa loob ng quarter-million-token window nito nang hindi dumaranas ng exponential na pagtaas ng latency na karaniwang dulot ng pangangatwirang sumasaklaw sa mahabang panahon. Kapag pinagsama sa ultra-sparse na MoE design, nagbibigay ang arkitekturang ito ng teoretikal na throughput na sampung beses na mas mataas kaysa sa mga dense model na may katulad na kabuuang kapasidad sa mga gawaing sumasaklaw sa antas ng repository. Mabisang mababasa ng isang agent ang buong Python library o komplikadong JavaScript framework at makasasagot ito sa bilis ng 3-bilyong-parameter na modelo habang taglay ang pag-unawa sa estruktura ng 80-bilyong-parameter na sistema.

Upang maiwasan ang pagbuo ng maling impormasyon tungkol sa context habang nagsasanay, gumamit ang pangkat ng mga developer ng Best-Fit Packing, isang estratehiyang nagpapanatili ng efficiency nang hindi nagdudulot ng mga error sa pagputol ng teksto na nakikita sa tradisyonal na paraan ng pagsasama-sama ng mga dokumento. Kabilang din sa arkitektura ang mga pagpapahusay sa stability, gaya ng zero-centered at weight-decayed na mga teknik sa layer normalization, upang matiyak ang matatag na performance sa mga yugto ng pre-training at post-training. Sinusuportahan din ng disenyo ang Multi-Token Prediction, na nagpapahusay sa performance sa pre-training at nagpapabilis sa inference sa pamamagitan ng sabayang paghula sa ilang susunod na token sa halip na hulaan ang mga ito nang sunud-sunod.

Pagsasanay na Inuuna ang mga Agent: Lampas sa mga Static na Pares ng Code

Noon, sinasanay ang mga coding model gamit ang mga pares ng static na teksto at code. Para itong pagsasanay na pagbabasa lamang, na naglilimita sa kakayahan ng mga ito na makipag-ugnayan sa mga dynamic na development environment. Tinalikuran ng Qwen3-Coder-Next ang nakaugaliang paraang ito sa pamamagitan ng malawakang pipeline ng agentic training na bumuo ng 800,000 nasusuring gawain sa coding mula sa mga sitwasyon sa totoong mundo. Hindi simpleng mga snippet ng code ang mga gawaing ito kundi mga aktuwal na sitwasyon ng pag-aayos ng bug na kinuha mula sa mga pull request sa GitHub at ipinares sa mga containerized environment na ganap na naipatutupad.

Ang imprastraktura sa pagsasanay, na tinatawag na MegaFlow, ay isang cloud-native na sistema para sa orchestration na binuo sa Kubernetes ng Alibaba Cloud. Dumaraan ang bawat agentic task sa tatlong yugtong workflow: agent rollout, pagsusuri, at post-processing. Sa yugto ng rollout, nakikipag-ugnayan ang modelo sa mga live na containerized environment at agad na nakatatanggap ng feedback kapag bumagsak sa unit test o nag-crash ang container dahil sa nabuong code. Dahil sa closed-loop na pagsasanay na ito, natututo ang sistema mula sa feedback ng environment sa pamamagitan ng mid-training reinforcement learning. Natututo itong bumawi sa mga pagkabigo at pinuhin ang mga solusyon nang real time, sa halip na basta isaulo ang mga tamang sagot.

Binigyang-diin sa proseso ng pagsasanay ang pag-unawa sa antas ng repository sa halip na pagsusuri sa magkakahiwalay na file. Pinalawak ng mid-training ang datos sa antas ng repository sa tinatayang 600 bilyong token, at napatunayang mas mabisa ito sa lohika ng dependency sa pagitan ng mga file kaysa sa mga dataset na naglalaman lamang ng datos sa antas ng file. Dahil dito, nauunawaan ng modelo ang komplikadong ugnayan ng iba't ibang bahagi ng codebase, isang mahalagang kakayahan sa paghawak ng malalaking proyekto sa software engineering. Gumagamit din ang sistema ng mga espesyalisadong Expert Model para sa mga partikular na larangan, kabilang ang Web Development at pag-optimize ng User Experience. Kalaunan ay isinama muli sa pangunahing modelo ang mga natutuhan ng mga ito upang mapanatili ang masalimuot na kaalaman sa magaan na bersyong maaaring i-deploy.

Mga Resulta sa Benchmark na Kawangis ng mga Saradong Modelo

Sa SWE-Bench Verified, ang kinikilalang benchmark sa pagsusuri ng kakayahan ng mga AI model na lutasin ang mga tunay na problema sa software, nakakuha ang Qwen3-Coder-Next ng 70.6%. Mas mataas ito kaysa sa 70.2% ng DeepSeek-V3.2 at hindi kalayuan sa 74.2% ng GLM-4.7. Kapansin-pansin ang mga resultang ito dahil 3 bilyon lamang ang aktibong parameter ng modelo ng Alibaba, kumpara sa mas malaking bilang ng aktibong parameter ng mga kalabang sistema. Sa mas mahirap na benchmark na SWE-Bench Pro, nagpakita ang modelo ng partikular na kahusayan sa pangmatagalang pangangatwiran sa mga multiturn agent task.

Hindi lamang sa pagbuo ng gumaganang code nasusukat ang kakayahan ng modelo; kaya rin nito ang development na isinasaalang-alang ang seguridad. Sa SecCodeBench, na sumusukat sa kakayahan ng modelo na mag-ayos ng mga kahinaan, nahigitan ng Qwen3-Coder-Next ang Claude-Opus-4.5 sa mga sitwasyon ng pagbuo ng code, na nakakuha ng 61.2% kumpara sa 52.5%. Kapansin-pansin na nanatiling mataas ang mga marka nito kahit walang ibinigay na mga pahiwatig tungkol sa seguridad, na nagpapahiwatig na nagkintal sa modelo ng likas na kamalayan sa mga karaniwang panganib sa seguridad ang 800,000-gawaing yugto ng agentic training. Sa mga pagsusuri sa seguridad sa maraming wika, nagpakita ang modelo ng mahusay na balanse sa pagitan ng pagbuo ng gumagana at ligtas na code. Nahigitan nito ang DeepSeek-V3.2 at GLM-4.7 sa benchmark na CWEval, na may func-sec@1 na markang 56.32%.

Higit pa sa mga benchmark na partikular sa coding, mahusay din ang pangkalahatang kakayahan sa pangangatwiran ng pinagbabatayang arkitekturang Qwen3-Next. Nahihigitan ng thinking variant ng batayang modelo ang mga katunggali sa mga komplikadong gawaing pangangatwiran, kabilang ang matematika at lohikal na pangangatwirang batay sa sentido komun. Sa mga pagsusuri ng kakayahang agentic gaya ng BFCL-v3 at mga benchmark ng TAU, mahusay ang modelo sa paggamit ng mga tool at awtonomong pagsasagawa ng gawain, na kapantay o mas mahusay kaysa sa mas malalaking proprietary na alternatibo.

Mga Kakayahan at Kontrobersiya sa Seguridad

Bagaman itinatampok ng mga marka sa benchmark ang kakayahan ng modelo na bumuo ng ligtas na code, nagpahayag ng pangamba ang ilang eksperto sa cybersecurity tungkol sa mga panganib ng paggamit ng mga AI coding tool na binuo sa ilalim ng pambansang balangkas ng seguridad ng China. Nagbabala si Jurgita Lapienyė, punong patnugot sa Cybernews, na maaaring malawakang gumamit ang mga developer sa Kanluran ng mga tool na ito nang hindi namamalayan na maaari silang magpasok ng mga nakatagong kahinaan sa komplikadong codebase.

Maaaring hindi namamalayan ng mga developer na patungo sila sa hinaharap kung saan naitatayo ang mga pangunahing sistema gamit ang code na may mga kahinaan.

Sa ilalim ng National Intelligence Law ng China, kailangang makipagtulungan ang mga kompanyang gaya ng Alibaba sa mga kahilingan ng pamahalaan na may kaugnayan sa datos at mga AI model. Maaari itong humantong sa mga sitwasyong may mga kahinaang sadyang ikinubli sa nabuong code. Nakatuon ang mga pangambang ito sa mga paraan ng pag-atake sa supply chain na kahawig ng insidente sa SolarWinds, kung saan naganap ang pangmatagalang pagpasok sa sistema sa pamamagitan ng mga pinagkakatiwalaang update ng software. Ayon sa mga kritiko, maaaring magamit muli sa ibang layunin ang mga awtonomong coding agent na kayang magsuri ng buong codebase at gumawa ng mga pagbabago nang mag-isa upang unawain ang mga depensa ng sistema at lumikha ng mga iniangkop na pagsasamantala sa kahinaan. Hindi lantad na bug ang panganib kundi maliliit at mahirap matukoy na isyung maaaring mapagkamalang di-nakapipinsalang desisyon sa disenyo at makalusot sa karaniwang pagsusuri ng code.

Itinuturo ng mga tagapagtanggol sa open source na ganap na nasisiyasat ang mga timbang ng modelo sa ilalim ng lisensiyang Apache 2.0, kaya maaaring suriin ng mga organisasyon ang sistema bago ito i-deploy. Gayunman, giit ng mga mananaliksik sa seguridad na nananatiling malabo ang imprastraktura sa backend, mga sistema ng telemetry, at mga paraan ng pagsubaybay sa paggamit kahit pampubliko ang mga timbang ng modelo.

Ang Qwen Code Ecosystem at Pagsasama sa mga Tool ng Developer

Kasabay ng paglalabas ng modelo, ginawa ring open source ng Alibaba ang Qwen Code, isang command-line interface tool na nagmula sa Gemini Code at iniangkop para sa mga agentic coding workflow. Pinahihintulutan ng tool na ito ang mga developer na magtalaga ng mga gawaing pang-engineering sa AI gamit ang mga tagubilin sa natural na wika. Mayroon itong mga iniangkop na prompt at protocol ng pakikipag-ugnayan na idinisenyo upang lubos na mapakinabangan ang Qwen3-Coder-Next. Sumasama ang CLI sa mga sikat na development environment, kabilang ang mga extension ng VS Code, at maayos na gumagana kasama ng mga kasalukuyang tool ng komunidad gaya ng Cline at mga interface ng Claude Code.

Sinusuportahan ng modelo ang bagong XML-style na format ng pagtawag sa tool na partikular na idinisenyo para sa mga argumentong maraming string. Dahil dito, nakapaglalabas ito ng mahahabang snippet ng code nang walang dagdag na hirap sa nested quoting at escaping na karaniwan sa JSON-based na pagtawag sa function. Mahalaga ang teknikal na detalyeng ito sa praktikal na deployment dahil binabawasan nito ang paggamit ng token at ang komplikasyon sa pag-parse kapag bumubuo ang modelo ng malalaking bloke ng code o nakikipag-ugnayan sa mga panlabas na tool para sa development. Gumagamit din ang sistema ng bagong tokenizer na nananatiling tugma sa mas malawak na pamilya ng Qwen3. Kailangang i-update ng mga developer ang kanilang mga pipeline sa tokenization kapag lumilipat mula sa mga naunang bersyon.

Mabilis na lumawak ang mga opsiyon sa cloud deployment. Sinusuportahan na ngayon ng GroqCloud ang mga modelo ng Qwen3 na may ganap na access sa context window, sa halagang $0.29 kada milyong input token at $0.59 kada milyong output token, habang lumalampas sa 535 token kada segundo ang bilis ng inference. Nagbibigay naman ang sariling Model Studio platform ng Alibaba ng API access sa mababang halaga. Iniulat ng kompanya na lumampas na sa 20 milyon sa buong mundo ang pinagsama-samang bilang ng mga download ng mga coding model na batay sa Qwen. Malapit nang i-upgrade ang Tongyi Lingma, ang plugin ng Alibaba para sa integrated development environment, upang maisama ang pinahusay na agentic na kakayahan ng Qwen3-Coder. Maaari nitong maipakilala ang bagong kakayahan sa milyun-milyong kasalukuyang gumagamit.

Pandaigdigang Kompetisyon at mga Usapin sa Soberanong AI

Lalong pinatindi ng paglabas ng modelo ang kompetisyon sa pandaigdigang merkado ng AI coding assistant, kung saan higit na hinahamon ng mga kompanyang Tsino ang pamamayani ng Amerika sa pamamagitan ng mga open source na estratehiya. Ayon sa Alibaba, kapantay ng flagship model nitong Qwen3-235B-A22B ang performance ng arkitekturang Qwen3-Next, samantalang bumaba sa ikasampu ng gastos ng nakaraang henerasyon ang gastos sa pagsasanay. Dahil sa pagtaas na ito ng efficiency, nagiging mas madaling maabot ang mga AI tool na may mataas na performance nang hindi nangangailangan ng malalaking pamumuhunan sa imprastraktura. Maaari nitong pabilisin ang paggamit ng mga ito sa mga umuunlad na merkado at ng mga independent developer.

Gayunman, nagiging komplikado ang paraan ng paggamit dahil sa mga tensiyong geopolitical. Napapansin ng mga analyst na lalong nagiging bihira ang paggamit ng mga banyagang AI model sa Estados Unidos at China dahil sa mga pangregulasyon, pagtitiwala, at pambansang seguridad. Ipinahihiwatig ng pag-usbong ng soberanong AI, kung saan mas pinipili ng mga bansa ang mga modelong sinusuportahan ng lokal na imprastraktura at serbisyo sa cloud, na higit na tatanggapin ang mga open source na modelo kapag naaayon ang mga ito sa pambansang polisiya at hangganan ng panganib para sa mga negosyo. Bagaman maaaring makatulong ang Qwen3-Coder-Next sa pagpapalawak ng Alibaba Cloud sa rehiyon ng Asia Pacific, malamang na limitahan ng mahigpit na regulasyon at mga pangamba sa seguridad ang paggamit nito sa Kanluran sa kabila ng mga teknikal na bentahe nito.

Binigyang-diin ni Lian Jye Su, punong analyst sa Omdia, ang pangangailangan para sa masusing pagsusuri sa seguridad anuman ang teknikal na performance.

Hindi ako magugulat kung maakit ang mga lider ng teknolohiya sa Kanluran sa mga open source na coding model gaya ng Qwen3-Coder dahil sa husay ng mga ito sa iba't ibang benchmark. Makatuwiran naman ang mga pangamba tungkol sa proteksiyon ng IP at seguridad ng datos, kaya hinihikayat ko ang mga lider ng teknolohiya sa US na masusing suriin ang lahat ng open source na modelo, anuman ang pinagmulan ng mga ito.

Ipinahihiwatig ng kompetisyon na maaaring hindi magmula sa sarado at proprietary na development ang pinakamahusay na coding assistant, kundi sa sama-samang pagpino ng mga bukas na arkitektura, basta't matiyak ang tiwala at beripikasyon sa seguridad.

Buod

• Nakakuha ang Qwen3-Coder-Next ng Alibaba ng 70.6% sa SWE-Bench Verified gamit lamang ang 3 bilyong aktibong parameter mula sa kabuuang 80 bilyon, kaya nakikipagsabayan ito sa mas malalaking proprietary na modelo.
• Pinahihintulutan ng hybrid na arkitekturang pinagsasama ang Gated DeltaNet at Gated Attention ang mga context window na 256,000 token, na mapalalawak hanggang isang milyong token, habang pinananatili ang linear na computational complexity.
• Lumilikha ang agentic training sa 800,000 nasusuring gawain sa totoong mundo sa pamamagitan ng imprastrakturang MegaFlow ng mga kakayahan sa closed-loop learning na higit pa sa pagsasaulo ng static na code.
• Kinukumpirma ng mga independiyenteng benchmark ang bilis na 172 token kada segundo sa consumer hardware, na nagpapakitang praktikal itong gamitin sa mga lokal na workflow para sa development.
• Ipinakikita ng mga pagsusuri sa seguridad na mas mahusay ito sa pag-aayos ng mga kahinaan kaysa sa Claude-Opus-4.5. Gayunman, nananatiling malalaking hadlang sa paggamit nito ng mga negosyo sa Kanluran ang mga usaping geopolitical tungkol sa soberanya ng datos at mga posibleng panganib sa supply chain.
• Pinahihintulutan ng lisensiyang Apache 2.0 ang komersiyal na paggamit at pagsusuri sa modelo. Makukuha ang mga timbang nito sa Hugging Face, kasama ang Qwen Code CLI tool para agad itong maisama sa mga tool ng developer.