Hinahamon ng mga Qwen3.5 Medium Model ng Alibaba ang Paghahari ng Kanluran sa AI sa Pamamagitan ng Arkitekturang Panglokal na Pagpapatakbo

11 min. na pagbasa
Hinahamon ng mga Qwen3.5 Medium Model ng Alibaba ang Paghahari ng Kanluran sa AI sa Pamamagitan ng Arkitekturang Panglokal na Pagpapatakbo

Dumarating ang Frontier AI Performance sa Consumer Hardware

Naglabas ang pangkat sa pagbuo ng Qwen AI ng Alibaba ng bagong serye ng malalaking language model na tuwirang kumukuwestiyon sa palagay na kailangan ng cloud-scale infrastructure o proprietary API para makamit ang makabagong artificial intelligence. Ipinakilala ilang araw pa lamang ang nakalipas, tampok sa seryeng Qwen3.5 Medium Model ang apat na bagong modelong idinisenyo para tumakbo nang mahusay sa lokal na hardware, at sinasabing kapantay ng pagganap ng mga nangungunang alternatibong Kanluranin.

Mga Nilalaman
  1. Dumarating ang Frontier AI Performance sa Consumer Hardware
  2. Pinahihintulutan ng Inobasyon sa Arkitektura ang Lokal na Pagpapatakbo
  3. Pagsusuri sa mga Benchmark: Sinisiyasat ng mga Independent na Pagsubok ang mga Pahayag sa Pagganap
  4. Thinking Mode at Integrasyon ng mga Tool
  5. Epekto sa Soberanya ng Datos ng mga Negosyo
  6. Hamon ng Mas Malawak na Ekosistema ng AI ng Tsina
  7. Pagpoposisyon sa Merkado at Direksiyon sa Hinaharap
  8. Mahahalagang Punto

Inilabas ang tatlo sa apat na modelo sa ilalim ng maluwag na lisensiyang Apache 2.0, kaya maaaring i-download, baguhin, at gamitin ng mga negosyo at independent developer ang mga ito sa komersiyal na paraan nang walang bayad sa lisensiya. Kabilang sa tatlong open-source na modelo ang Qwen3.5-35B-A3B, Qwen3.5-122B-A10B, at Qwen3.5-27B; agad na mada-download ang mga ito sa Hugging Face at ModelScope. Proprietary pa rin ang ikaapat na bersiyon na Qwen3.5-Flash at eksklusibo itong magagamit sa pamamagitan ng Alibaba Cloud Model Studio API, bagaman mas mababa nang malaki ang presyo nito kaysa sa karamihan ng mga katunggaling Kanluranin.

Patalastas

Pagganap sa mga benchmark ang pinakamatingkad na pahayag ng Alibaba. Ayon sa kumpanya, nahihigitan ng flagship na Qwen3.5-35B-A3B ang GPT-5-mini ng OpenAI at Claude Sonnet 4.5 ng Anthropic sa mga pagsusuri ng third party tungkol sa pagkuha ng kaalaman at pangangatwirang biswal. Limang buwan pa lamang ang nakalilipas nang ilunsad ang Claude Sonnet 4.5, kaya kapansin-pansin ang mabilis na pagliit ng agwat sa kompetisyon sa industriyang karaniwang tumatagal ng ilang quarter o taon ang siklo ng pagbuo.

Pinahihintulutan ng Inobasyon sa Arkitektura ang Lokal na Pagpapatakbo

Ang pinagkaiba ng Qwen3.5 sa mga naunang henerasyon ay ang hybrid architecture nito, na pinagsasama ang Gated Delta Networks at isang sparse Mixture-of-Experts system. Para sa mga hindi teknikal na mambabasa, malaking pagbabago ito sa paraan ng pagproseso ng impormasyon ng mga AI model. Ina-activate ng mga tradisyonal na dense model ang lahat ng parameter sa bawat tanong, kaya napakalaki ng nagagamit na computational resources. Sa halip, gumagana ang MoE approach na parang pagkonsulta sa mga espesyalista: ipinadadala nito ang bawat tanong sa bahaging may pinakanauugnay na kaalaman ng modelo.

Ipinakikita ng mga teknikal na detalye ang mga pakinabang sa kahusayan. Bagaman may kabuuang 35 bilyong parameter ang Qwen3.5-35B-A3B, 3 bilyon lamang ang ina-activate nito para sa bawat token. Gumagamit ang arkitektura ng 256 na expert module, kung saan 8 routed expert at 1 shared expert ang tumutugon sa mga partikular na aspeto ng bawat tanong. Malaki ang ibinababa ng piling pag-activate na ito sa latency ng inference habang napapanatili ang kalidad ng output. Dahil dito, nakakamit ng modelo ang tinatawag ng Alibaba na halos walang bawas sa katumpakan kahit kino-compress ito sa 4-bit weights sa pamamagitan ng quantization.

Patalastas

Rebolusyonaryo ang praktikal na epekto ng katatagan nito sa quantization pagdating sa kakayahang umangkop sa pag-deploy. Malaki ang ibinababa ng compression para sa lokal na pagpapatakbo sa pagganap ng karamihan sa mga AI model. Dahil matatag ang Qwen3.5 kahit naka-compress, kayang magproseso ng mahigit 1 milyong token na context window ang flagship model sa mga consumer-grade GPU na may 32GB VRAM lamang. Bagaman nangangailangan ito ng high-end na consumer hardware, higit pa rin itong abot-kaya kaysa sa mga server farm na karaniwang kailangan para makamit ng mga katunggaling modelo ang kaparehong pagganap.

Pagsusuri sa mga Benchmark: Sinisiyasat ng mga Independent na Pagsubok ang mga Pahayag sa Pagganap

Bahagi lamang ng kuwento ang mga pahayag ng Alibaba tungkol sa mga benchmark. Bagaman ipinakikita ng mga pagsusuring itinaguyod ng kumpanya na nauungusan ng Qwen3.5-35B-A3B ang GPT-5-mini at Claude Sonnet 4.5 sa mga sukatan gaya ng MMMLU (kaalamang multilingguwal) at MMMU-Pro (pangangatwirang biswal), mas masalimuot ang larawan ng kompetisyon sa mga independent na pagsubok.

Sa kamakailang independent na SWE-rebench testing, na sumusukat sa mga modelo batay sa aktuwal na pag-aayos ng bug sa mga pull request sa GitHub sa halip na mga sintetikong benchmark, pinakamataas ang pass rate ng Claude Sonnet 4.5 sa 55.1%. Natatanging nalutas ng modelo ng Anthropic ang ilang komplikadong kaso na hindi kayang lutasin ng iba pang sinubok na modelo, kabilang ang mga isyu sa mga repositoryong python-trio, cubed-dev, at canopen. Malinaw na nanguna ang Sonnet 4.5 sa ganitong coding environment sa totoong mundo.

Patalastas

Nagpakita pa ng mas masalimuot na larawan ng pagganap ng Qwen3.5 ang karagdagang independent na pagsubok sa APEX benchmark, na isinagawa sa 70 gawaing gumagamit ng mga aktuwal na codebase na may totoong problema. Kagalang-galang ang naging resulta ng dense model na 27B para sa pagpapatakbo sa iisang GPU: nakakuha ito ng 1384 ELO at nahigitan ang DeepSeek V3.2. Gayunman, kapansin-pansing humina ang mas malalaking bersiyon sa komplikadong mga gawaing nangangailangan ng koordinasyon sa maraming file. Bumaba sa 1256 ELO ang 35B MoE variant na 3B lamang ang aktibong parameter sa mga agentic workload, kaya mas mahina ito kaysa sa mas maliit na 27B variant sa pangangatwirang binubuo ng maraming hakbang. Pinakamatingkad ang paghina ng napakalaking Qwen3.5-397B sa mga gawaing master-difficulty: bumagsak ito mula sa humigit-kumulang 1550 ELO sa mahihirap na gawain tungo sa 1194 kapag kinailangang magkoordina sa maraming file sa loob ng mahahabang sunod-sunod na pangangatwiran.

Kapag kailangan nitong magkoordina sa maraming file sa maraming hakbang, nalilimutan nito ang ginagawa nito.

Ipinahihiwatig ng independent na pagsusuring ito, na inilathala ng isang mananaliksik na sariling gumastos ng mahigit $3,000 sa computing para sa mga pagsubok, na mahusay ang Qwen3.5 sa mga gawaing may malinaw na hangganan ngunit maaaring mahirapan sa masalimuot at pangmatagalang agentic na trabaho, na isa sa mga larangang partikular na malakas ang Claude Sonnet 4.5.

Thinking Mode at Integrasyon ng mga Tool

May built-in na Thinking Mode ang lahat ng modelo ng Qwen3.5 na naka-on bilang default, na sumasalamin sa paglipat tungo sa interaksiyong inuuna ang pangangatwiran. Bago gumawa ng pinal na sagot, bumubuo ang mga modelo ng mga internal na sunod-sunod na pangangatwiran na nililimitahan ng mga partikular na tag. Tahasan nilang sinusuri ang komplikadong lohika sa halip na dumiretso agad sa konklusyon. Kahawig ito ng mga metodolohiyang chain-of-thought na nagpahusay sa katumpakan ng iba pang frontier model.

Patalastas

Binigyang-diin din ng serye ang mga agentic capability nito. May built-in itong suporta sa pagtawag ng tool para makipag-ugnayan ang mga modelo sa mga panlabas na sistema, maghanap sa web, at magpatakbo ng code. May detalyadong pagpepresyo ang Qwen3.5-Flash API para sa mga kakayahang ito: $10 kada 1,000 tawag ang web search, habang pansamantalang walang bayad ang access sa code interpreter. Dahil sa istruktura ng pagpepresyong ito, kabilang ang Flash sa mga pinakamurang hosted LLM option sa buong mundo: $0.10 kada isang milyong input token at $0.40 kada isang milyong output token.

Bilang paghahambing, nagkakahalaga ang Claude Sonnet 4.5 ng $3.00 kada isang milyong input token at $15.00 kada isang milyong output token, samantalang $1.75 at $14.00 naman ang presyo ng GPT-5.2. Kahit ang mga alternatibong nakatuon sa lokal na paggamit, gaya ng GLM-5 ng Z.ai, ay nagkakahalaga ng $1.00 at $3.20 kada isang milyong token. Maaaring mahikayat ng agwat sa presyong 30 hanggang 100 beses na mas mababa ang malawakang paggamit nito ng mga negosyong maingat sa gastos at handang ipagpalit ang bahagyang pagkakaiba sa pagganap kapalit ng malaking pagtitipid.

Epekto sa Soberanya ng Datos ng mga Negosyo

Higit pa sa mga sukatan ng pagganap, may estratehikong kahalagahan ang paglabas ng Qwen3.5 para sa paggamit ng AI ng mga negosyo. Natutugunan ng kakayahang magpatakbo ng mga modelong may frontier-level na kakayahan sa loob mismo ng pribadong imprastraktura ang lumalaking pangamba tungkol sa soberanya ng datos at mga panganib ng third-party API. Lalong nahaharap ang mga organisasyon sa mga industriyang saklaw ng regulasyon, kabilang ang pananalapi, pangangalagang pangkalusugan, at mga kontrata ng pamahalaan, sa mga rekisito sa pagsunod na nagbabawal sa pagpapadala ng sensitibong datos sa panlabas na cloud AI service.

Dahil nagbibigay-daan ito sa paggamit ng context window na isang milyong token sa hardware na kontrolado ng organisasyon, napoproseso ng Qwen3.5 ang malalaking imbakan ng dokumento, oras-oras na bidyo, at malawak na hanay ng datos ng institusyon nang hindi inilalantad sa mga panlabas na API ang impormasyong pagmamay-ari ng organisasyon. Inihihiwalay ng pagbabagong ito sa arkitektura ang mga sopistikadong kakayahan ng AI sa napakalaking kapital na karaniwang kailangan, kaya posibleng mapalawak ang akses sa mga tool na dati'y para lamang sa mga kumpanyang teknolohiyang may malaking pondo.

Patalastas

Sa pamamagitan naman ng open-source licensing, maaari ring i-customize at i-fine-tune ang mga modelo para sa mga partikular na larangan. Di-gaya ng mga proprietary model na nagbibigay lamang ng access sa black-box API, pinahihintulutan ng open weights ng Qwen3.5 ang mga organisasyon na iangkop ang mga modelo sa mga espesyalisadong bokabularyo, panloob na knowledge base, at natatanging pangangailangan sa workflow. Lalo itong mahalaga sa mga industriyang may espesyalisadong terminolohiya o rekisito sa dokumentasyong pangregulasyon.

Hamon ng Mas Malawak na Ekosistema ng AI ng Tsina

Dumating ang Qwen3.5 kasabay ng pagdami ng mga open-source na modelong inilalabas ng mga laboratoryo ng AI sa Tsina, na sama-samang kumukuwestiyon sa pangingibabaw ng Kanluran sa teknolohiya. Nag-aalok ang pamilya ng GLM-4.5 ng Z.ai, na inilabas sa ilalim ng katulad na lisensiyang Apache 2.0, ng maihahambing na pagganap at mga espesyal na tampok gaya ng awtomatikong paggawa ng PowerPoint. Kabilang din sa ekosistemang nag-aalok ng mga praktikal na alternatibo sa mga saradong sistemang Amerikano ang Kimi K2 ng Moonshot at iba't ibang open model ng DeepSeek.

Pinatitingkad ng kalakarang ito ang hamong kinakaharap ng mga nangungunang AI company sa Kanluran. Binatikos ang pamilya ng Llama 4 ng Meta matapos itong ilunsad; binanggit ng ilang mananaliksik sa AI ang posibleng manipulasyon sa mga benchmark at hindi pare-parehong pagganap sa totoong paggamit. Ipinagpaliban naman ng OpenAI, na nanguna sa makabagong panahon ng LLM, ang planong paglabas nito ng frontier model na open-source mula Hulyo tungo sa hindi pa tinutukoy na petsa, kaya nagkaroon ng pagkakataon ang mga alternatibong Tsino na makilala ng mga developer.

Hindi lamang teknikal na detalye ang nakataya sa kompetisyon; kabilang din dito ang pamamahala ng datos. Kailangang isaalang-alang ng mga negosyong Kanluranin na gagamit ng mga modelong binuo sa Tsina ang posibleng mga paghihigpit sa nilalaman at mga usapin ng soberanya ng datos, lalo na kung gagamit sila ng cloud-hosted API sa halip na lokal na pagpapatakbo. Gayunman, pinahihintulutan ng open-source na katangian ng mga pangunahing bersiyon ng Qwen3.5 ang pagpapatakbong walang koneksiyon sa panlabas na network, na nakababawas sa marami sa mga alalahaning ito.

Patalastas

Pagpoposisyon sa Merkado at Direksiyon sa Hinaharap

Binigyang-diin ng estratehiya ng Alibaba sa paglabas ng mga modelo ang aksesibilidad sa iba't ibang antas ng hardware. Para sa mahusay na pagpapatakbo, nakatuon ang Qwen3.5-27B at sinusuportahan nito ang mahigit 800K token na context. Samantala, nangangailangan ang bersiyong 122B-A10B ng server-grade GPU na may 80GB VRAM para makamit ang pinakamahusay na pagganap. Dahil sa ganitong pagpili ng mga antas, maitutugma ng mga organisasyon ang modelo sa imprastraktura nilang mayroon na sa halip na pilitin silang umasa palagi sa cloud.

Ginawang open-source din ng kumpanya ang base model kasama ng mga bersiyong fine-tuned para sa pagsunod sa mga tagubilin, bilang suporta sa pangangailangan ng komunidad ng pananaliksik sa fine-tuning at pag-aaral sa arkitektura. Kabaligtaran ito ng saradong proseso ng pagbuo ng ilang katunggaling Kanluranin, at maaaring pabilisin ang inobasyon sa pamamagitan ng sama-samang pagpapahusay.

Batay sa mga unang reaksiyon ng komunidad sa Hugging Face, partikular na ikinatutuwa ng mga gumagamit ang agentic capability at katatagan ng mga modelo sa quantization. Iniulat ng mga developer na matagumpay nilang napapatakbo ang mga ito sa consumer hardware na dati'y itinuturing na kulang para sa pagganap ng frontier model. Pinatutunayan nito ang mga pahayag ng Alibaba tungkol sa kahusayan, bagaman ipinakikita ng mga independent na benchmark na kailangan pa ring mag-ingat pagdating sa komplikadong mga gawaing coding.

Mahahalagang Punto

  • Inilabas ng Alibaba ang seryeng Qwen3.5 Medium na may apat na modelo; tatlo rito ay nasa ilalim ng open-source na lisensiyang Apache 2.0 at maaaring gamitin sa komersiyal na paraan
  • Sa bawat token, 3 bilyon lamang sa kabuuang 35 bilyong parameter ng flagship na Qwen3.5-35B-A3B ang ina-activate nito sa pamamagitan ng arkitekturang Mixture-of-Experts
  • Magkahalo ang resulta ng mga independent na benchmark: mahusay ang mga modelo sa pagsusulit sa kaalaman at pangangatwiran ngunit nahihirapan sa komplikadong coding task na may maraming file kumpara sa Claude Sonnet 4.5
  • Sinusuportahan ng mga modelo ang context window na mahigit 1 milyong token sa mga consumer GPU na may 32GB VRAM sa pamamagitan ng makabagong 4-bit quantization
  • Mas mura nang 30 hanggang 100 beses ang Qwen3.5-Flash API kaysa sa mga katunggaling Kanluranin: $0.10 kada isang milyong input token kumpara sa $3.00 ng Claude Sonnet 4.5
  • Bilang default, bumubuo ang native Thinking Mode ng mga internal na sunod-sunod na pangangatwiran bago maglabas ng pinal na sagot
  • Pinahihintulutan ng paggamit ng mga modelo sa loob ng negosyo ang ganap na kontrol sa datos para sa mga industriyang may regulasyon at kailangang magproseso ng AI sa sariling pasilidad
  • Bahagi ang paglabas nito ng mas malawak na bugso ng mga open-source na AI model mula sa Tsina, kabilang ang GLM-4.5 ng Z.ai at Kimi K2 ng Moonshot, na humahamon sa mga proprietary system ng Kanluran
Ibahagi ang artikulong ito

Baka magustuhan mo rin