Nagsimula ang Produksyon ng Vera Rubin ng Nvidia Habang Pinaiigting ng Demand sa HBM4 ang Karera sa Memory Chip

Pinabibilis ng linya ng pag-assemble ang produksyon habang tumitindi ang pangangailangan sa memory

Sinimulan na ng Nvidia ang buong produksyon ng Vera Rubin, ang plataporma nito para sa pag-compute ng artificial intelligence. Ayon kay chief executive Jensen Huang, maaari nang buuin ang isang server node sa wala pang limang minuto, kumpara sa dalawang oras para sa naunang Grace Blackwell. Nangangako ang pagbabagong ito ng mas mabilis na paggawa ng mga server, kasabay ng pagtaas ng demand para sa advanced memory na iniluluwas ng Samsung Electronics, SK hynix at Micron.

Ipinakita ni Huang ang Vera Rubin node sa GTC Berlin 2026. Inilarawan niya itong disenyong walang kable o alambre at gumagamit ng 100% liquid cooling. Liquid cooling ang ginamit sa 80% ng sistema ng Grace Blackwell, at mas marami ang kinailangang trabaho sa pag-assemble nito.

Mahigit 95.8% ang ibinaba ng oras ng pag-assemble, mula 120 minuto tungo sa wala pang lima. Para sa mga kumpanyang gumagawa ng maraming AI server, makatutulong ang pagpapasimple sa hakbang na ito upang mas mabilis na makalabas ng pabrika ang mga kagamitan. Bahagi pa rin ng mas malawak na iskedyul ng produksyon ang oras para gumawa ng chip, mag-assemble ng memory at mag-instala ng kumpletong sistema.

Naglalaban ang Samsung at SK hynix upang makuha ang demand para sa HBM4, ang ikaanim na henerasyon ng high bandwidth memory. Kwalipikado ring magsuplay ng memory para sa Vera Rubin ang Micron, kaya naglalaban ang tatlong pangunahing tagagawa ng HBM.

Kasabay nito, ipinakikilala na ng mga supplier ang HBM4E, ang susunod na henerasyon matapos ang HBM4. Ipinakikita ng mga anunsyo nila ang dalawang magkaugnay na hamon: nais ng Nvidia ng mga server na mas madaling buuin, habang kailangang makapaghatid ang mga tagagawa ng memory ng mas mataas na bilis at kapasidad sa kabila ng masalimuot na proseso ng produksyon. Lalo pang nagiging mahalaga ang maaasahang paghahatid ng chip dahil mas mabilis nang naia-assemble ang mga server.

Ano ang nagbabago sa loob ng Vera Rubin?

Ang server node ay isang bahagi ng mas malaking sistema ng pag-compute. Pinagdurugtong ng Nvidia ang mga yunit na ito upang makapagtulungan ang maraming processor sa mabibigat na gawaing AI, gaya ng pagsasanay ng modelo o pagsagot sa mga kahilingan ng maraming user.

Binabawasan ng mas payak na disenyo ng Vera Rubin ang trabahong kailangan sa pagkonekta ng mga piyesa. Sa paghahambing nito sa Grace Blackwell, binigyang-diin ni Huang ang pag-aalis ng mga kable at alambre sa node at ang paggamit ng liquid cooling sa buong sistema.

Inilalayo ng liquid cooling ang init sa mga piyesa sa pamamagitan ng umiikot na likido. Malaki ang init na nalilikha ng makapangyarihang AI processor, at nakatutulong ang pagpapanatili ng kontrol sa temperatura upang mapatakbo ang mga ito nang maaasahan sa matagalang mabibigat na trabaho. Ipinatutupad ng Vera Rubin ang paraang ito sa buong sistemang inilarawan ni Huang.

Sa anunsyo ng produksyon ng Nvidia, nagsisimula nang gawin ang disenyo sa mga pabrika. Nakadepende rin ang bilis ng paghahatid ng mga tapos na sistema sa mga customer sa pagkakaroon ng processor, memory, packaging at kagamitang pangpalamig.

Bakit mahalaga ang HBM4 sa performance ng AI

Inilalagay ng HBM ang ilang memory chip sa patung-patong na hanay sa tabi ng AI processor. Nagbibigay-daan ang maliliit na koneksiyong dumaraan sa silicon upang makapaglipat ng datos sa pagitan ng mga patong. Ikinokonekta ng isang pinagsasaluhang ibabaw ang hanay ng memory sa processor, kaya mabilis itong nakaa-access ng impormasyon.

Kailangan ng mga AI processor ang ganitong akses dahil nakasalalay sa tuluy-tuloy na suplay ng datos ang mga kalkulasyon. Maaaring maghintay ang isang makapangyarihang processor kung hindi sapat ang bilis ng paghahatid ng impormasyon ng memory nito. Inilalarawan ng bandwidth kung gaano karaming datos ang maililipat bawat segundo; ipinakikita naman ng kapasidad kung gaano karami ang kayang itago sa isang pagkakataon.

Pinalalapad ng HBM4 ang interface ng datos sa 2,048 bits, doble ng lapad ng naunang henerasyon. Iniulat ng Samsung na umaabot sa 2.8 terabytes bawat segundo ang bandwidth ng 12-patong na hanay nito, habang iniulat naman ng Micron na mahigit 2.8 terabytes bawat segundo ang bandwidth ng kasalukuyan nitong HBM4.

Mahalaga ang bilis at espasyo ng imbakan. Nangangailangan ang pagsasanay ng AI model ng paulit-ulit na kalkulasyon sa maraming datos. Nangangailangan din ng memory ang pagpapatakbo ng sinanay na modelo, na tinatawag na inference, upang maimbak ang modelo at ang impormasyon tungkol sa mga kahilingang pinoproseso.

Itinutulak ng Samsung ang bilis habang dinaragdagan ng SK hynix ang kapasidad

Pinagsasama ng HBM4 ng Samsung ang 1c DRAM manufacturing process ng ikaanim nitong henerasyon at base die na ginawa gamit ang 4 nanometer logic process. Ang base die ang control layer sa ilalim ng hanay ng memory. Iniulat ng Samsung na 11.7 gigabits bawat segundo ang data rate sa bawat pin, at umaabot ito sa 13 gigabits sa mga configuration na na-optimize.

Ipinaliwanag ni Hwang Sang-joon, pinuno ng memory development ng Samsung Electronics, ang pagpili nila ng proseso nang ianunsyo ng kumpanya ang unang komersiyal na pagpapadala nito:

Sa halip na tahakin ang karaniwang landas ng paggamit ng mga dati nang subok na disenyo, sumubok ang Samsung ng mas malaking pagbabago at gumamit ng mga pinaka-advanced na node, gaya ng 1c DRAM at 4nm logic process, para sa HBM4,

Iba ang paraang pinili ng SK hynix para sa ipinakita nitong HBM4: ginamit nito ang mas subok na 1b DRAM process at nagpatong-patong ng 16 na layer. May kapasidad itong 48 gigabytes, kumpara sa 36 gigabytes ng 12-patong na hanay ng Samsung.

Kaya 12 gigabytes na mas malaki ang kayang itago ng hanay ng SK hynix, o isang-katlong dagdag sa kapasidad. Makakatulong ang dagdag na espasyo upang mapanatili ng mga sistema ang mas maraming impormasyong ginagamit malapit sa processor. Nakatuon naman ang pamamaraan ng Samsung sa mas mabilis na paglilipat gamit ang mas bagong proseso ng paggawa.

Lalong mahalaga ang kapasidad sa mahahabang pag-uusap at masalimuot na gawain ng AI. Nagtatabi ang mga modelo ng impormasyon tungkol sa mga naunang bahagi ng kahilingan sa pansamantalang imbakan na tinatawag na key value cache. Habang dumarami ang mga user na nagpapadala ng mas mahahabang kahilingan, maaaring mapuno ng cache ang magagamit na memory at mapilitan ang sistema na ilipat ang impormasyon sa mas mabagal na imbakan.

Tinataya ni Ahn Hyeon, pinuno ng development ng SK hynix, na maaaring mga 20 ulit na mas malaki sa 2026 ang antas ng performance na kakailanganin ng imprastraktura ng AI pagsapit ng 2030. Bahagi ng kanyang pangangatwiran para sa mga bagong teknolohiya ng memory ang dumaraming impormasyong kailangang madaling maakses ng mga inference system.

Pinalalawak ng Micron ang kapasidad at nakakontrata na ang produksyon para sa 2027

Binuksan ng Micron ang ikalawang pasilidad nito para sa advanced na pag-assemble at pagsusuri ng HBM sa Taichung, Taiwan, noong kalagitnaan ng Oktubre 2026. Nagdaragdag ng kapasidad ang pabrika, na tinatawag na AATT2, para gawing mga tapos na hanay ang magkakahiwalay na memory chip.

Inilarawan ni Manish Bhatia, presidente at chief operating officer ng Micron, ang demand sa seremonya ng pagbubukas:

Naibenta na ang buong kapasidad na nakaplano para sa 2027,

Sinabi ni Micron chief executive Sanjay Mehrotra sa tawag tungkol sa kita ng kumpanya noong Hunyo na lumampas sa $1 bilyon ang pinagsama-samang benta ng HBM4 ilang buwan pa lamang matapos magsimula ang komersiyal na pagpapadala. Sinabi rin niya na dumodoble ang bilis ng pagpapalawak ng produksyon ng 12-patong na HBM4 kumpara sa katumbas na yugto ng pagpapalawak ng HBM3E.

Noong Hunyo, kinumpirma ni Huang ng Nvidia na kwalipikado na ang Samsung, SK hynix at Micron sa HBM4 at sinimulan na nila ang maramihang produksyon para sa Vera Rubin. Nangangahulugan ang kwalipikasyon ng customer na nakapasa ang produkto ng supplier sa mga pagsusuring kailangan upang magamit ito sa sistema ng customer.

Target ng Micron na umabot sa humigit-kumulang 100,000 wafer bawat buwan ang kabuuang kapasidad nito sa produksyon ng HBM pagsapit ng katapusan ng 2026. Lumampas sa NT$1.6 trilyon, o humigit-kumulang $50.2 bilyon, ang pinagsama-samang pamumuhunan nito sa Taiwan hanggang Hunyo.

Target na magsimula sa kalagitnaan ng 2027 ang buong pagpapadala ng mga produkto mula sa lugar ng Tongluo ng kumpanya sa Miaoli County. Bibiyahe nang mga 24 kilometro ang mga wafer mula roon patungong AATT2 para sa pag-assemble at pagsusuri, kaya magkakalapit ang dalawang yugto ng produksyon.

Maaaring makahadlang sa paghahatid ang packaging at paggawa

Higit pa sa paggawa ng gumaganang memory chip ang kailangan sa produksyon ng HBM. Kailangang payatin ng mga tagagawa ang silicon, gumawa rito ng eksaktong mga koneksiyon at pagdugtungin ang maraming patong. Maaaring mabawasan ang dami ng magagamit na tapos na hanay kapag may depekto sa mga hakbang na ito.

Dumarami ang koneksiyon at pagdudugtong na kailangang magtagumpay habang tumataas ang bilang ng mga patong. Kaya magkaiba ang hamon sa paggawa at mga detalye ng produkto sa pagpili ng Samsung ng mas bagong proseso at 12 patong, at sa paggamit naman ng SK hynix ng mas subok na proseso at 16 na patong.

Nagbibigay ang supplier ng kagamitan na Hanmi Semiconductor ng mga thermal compression bonding machine, na gumagamit ng maingat na kontroladong init at presyon upang pagdugtungin ang mga patong. Noong Hunyo, lumagda ang SK hynix sa kontratang nagkakahalaga ng 44.2 bilyong won, o humigit-kumulang $33 milyon, para sa pinahusay na kagamitang TC Bonder 4.5 Griffin sa pasilidad nito sa Cheongju. Nakatakdang ilabas sa merkado ng Hanmi ang susunod nitong Wide TC Bonder sa 2027.

May kawalang-katiyakan din sa usapin ng mga manggagawa ng Micron sa Taiwan. Iniulat ng unyon nito sa Taoyuan na 1,994 sa 2,012 karapat-dapat na miyembro ang nagbigay-pahintulot sa welga noong Oktubre 7, o humigit-kumulang 99% ng mga miyembrong kuwalipikado. Nakatakda naman sa Oktubre 22 ang pamamagitan na kinasasangkutan ng unyon sa Taichung. Dumalo si Pangulong Lai Ching-te ng Taiwan sa pagbubukas ng AATT2 at hinimok ang magkabilang panig na makipagnegosasyon nang tapat.

Dahil sa mga pangyayaring ito, nabibigyang-pansin ang mga tauhan gayundin ang kagamitan ng pabrika. Hakbang ito upang pahintulutan ang aksiyong pang-industriya; wala pang inanunsyong walkout o abalang maidudulot nito sa paghahatid.

Nahahasa na ang HBM4E

Ipinakita ng Samsung at SK hynix ang susunod nilang henerasyong teknolohiyang HBM4E sa SEDEX 2026, na ginanap mula Oktubre 14 hanggang 16 sa COEX sa Seoul. Ipinakita rin ng dalawa ang Vera Rubin Superchip ng Nvidia, na nagpapakita ng malapit na ugnayan ng kumpetisyon sa memory at ng plataporma ng Nvidia.

Gumagamit ang HBM4E ng Samsung ng 1c DRAM at base die na ginawa sa prosesong 4 nanometer. Iniulat ng kumpanya na umaabot sa 16 gigabits bawat segundo bawat pin ang bilis nito, at 3.6 terabytes bawat segundo ang bandwidth.

Kumpara sa iniulat na bandwidth na 2.8 terabytes bawat segundo ng HBM4 ng Samsung, humigit-kumulang 29% ang itinaas nito. May kapasidad na 48 gigabytes ang 12-patong na hanay ng HBM4E, isang-katlo na mas malaki kaysa sa 36 gigabytes ng HBM4 nito na may kaparehong bilang ng mga patong. Plano rin ng Samsung ang mga bersiyong may walong patong at 32 gigabytes, at 16 na patong at 64 gigabytes.

Ipinakita rin ng SK hynix ang HBM4E na may bilis na umaabot sa 16 gigabits bawat segundo bawat pin, at sinabi nitong tataas nang mahigit 20% ang episyensiya sa paggamit ng enerhiya kumpara sa HBM4. Nagbigay ang Samsung ng mga sample sa mga customer noong Mayo, habang nagbigay naman ang SK hynix noong Hunyo para masuri ang performance. Isinasaayos ng Samsung ang maramihang produksyon ayon sa mga iskedyul ng customer.

Sinisilip ng mga tagagawa ang mga opsiyon lampas sa memory sa tabi ng GPU

Nagpakita ang Samsung ng modelo ng zHBM, isang arkitekturang naglalagay ng memory nang patayo sa ibabaw ng computing chip sa halip na sa tabi nito. Maaaring mabawasan ng pagpapaikli sa pagitan ng dalawa ang oras at enerhiyang nauubos sa paglilipat ng datos.

Ipinakita ng SK hynix ang high bandwidth flash, o HBF, na inaasahan nitong magkakaroon ng humigit-kumulang 10 ulit na kapasidad kumpara sa kasalukuyang HBM. Magdaragdag ang iminumungkahing teknolohiyang ito ng antas sa pagitan ng mabilis na memory at imbakan, na tutulong sa mga AI system na mamahala ng mas maraming datos.

Ipinakita rin ng Samsung ang memory na kayang magsagawa ng ilang kalkulasyon sa loob mismo nito. Layunin ng paraang ito na bawasan kung gaano kadalas kailangang maglakbay ang datos patungo sa hiwalay na processor. Magkakaugnay na suliranin ang tinutugunan ng bawat mungkahi: nauubos ang oras at kuryente sa paglilipat ng impormasyon, kahit napakabilis ng mismong computing chip.

Nasa yugto pa ng pagbuo at paglilinang ang zHBM at HBF. Hindi pa napagpapasyahan ang mga petsa ng komersiyalisasyon at pagtanggap ng mga customer. Para sa kasalukuyang produksyon ng Vera Rubin, nananatiling agarang gawain ang paggawa at paghahatid ng HBM4.

Mga yugto ng produksyon na dapat bantayan

Nagsimula ang Nvidia sa buong produksyon matapos ang ilang buwang pagkwalipika sa memory, pagpapalawak ng mga pabrika at pagpapakita ng mga produktong panghinaharap. Ipinakikita ng mahahalagang yugto kung gaano na kalapit ang iskedyul ng mga processor at memory:

• Maagang bahagi ng 2026: Sinimulan ang maramihang produksyon ng HBM4 ng Micron.
• Mayo at Hunyo 2026: Nagbigay ang Samsung at SK hynix ng mga sample ng HBM4E sa mga customer.
• Hunyo 2026: Kinumpirma ni Huang na kwalipikado na at gumagawa para sa Vera Rubin ang tatlong pangunahing supplier ng HBM.
• Oktubre 7, 2026: Nagbigay-pahintulot sa aksiyong pang-industriya ang unyon ng Micron sa Taoyuan.
• Oktubre 14 hanggang 16, 2026: Ipinakita ng Samsung at SK hynix ang mga teknolohiya ng memory sa SEDEX sa Seoul.
• Kalagitnaan ng Oktubre 2026: Binuksan ng Micron ang pasilidad nitong AATT2 para sa packaging at pagsusuri sa Taichung.
• Oktubre 22, 2026: Nakatakda ang pamamagitan na kinasasangkutan ng unyon ng Micron sa Taichung.
• Kalagitnaan ng 2027: Target ng Micron ang buong pagpapadala ng produkto mula sa pinalawak nitong lugar sa Tongluo.

Maaaring makinabang ang Samsung at SK hynix sa dumaraming pangangailangan ng Vera Rubin sa memory, habang ipinakikita ng nakakontratang kapasidad ng Micron ang matinding kumpetisyon para sa makukuhang suplay. Kumpletong sistema ang kailangan ng mga customer, kaya dapat sabayan ng sapat na memory, maaasahang packaging at tuluy-tuloy na operasyon ng pabrika ang mabilis na pag-assemble ng mga node.

Mahahalagang Punto

• Ayon sa Nvidia, nasa buong produksyon na ang Vera Rubin, at wala pang limang minuto ang pag-assemble ng node kumpara sa dalawang oras dati.
• Gumagamit ang plataporma ng liquid cooling sa buong sistema at HBM4 na sinusuplayan ng mga kwalipikadong tagagawa na Samsung, SK hynix at Micron.
• May kapasidad na 36 gigabytes ang 12-patong na hanay ng HBM4 ng Samsung; 48 gigabytes naman ang ipinakitang 16-na-patong na hanay ng SK hynix.
• Ayon sa Micron, nakakontrata na ang buong kapasidad na nakaplano para sa 2027 sa bago nitong pasilidad ng HBM sa Taichung.
• Nananatiling praktikal na salik sa iskedyul ng paghahatid ang advanced packaging, pagkakaroon ng kagamitan at negosasyon tungkol sa mga manggagawa.
• Sinusubukan ng Samsung at SK hynix ang HBM4E habang bumubuo ng mga bagong paraan ng paglalagay at pagsasaayos ng memory para sa AI.