AMD
यह क्यों मायने रखता है
AI compute पर NVIDIA का दबदबा रहा है, जिसका मतलब है ऊँची कीमतें और तंग supply। AMD सबसे भरोसेमंद दूसरा स्रोत है। Microsoft, Meta, Oracle और OpenAI समेत बड़े खरीदारों ने AMD chips लगाए हैं, और अक्टूबर 2025 में OpenAI ने 2026 से multi-gigawatt पैमाने पर AMD GPUs लगाने का सौदा किया। यहाँ असली मुकाबला सबके लिए AI की कीमत और उपलब्धता पर असर डालता है।
AMD local AI के लिए भी अहम है। उसके Radeon GPUs, ROCm और Vulkan के ज़रिए local models चलाते हैं, और उसके Ryzen AI Max laptop और mini-PC chips, CPU और GPU के बीच 128 GB तक memory share करते हैं, Apple की unified memory की तरह। इसी वजह से वे PC पर बड़े models चलाने का लोकप्रिय तरीका हैं।
गहन अध्ययन
AMD एक अमेरिकी chip कंपनी है, जो अपने Ryzen और EPYC processors और Radeon graphics cards के लिए सबसे ज़्यादा जानी जाती है। CEO Lisa Su की अगुवाई में यह अपनी Instinct accelerators की line के साथ data-center AI में NVIDIA की मुख्य चुनौती बन गई है। इसके flagship AI chips खास तौर पर बहुत memory रखने के लिए जाने जाते हैं: MI300X (2023) में 192 GB HBM था, और बाद के models ने इसे 256 GB और फिर 288 GB तक बढ़ाया, जो NVIDIA के Blackwell Ultra के बराबर है।
AI के लिए AMD का software stack ROCm है, जो NVIDIA के CUDA का उसका open-source जवाब है।
Memory की बढ़त
LLM inference अक्सर raw compute से नहीं, memory capacity और bandwidth से सीमित होता है। हर chip पर ज़्यादा HBM का मतलब है कि बड़ा model कम GPUs पर समा जाता है, और एक node लंबे contexts के लिए बड़े KV caches रख सकता है। इसीलिए AMD ने अपने chips को खास तौर पर inference के लिए पेश किया है, जहाँ इसकी बड़ी memory सीधे हर token की कम लागत में बदल सकती है।
Software का फ़ासला
AMD की सबसे बड़ी चुनौती hardware नहीं, software रही है। CUDA करीब 20 साल आगे है, और कई tools, custom kernels और tutorials NVIDIA को मानकर चलते हैं। ROCm काफ़ी सुधरा है: PyTorch, vLLM, SGLang और बड़ी libraries इसे support करती हैं, और AMD HIP देती है, एक programming interface जो इस तरह बना है कि CUDA code को port करना ज़्यादातर mechanical काम रह जाए। लेकिन नई research techniques अक्सर पहले NVIDIA पर आती हैं, और ROCm का setup अब भी उतना सहज नहीं हो सकता। इस फ़ासले को पाटना AMD की सबसे बड़ी प्राथमिकता रही है।
पूरे systems बनाना
Frontier models की training और serving के लिए सिर्फ़ अलग-अलग chips नहीं, बल्कि तेज़ networking से जुड़े GPUs के पूरे racks चाहिए। उस स्तर पर मुकाबला करने के लिए AMD ने 2022 में Xilinx (programmable chips और networking) और 2025 में ZT Systems (data-center rack design) खरीदी, और उसके MI400-series chips पर बने rack-scale systems की shipping 2026 के आखिर से शुरू होती है।
Product lines एक नज़र में
- Instinct (MI300X, MI325X, MI350 series और आगे): data-center AI accelerators।
- EPYC: server CPUs, जो AI clusters में GPUs के साथ आम हैं।
- Radeon: consumer और workstation GPUs, जो local AI के लिए इस्तेमाल हो सकते हैं।
- Ryzen AI: on-device AI के लिए built-in NPUs वाले laptop और desktop chips।