- Skymgiizant लाई अब कुनै मोडेलको आवश्यकता छैन। पूर्वाधार
- पुरानो 28nm चिपहरूले आश्चर्यजनक रूपमा कम वाटेजमा ठूलो भाषा मोडेलहरूलाई अचानक शक्ति दिन्छ
- HTX301 ले 384 GB मेमोरीलाई एकल PCIe एक्सेलेटर कार्डमा निचोड्छ
ताइवानको एउटा कम्पनीले Skymizer लाई चुनौती दिएको छ जसलाई Skymizer भनिन्छ। data-analytics-id=”inline-link” href=”https://www.techradar.com/tag/amd” data-auto-tag-linker=”true” data-url=”https://www.techradar.com/tag/amd” data-hl-processed=”none” data-mrf-recirculation=”inline-link” data-before-rewrite-localise=”https://www.techradar.com/tag/amd”>AMD र AMD” data-mrf-recirculation=”inline-link” data-before-rewrite-localise=”https://www.techradar.com/tag/nvidia”>Nvidia आश्चर्यजनक रूपमा पुरानो प्रविधि प्रयोग गरेर।
HTX301 कार्डले एकल यन्त्रमा 700 बिलियन प्यारामिटरहरूसँग भाषा मोडेलहरू चलाउन सक्छ। id=”elk-seasonal” class=”paywall” aria-hidden=”true”/>
कार्डले महँगो HBM वा GDDR समाधानहरूको सट्टा पुरानो 28-न्यानोमिटर चिपहरू र मानक LPDDR4 र LPDDR5 मेमोरी प्रयोग गरेर यो उपलब्धि हासिल गर्छ। rounded-[10px] lg:my-8″ data-component-name=”JwPlayer:Carousel” data-jwp-carousel=”” data-jwp-carousel-payload=””ids”:”playerID”:”APjl6osP”,”searchPlaylistID”:”1v6djO3j”,”divID”:”botr_ 1v6djO3j_APjl6osP_div”,”fallbackPlaylistID”:”KgQ4BrDw”,”fallbackDivID”:”botr_KgQ4BrDw_APjl6osP_div” ,”key”:”ZuubZ0qo8PC91SeYBvrz9lq0zFhLM446gwRNTJacILQ18liS”,”tintLogo”:true,”useSearchPlaylist”:false ,”सक्षम”:सत्य,”signPostingEnabled”:सत्य,”signPostingLinkEnabled”:सत्य,”waitForAdLoad”:false”>
ठूलो GPU एक्सेलेरेटर प्लेटफर्महरूलाई समर्थन गर्न अन-प्रिमाइसेस पूर्वाधार अपग्रेड गर्न प्रायः डेटा सेन्टर पावर र कूलिङ सिस्टम।
Skymizer ले HTXolpri01 मा तेस्रो विकल्प प्रदान गर्दछ जुन मानक एयरफिट प्रदान गर्दछ। कुनै पूर्वाधार परिवर्तन बिना सर्भरहरू।
कम्पनीले हाइपरस्केलको आवश्यकता भएको युगको दाबी गर्दछ GPU अति-ठूला LLM को लागि क्लस्टर उनीहरूको नयाँ प्रविधिको साथ समाप्त भएको छ। डाटा सार्वभौमिकता र अनुमानित पूर्वाधार लागतहरू कायम राख्दा परिसर।
Skymizer HTX301 वास्तविक-विश्व परीक्षणको लागि पर्खिरहेको छ
Skymizer लाई अनुमति दिनेछ यसको कार्यसम्पादन संख्याहरूको स्वतन्त्र प्रमाणिकरण।
यो चिपको विशिष्टताहरू कागजमा प्रभावशाली देखिन्छन्, तर वास्तविक-विश्व परीक्षणले यो कार्डले Llama2 7B वर्कलोडहरूमा प्रति सेकेन्ड 240 टोकनहरू डेलिभर गर्छ कि गर्दैन भनेर निर्धारण गर्नेछ।
AMD ले भर्खरै आफ्नो Instinct MI350P PCIe कार्डलाई 144M,B400000000000000000000000 सम्मको मेमोरी सहितको HP350P PCIe कार्ड लन्च गरेको छ। MXFP4 परिशुद्धतामा, तैपनि यसले Skymizer को प्रस्ताव भन्दा धेरै धेरै पावर खपत गर्छ।
Nvidia को RTX PRO 6000 Blackwell ले लगभग 600 वाट खपत गर्छ, Skymizer कार्डले तुलनात्मक इन्फरेन्सन कार्यहरूको लागि चाहिने भन्दा दोब्बर भन्दा बढी। अन-प्रिमाइसेस AI पूर्वाधारको लागि प्रवेशमा बाधा।
डेलिभर गर्न असफल भएमा स्काईमिजरलाई धेरै स्टार्टअपहरू बीचमा राख्नेछ जसले आफ्नो वाचाहरू ब्याकअप गर्न सकेन।
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई प्राथमिकताको रूपमा थप्नुहोस् //em>प्राथमिकता स्रोतको रूपमा थप्नुहोस् समीक्षाहरू, र तपाईंको फिडहरूमा राय।