― Advertisement ―

Homeसूचना प्रविधिस्टार्टअपले AI को मेमोरी वाल तोड्न आर्म कोर र LPDDR6 को 128TB...

स्टार्टअपले AI को मेमोरी वाल तोड्न आर्म कोर र LPDDR6 को 128TB प्रयोग गर्दछ



  • अनुकूलित प्रक्रियालाई GPUs-Arvimdia स्टार्टअपमा बदल्नुहोस्। हार्डवेयर
  • प्रोमेथियसले 128TB सम्म एकीकृत LPDDR6 मेमोरी अनबोर्डमा प्याक गर्दछ
  • नयाँ सर्भरले प्रति प्रोसेसरमा 1,000× थप मेमोरी उपलब्ध गराउने प्रतिज्ञा गर्दछ

Majestic Labs, Google र मेटा इन्जिनियरहरूले, Nvidia को GPU र HBM कम्पनीले

को संयोजन गरेको छ। महँगो ग्राफिक्स जोड्ने प्रोसेसरहरू उच्च ब्यान्डविथ मेमोरी भएको एआई अनुमानका लागि मौलिक रूपमा मेमोरी-बाउन्ड र डेड-एन्ड दृष्टिकोण भएको छ। data-render-type=”fte” data-skip=”dealsy” data-widget-type=”seasonal” class=”hawk-root”/>

यसको उत्तर wapr, जुन प्रो हो। data-analytics-id=”inline-link” href=”https://www.techradar.com/news/computing-components/graphics-cards/best-graphics-cards-1291458″ data-url=”https://www.techradar.com/news/computing-components/graphics-cards/best-graphics-components/graphics-cards/best-graphics-cards9″1hl=hi data-mrf-recirculation=”inline-link” data-before-rewrite-localise=”https://www.techradar.com/news/computing-components/graphics-cards/best-graphics-cards-1291458″>GPUs Ignite AI प्रशोधन इकाइहरूका लागि डेटा-लिङ्कको संयोजन=”डाटा-लिंक-लाइन” href=”https://www.techradar.com/tag/arm” data-auto-tag-linker=”true” data-url=”https://www.techradar.com/tag/arm” data-hl-processed=”none” data-mrf-recirculation=”inline-link” data-before-rewrite-localise=”https://www.techradar. भेक्टर र टेन्सर इन्जिनहरू।

class=”jwp-carousel-title-mobile”/>पछिल्लो भिडियोहरूTechRadar

मेमोरी मापन गर्ने फरक तरिका

प्रत्येक प्रोमेथियस सर्भरले १२ AIUs सम्म राख्न सक्छ, 8 TB र 128 TB LPDDR6 मेमोरी बीच साझा गर्न एक सन्निहित, सुसंगत मेमोरी पूल मार्फत poolpghat> अनुकूलन मेमोरी पहुँच हो। सिधै GPU प्याकेजहरूमा जोडिएको मेमोरीको सट्टा एक मिटर लामो तामाका केबलहरूद्वारा जोडिएको चिपलेटहरू।

तपाईलाई मन पर्न सक्छ

एउटा मानक 40U र्याकले त्यस्ता चारवटा सर्भरहरू समात्न सक्छ, कुल 120 kW तान्छ र हावाको सट्टा कोल्ड-प्लेट लिक्विड प्रणालीहरू मार्फत चिसो हुन्छ। id=”slice-container-newsletterForm-articleInbodyContent-adiRNFVE6cQtAtFzFtK6HT” class=”slice-container newsletter-inbodyContent-slice newsletterForm-articleInbodyContent-adiRNFVE6cQtAtFTFz slice-container-newsletterForm”>

Majestic ले आफ्नो वास्तुकलाको दावी गर्दछ त्यसैले प्रतिद्वन्द्वी कन्फिगरेसन भन्दा ५० गुणा बढी छिटो मेमोरी प्रदान गर्दछ, साथै १.७ गुणा यसको इन्टरकनेक्ट होल्ड। 25 Nvidia NVL72 Vera Rubin को द्रुत मेमोरी क्षमताले पावरको एक अंशमा र्याक गर्दछ,” Majestic Lab ले भन्यो।

“कहिल्यै हाइपरस्केलर पूर्वाधारलाई न्याय गर्न नसक्ने संस्थाहरूले अब कुनै पनि कामको भार चलाउन सक्छन्, प्रति प्रोसेसर “1000× बढी मेमोरी हुन सक्छ।”

<-Recname:"Recivername" data-recirculation-type="inline" data-mrf-recirculation="Trending Bar" data-nosnippet="" class="clear-both pt-2 pb-0 mb-4">

अब के पढ्ने

. id=”elk-8df94fea-8a2f-11f1-a7e6-d16b8f6f7cf2″>मजेस्टिक ल्याबहरू भन्छन् कि प्रोमेथियस सर्भरले अर्को वर्ष पठाएपछि समान कार्यसम्पादनको GPU प्रणाली भन्दा 10 र 50 गुणा कम खर्च हुन सक्छ, जबकि प्रति र्याकमा कम बिजुली खपत हुन्छ। PyTorch, vLLM र OpenAI को Triton फ्रेमवर्कलाई समर्थन गर्नेछ, विद्यमान AI मोडलहरूलाई परिमार्जन बिना चल्न दिनेछ।

CEO Ofer Shacham, President Sha Rabii र COO मासुमी रेन्डर्सद्वारा स्थापित, कम्पनीले तेल अवीव र लस एन्जलसमा करिब ४० जनालाई रोजगारी दिएको छ र $100 मिलियन डलर जम्मा गरेको छ। ठूला उद्यमहरू, निओक्लाउडहरू र हाइपरस्केलरहरूबाट पहिले नै महत्त्वपूर्ण अर्डरहरू प्राप्त गरिसकेका छन्।

अझै पनि धेरै विवरणहरू अस्पष्ट छन्, जसमा एकल सर्भरलाई कति मेमोरी एग्रिगेसन चिपलेट चाहिन्छ। प्रति सर्भर एग्रीगेशन चिपलेटहरू।

मजेस्टिक ल्याबहरूले प्रस्तुत गरेका संख्याहरू उल्लेखनीय छन्, तर तिनीहरू कुनै पनि स्वतन्त्र बेन्चमार्किङ वा ढुवानी गरिएको हार्डवेयरको अगाडि स्टार्टअपको आफ्नै अनुमानहरू रहन्छन्।

स्थापित GPU विक्रेताहरूबाट टाढा जाने विचार गर्दै उद्यम खरीददारहरूले स्वतन्त्र मान्यता प्राप्त गर्न

Majestic validation को लागि कुर्नु पर्ने हुन सक्छ। ब्लकहरू र फाइलहरू


पाठ पढ्ने छेउमा रहेको कालो पृष्ठभूमिमा रहेको Google लोगो 'TechRadar फलो गर्न क्लिक गर्नुहोस्'

Google समाचारमा TechRadar फलो गर्नुहोस् हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो राय, विज्ञहरूका समाचारहरू प्राप्त गर्नका लागि। फिडहरू।