TechRadar Pro न्यूजलेटरमा साइन अप गर्नुहोस् सबै शीर्ष समाचार, राय, सुविधाहरू र तपाईंको व्यवसायलाई सफल हुन आवश्यक मार्गदर्शन प्राप्त गर्न! शब्द, तपाईं पर्खनुहुन्छ?” उनी भन्छन्। “जब मैले केहि सोध्छु, म दुई सेकेन्ड पर्खन सक्छु। तर यदि यसले 10 सेकेन्ड लिन्छ भने, प्रयोगकर्ताहरूले यसलाई फोहोर ठान्नेछन्।”
पुआले TTFT सुधारहरूलाई मेमोरी-हेवी इन्फरेन्सन डेटा, विशेष गरी KV क्यासको राम्रो पुन: प्रयोग गर्न लिंक गर्दछ, यसलाई डाक्टरसँग तुलना गर्दै प्रत्येक बिरामीलाई उही निर्देशनहरू दोहोर्याउँदछ किनभने त्यहाँ भ्रमणहरू बीच केही पनि बचत हुँदैन। यो वेब ब्राउजिङमा कुकीज जस्तै हो, “उनले विस्तार गरे। “धेरैजसो प्रणालीहरूमा पर्याप्त DRAM छैन, त्यसैले प्रत्येक पटक तपाईंले एउटै प्रश्न सोध्दा, यसले सबै कुरा पुन: गणना गर्नुपर्छ।”
Phison को दृष्टिकोण, Pua ले थप्यो, “भण्डारणमा बारम्बार प्रयोग हुने क्यास भण्डारण” हो जसले गर्दा प्रयोगकर्ताले कुनै क्वेरी दोहोर्याउँदा वा पुन: अवलोकन गर्दा प्रणालीले यसलाई द्रुत रूपमा पुन: प्राप्त गर्न सक्छ।
त्यो मेमोरी-फर्स्ट फ्रेमिङले ल्यापटपभन्दा बाहिर कम्पनीहरूले कसरी GPU सर्भरहरू निर्माण गर्छन् भन्ने कुरामा विस्तार गर्दछ, किनकि Pua ले GPU मार्फत थप कम्प्यूटर सङ्कलन गर्न धेरै संगठनहरू संकलन गर्दैन। जसले सिलिकन खेर जान्छ।
“हाम्रो समाधान बिना, मानिसहरूले धेरै GPU कार्डहरू मुख्यतया मेमोरी जम्मा गर्न खरीद गर्छन्, कम्प्युट पावरको लागि होइन,” उनी थप्छन्। “धेरै महँगो GPU हरू निष्क्रिय हुन्छन् किनभने तिनीहरू केवल तिनीहरूको मेमोरीको लागि प्रयोग भइरहेका छन्।”
यदि SSDs ले ठूलो मेमोरी पूल प्रदान गर्न सक्छ, Pua भन्छन्, GPU हरू किन्न सकिन्छ र यसको सट्टा गणनाको लागि मापन गर्न सकिन्छ। “तपाईसँग पर्याप्त मेमोरी भएपछि, त्यसपछि तपाइँ गणना गतिमा ध्यान केन्द्रित गर्न सक्नुहुन्छ,” उनले टिप्पणी गरे, “यदि एउटा GPU ढिलो छ भने, तपाइँ कम्प्युटिङ शक्ति सुधार गर्न दुई, चार, वा आठ GPU थप्न सक्नुहुन्छ।” href=”” target=”_blank” referrerpolicy=”no-referrer-when-downgrade” data-hl-processed=”none”/>
244TB SSDs
wide the pueda97b26-357b-4938-b22F34″>wide Hyperscalers र AI पूर्वाधारको अर्थशास्त्रको लेन्स, GPU खर्चको हालको लहरलाई आवश्यक तर अपूर्ण रूपमा वर्णन गर्दै, किनभने AI को लागि व्यापारिक मामला अनुमानमा निर्भर गर्दछ, र अनुमान डेटा भण्डारणमा निर्भर गर्दछ।
“CSPs ले GPU हरूमा $ 200 बिलियन भन्दा बढी लगानी गरेको छ,” उनी भन्छन्। “तिनीहरूले GPU बाट सीधै पैसा कमाउँदैनन्। राजस्व अनुमानबाट आउँछ, जसको लागि ठूलो डेटा भण्डारण चाहिन्छ।”
उनले परिस्थितिलाई एक पंक्तिमा संक्षेप गरे जुन उनले बारम्बार फर्काए: “CSP लाभ भण्डारण क्षमता बराबर हुन्छ।”
यो तर्क पनि । कम्पनीले 244TB मोडेलको घोषणा गरेको छ, र Pua ले हामीलाई भन्यो, “हाम्रो हालको 122TB ड्राइभले 16-लेयर NAND स्ट्याकिङको साथ हाम्रो X2 नियन्त्रक प्रयोग गर्दछ। 244TB पुग्न, हामीलाई केवल 32-लेयर स्ट्याकिङ चाहिन्छ। डिजाइन पूरा भएको छ, तर चुनौती भनेको उत्पादन उत्पादन हो। “हामी 4Tb NAND को मृत्युको लागि पर्खिरहेका छौं, जसको साथ, हामीले 16 तहमा 244TB हासिल गर्न सक्छौं,” उनले भने, समय उत्पादन परिपक्वतामा निर्भर हुनेछ।
PLC NAND मा, Pua स्पष्ट थियो कि फिसन आउँदा यसलाई नियन्त्रण गर्दैन, तर उनले हामीलाई भने कि उनी यसलाई निर्माताहरूले एक पटक पुन: शिप गर्न सक्छन् यसलाई समर्थन गर्न चाहन्छन्। पाँच-बिट NAND, त्यो मुख्य रूपमा NAND निर्माताको निर्णय हो, हाम्रो होइन, “उनले भने। “जब NAND कम्पनीहरूले उनीहरूको PLC प्रविधि परिपक्व हुन्छन्, हाम्रा SSD डिजाइनहरू यसलाई समर्थन गर्न तयार हुनेछन्।”
उनी फरक भण्डारण प्रवृतिको बारेमा बढी शंकालु थिए: फ्ल्यासलाई सीधै GPU-शैली मेमोरी स्ट्याकहरूमा बाँध्ने, कहिलेकाहीँ उच्च ब्यान्डविथ फ्ल्यास जस्ता लेबलहरू अन्तर्गत छलफल गरिन्छ। पुआले तर्क गरे कि सहनशीलता बेमेलले एक खराब विफलता मोड सिर्जना गर्दछ।
“NAND लाई सीधा GPU सँग एकीकृत गर्ने चुनौती लेखन चक्र सीमा हो,” उनले भने। “NAND सँग सीमित प्रोग्राम/मेटाउने चक्रहरू छन्। यदि तपाईंले तिनीहरूलाई एकीकृत गर्नुभयो भने, जब NAND जीवनको अन्त्यमा पुग्छ, तपाईंले सम्पूर्ण महँगो GPU कार्ड खारेज गर्नुपर्नेछ।”
Phison को मनपर्ने मोडेल मोड्युलर हो: “SSD लाई प्रतिस्थापन गर्न मिल्ने, प्लग-एण्ड-प्ले कम्पोनेन्टको रूपमा राख्दै। जब तपाईं महँगो
GPU लाई प्रतिस्थापन गर्नुहुन्छ, जब तपाईं महँगो राख्नुहुन्छ।” सँगै, AI हार्डवेयर भविष्यको Pua को दृष्टिकोण सधैं ठूला GPU हरू पछ्याउने बारे कम र मेमोरी क्षमता सस्तो, स्केलेबल, र बदल्न सकिने प्रणालीहरू निर्माण गर्ने बारे बढी हो।
लक्ष्य एकीकृत GPU मा स्थानीय अनुमान हो वा हाइपरस्केलरमा र्याक-स्केल अनुमान हो, कम्पनीले दाँत लगाइरहेको छ कि भण्डारण घनत्व र मेमोरी कम्प्यानमा अर्को कम्प्याक्टिक कम्प्यान कम्प्यान्सन अघि तय हुनेछ। गर्छ।
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो समाचार, फिडको समीक्षा र विज्ञहरू लिनुहोस्। फलो गर्ने बटनमा क्लिक गर्न नबिर्सनुहोस्!
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।
