― Advertisement ―

Tiny 150M AI मोडेलले ChatGPT भन्दा 11X सस्तो चल्छ जबकि विचारको अन्तहीन चेनहरू सिर्जना नगरी तर्क समस्याहरू समाधान गर्दछ।

$ 1500505050900000000000000000000000000000000000000000M मोडेल पुग्दा। प्रति कार्यChatGPT ले उच्च स्कोर प्राप्त गर्यो, तर पनि यसको तुलनात्मक तर्क रन धेरै खर्च हुन्छBDH-CQ ले लामो मध्यवर्ती पाठ...
Homeसूचना प्रविधिगुगलको नयाँ कम्प्रेसनले एआई मेमोरीको प्रयोगलाई तीव्र रूपमा संकुचित गर्दछ जबकि माग...

गुगलको नयाँ कम्प्रेसनले एआई मेमोरीको प्रयोगलाई तीव्र रूपमा संकुचित गर्दछ जबकि माग गरिएको वर्कलोडहरू र आधुनिक हार्डवेयर वातावरणहरूमा चुपचाप प्रदर्शनलाई गति दिन्छ।




  • गुगल टर्बोक्युरान्ट मेमोरीमा माग घटाउँदै गर्दा वर्कलोडहरू
  • वेक्टर कम्प्रेसनले अतिरिक्त प्रशिक्षण आवश्यकताहरू बिना नयाँ दक्षता स्तरहरूमा पुग्छ
  • कुञ्जी-मान क्यास बाधाहरू AI प्रणाली प्रदर्शन सीमाहरूमा केन्द्रित रहन्छन्

ठूला भाषा मोडेलहरू (heartificial-intelligence on LL/dependence-bestlyms) मेमोरी ढाँचाहरू जसले प्रक्रियाको क्रममा द्रुत पुन: प्रयोगको लागि मध्यवर्ती डेटा भण्डारण गर्दछ।

सबैभन्दा महत्वपूर्ण घटकहरू मध्ये एक मुख्य-मान क्यास हो, जसलाई “उच्च-गति डिजिटल चिट पाना” को रूपमा वर्णन गरिएको छ जसले दोहोर्याइएको गणनालाई बेवास्ता गर्दछ। data-render-type=”fte” data-skip=”dealsy” data-widget-type=”seasonal” class=”hawk-root”/>

यस मेकानिजमले प्रमुख कारणले spec लाई सुधार गर्छ, तर specne पनि सुधार गर्छ। उच्च-आयामी भेक्टरहरूले पर्याप्त मेमोरी स्रोतहरू उपभोग गर्छन्।

लेख तल जारी छ