तपाईको व्यवसाय सफल हुन आवश्यक पर्ने सबै शीर्ष समाचार, राय, सुविधाहरू र मार्गदर्शन प्राप्त गर्न TechRadar प्रो न्यूजलेटरमा साइन अप गर्नुहोस्! GPIO हेडर र डेटा स्थानान्तरणको लागि प्रणालीको PCIe इन्टरफेसमा निर्भर गर्दछ, जसले Raspberry Pi 4 सँग अनुकूलतालाई अस्वीकार गर्दछ।
यस जडानले गतिवर्धक र होस्ट बीच उच्च ब्यान्डविथ डेटा स्थानान्तरणलाई समर्थन गर्दछ, जुन मोडेल इनपुटहरू, आउटपुटहरू, र क्यामेरा डेटा कुशलतापूर्वक सार्नको लागि आवश्यक छ। Qwen2.5-Coder, आधारभूत अनुवाद कार्यहरू, र लाइभ क्यामेरा फिडहरूबाट दृश्य दृश्य विवरणहरू।
यी वर्कलोडहरू मा भर पर्छन्। Pi सफ्टवेयर स्ट्याक भित्र, कन्टेनराइज्ड ब्याकएन्डहरू र स्थानीय अनुमान सर्भरहरू सहित।
सबै प्रशोधन उपकरणमा हुन्छ, बाह्य गणना स्रोतहरू बिना।
समर्थित मोडेलहरू एक देखि डेढ बिलियन प्यारामिटरहरू सम्मका हुन्छन्, जुन क्लाउड-आधारित प्रणालीहरूको तुलनामा मामूली छ जुन धेरै ठूला स्केलहरूमा काम गर्दछ। फराकिलो, सामान्य-उद्देश्य ज्ञान।
यस अवरोधलाई सम्बोधन गर्न, AI HAT+ 2 ले फाइन-ट्युनिङ विधिहरूलाई समर्थन गर्दछ जस्तै निम्न-रैंक अनुकूलन, जसले विकासकर्ताहरूलाई धेरै प्यारामिटरहरू अपरिवर्तित राख्दै साँघुरो कार्यहरूको लागि मोडेलहरू अनुकूलित गर्न अनुमति दिन्छ। टूलचेन।
AI HAT+ 2 $130 मा उपलब्ध छ, यसलाई पहिलेको भिजन-केन्द्रित सामानहरू भन्दा माथि राखेर समान कम्प्युटर भिजन थ्रुपुट प्रदान गर्दछ।
इमेज प्रोसेसिङमा केन्द्रित वर्कलोडहरूका लागि, अपग्रेडले सीमित लाभहरू प्रदान गर्दछ, किनकि यसको अपील स्थानीय LLM कार्यान्वयनमा आधारित छ।
सर्तहरूमा, हार्डवेयरले देखाउँछ कि रास्पबेरी पाई हार्डवेयरमा जेनेरेटिभ एआई अब सम्भव छ, यद्यपि सीमित मेमोरी हेडरूम र सानो मोडेल आकारहरू एक मुद्दा बनी रहन्छ।
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई प्राथमिकताको रूपमा थप्नुहोस् //em>प्राथमिकता स्रोतको रूपमा थप्नुहोस् समीक्षाहरू, र तपाईंको फिडहरूमा राय। फलो बटनमा क्लिक गर्न निश्चित हुनुहोस्!
र पक्कै पनि तपाईं TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।
