- एआई नयाँ रिपोर्ट गर्न सकिन्छ चेतावनी दिन्छ
- HalluSquatting “Aversarial hallucination squatting” को लागि छोटो छ
- GitHub Copilot, Gemini CLI, र OpenClaw सबै प्रभावित छन्
तपाइँको मनपर्ने AI सेवालाई फोनमा बदल्न सकिन्छ वा फोनलाई कोड अनुसार पीसीमा बदल्न सकिन्छ। Intuit, Technion, र Tel Aviv विश्वविद्यालयका अनुसन्धानकर्ताहरू।
प्रविधीलाई हलुस्क्वाटिङ् नाम दिइएको छ, जो कि प्रतिद्वन्द्वी भ्रम स्क्वाटिङ्को एउटा पोर्टम्यान्टो हो, र यो दुर्भावनापूर्ण कोड वितरण गर्नको लागि गल्तीमा निर्भर हुने गरी टाइपोस्क्वेटिङ जस्तै हो। वेबसाइट URL को गलत इनपुटको साथमा टाइपोस्क्वाटिङ् हुन सक्छ, LLM मा हलुस्क्वाटिङ् पिभोटहरूले शतप्रतिशत शुद्धताका साथ स्रोत वा भण्डार पहिचान गर्न असमर्थ हुन्छ। data-widget-type=”seasonal” class=”hawk-root”/>
भ्रम गर्ने LLM को झुकावमा भर पर्दै, भण्डारणलाई कमजोर बनाइयो भने, यो भण्डारणलाई कमजोर बनाउन सकिन्छ। अभियानहरू, बोटनेटहरू, र थप।
पुश-मी-पुल-यु
अघिल्लो LLM-आधारित मालवेयर अपरेशनहरूले पुल-आधारित आक्रमणहरूमा भर परेका छन्। यस परिदृश्यमा, एआईलाई जेलब्रेक गर्न वा अन्यथा विकृत गर्न डिजाइन गरिएको प्रम्प्ट (उदाहरणका लागि) वेबसाइटमा राखिएको छ र LLM लाई जानकारी सङ्कलन गर्न प्रोत्साहित गरिएको छ, जसले गर्दा यसको आन्तरिक सुरक्षा कम हुन्छ।
अनुसन्धानकर्ताहरूले आफ्नो पेपर, त्यो पुल प्रविधिहरू जोडिएको छ जसमा परम्परागत रूपमा पुश एट्याक
कोडको रूपमा जोडिएको छ। data-component-name=”Recirculation:ArticleRiver” data-recirculation-type=”inline” data-mrf-recirculation=”Trending Bar” data-nosnippet=”” class=”clear-both pt-2 pb-0 mb-4″>
तपाईलाई मन पर्न सक्छ
पेपरको परिचय सारांशले यसो भन्छ: “अग्रिम रूपमा भ्रमित स्रोतहरू दर्ता गरेर—एक प्रविधि जसलाई हामी एडभार्सियल ह्यालुसिनेशन स्क्वाटिङ् (हल्लुस्क्वाटिंग) भन्छौं—हामी रिमोट टूल एक्जीक्यूसन र रिमोट कोड एक्जिक्यूसन प्रदर्शन गर्छौं, जसमा एप्लिकेसनको दायरामा लोकप्रियता स्थापित गर्न सकिन्छ। एक बोटनेट।”
एक पटक आक्रमणकारीले LLM द्वारा गलत नाम राख्ने सम्भावित स्रोत पहिचान गरेपछि, र त्यसमा बसेर (विपरित प्रम्प्टहरू इम्बेड गर्न), काम सकियो। प्रयोगकर्तालाई स्रोत ट्रिगर गर्नका लागि बाँकी रहेको AI chatbot वा प्रतिक्रिया प्रारम्भ गर्न एजेन्ट, र स्क्वाट्ट गरिएको स्रोतमा पहुँच गरिनेछ।
प्रोम्प्टवेयर आक्रमण
F1-8b1600000000000000000000000000055554-11f1-bd9c87f54-12 squatted संसाधन भित्र राखिएको विरोधी सामग्री सक्रिय छ, उपकरण आह्वान चरण ट्रिगर। यो प्रम्प्टवेयर आक्रमण हो, जहाँ आक्रमणकारी-नियन्त्रित निर्देशनहरू कार्यान्वयन गरिन्छ, परिणामहरू सम्भावित रूपमा तपाईंले प्रयोग गरिरहनुभएको उपकरणलाई बोटनेट जोम्बीमा परिणत गर्ने समावेश गर्दछ। र NanoClaw AI सहायकहरू। अन्वेषकहरूले सफलतापूर्वक रिमोट उपकरण कार्यान्वयन (आवश्यक रूपमा टाढाबाट पहुँच र LLMs नियन्त्रण गर्ने) र रिमोट कोड कार्यान्वयन (RCE, जहाँ दुर्भावनापूर्ण कोड टाढाबाट कार्यान्वयन गरिन्छ) हासिल गरे।
एलएलएम विकासकर्ताहरूले प्रति स्रोत खोजी उपकरणको पक्षमा फेच अपरेसनहरू रोक्न र मालिकको खोजी उपकरणको लागि अनुगमन गर्न रोक्ने सहित केही शमन उपलब्ध छन्। विश्वव्यापी रूपमा अद्वितीय स्रोत नामहरू। यद्यपि, यी फरक पक्षहरूको सहयोगको आवश्यकता पर्दछ, र कार्यान्वयन गर्न केही समय लाग्न सक्छ।
LLM-आधारित मालवेयरको जोखिम बढ्दै गएको छ, र केही पहिले नै जंगलमा देखिएका छन्। यी मध्ये, JADEPUFFER आक्रमण सायद सबैभन्दा उल्लेखनीय छ, किनकि यो केवल AI-आधारित मालवेयर होइन – यो पूर्ण ly ransomware रन
id=”elk-368d9912-7f50-11f1-97f3-fffa1018106c”/>
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो राय, विज्ञहरूका समाचारहरू प्राप्त गर्नका लागि। फिडहरू।