- Varonis ले URL मा नयाँ प्रोम्प्टको माध्यमबाट URL पत्ता लगाउँछ। “रिप्रम्प्ट।”
- आक्रमणकारीहरूले GenAI उपकरणहरूलाई एकल क्लिकमा संवेदनशील डाटा चुहावट गर्न चलाउन सक्छन्
- माइक्रोसफ्टले URL मार्फत प्रम्प्ट इन्जेक्सन आक्रमणहरूलाई रोक्दै त्रुटिलाई ठीक पार्यो
सुरक्षा अनुसन्धानकर्ता Varonis पत्ता लगाएका छन् नयाँ तरिका प्रदर्शन गर्नamp>नयाँ तरिका प्रम्प्ट-इंजेक्शन शैली आक्रमणहरू
प्रम्प्ट इन्जेक्सन आक्रमणहरू नामले सुझाव दिएझैं आक्रमणहरू हुन् जसमा साइबर अपराधीहरूले जेनेरेटिभमा प्रम्प्ट दिन्छन् AI उपकरणहरू, उपकरणलाई संवेदनशील डेटा प्रदान गर्न ठग्दै। तिनीहरू प्रायः सम्भव भएका छन् किनभने उपकरण अझै कार्यान्वयन गर्नको लागि प्रम्प्ट र पढ्नको लागि डेटा बीचमा छुट्याउन असमर्थ छ। pb-4 mb-4 border-solid border-y border-neutral-300″>
तपाईलाई मन पर्न सक्छ
. id=”prompt-injection-through-urls-3″>URLs मार्फत प्रम्प्ट इंजेक्शन
सामान्यतया, प्रम्प्ट इन्जेक्शन आक्रमणहरूले यसरी काम गर्दछ: पीडितले Gen को लागि एम्बाड गरिएको इमेल क्लाइन्ट प्रयोग गर्दछ, जीमेलको लागि जीमेल भएको उदाहरण। त्यो पीडितले एक सौम्य देखिने इमेल प्राप्त गर्दछ जसमा लुकेको मालिसियस प्रम्प्ट हुन्छ। त्यो सेतो पृष्ठभूमिमा सेतो पाठमा लेख्न सकिन्छ वा फन्ट ० मा संकुचित गर्न सकिन्छ।
जब पीडितले AI लाई इमेल पढ्न आदेश दिन्छ (उदाहरणका लागि, मुख्य बुँदाहरू संक्षेप गर्न वा कल निमन्त्रणाहरू जाँच गर्न), AI ले लुकेको प्रम्प्ट पनि पढ्छ र कार्यान्वयन गर्दछ। ती प्रम्प्टहरू, उदाहरणका लागि, आक्रमणकारीहरूको नियन्त्रणमा रहेको सर्भरमा इनबक्सबाट संवेदनशील डेटा निकाल्नका लागि हुन सक्छन्।
अब, Varonis ले यस्तै कुरा फेला पारेको छ – URL मार्फत प्रम्प्ट इंजेक्शन आक्रमण। तिनीहरूले अन्यथा वैध लिङ्कको अन्त्यमा q प्यारामिटरको रूपमा विस्तृत निर्देशनहरूको लामो शृङ्खला थप्नेछन्।
यहाँ यस्तो लिङ्क कस्तो देखिन्छ: http://copilot.microsoft.com/?q=Hello
Copilot (र धेरै अन्य LLM-based tools) q प्यारामिटर भएका URL लाई इनपुट टेक्स्टको रूपमा व्यवहार गर्नुहोस्, जुन कुनै प्रयोगकर्ताले प्रम्प्टमा टाइप गरेको जस्तै हो। तिनीहरूको प्रयोगमा, तिनीहरूले पीडितले AI सँग पहिले नै साझेदारी गरेको संवेदनशील डेटा चुहावट गर्न सक्षम थिए।
वारोनिसले माइक्रोसफ्टलाई आफ्नो निष्कर्ष रिपोर्ट गरे जसले गत हप्ताको सुरुमा प्वालहरू प्लग गर्यो र URL मार्फत तत्काल इंजेक्शन आक्रमणहरू गरे।
वास्तविक-विश्व परीक्षण र तुलनाहरूमा आधारित हाम्रा शीर्ष छनोटहरू
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो समाचार, फिडको समीक्षा र विज्ञहरू लिनुहोस्। फलो गर्ने बटनमा क्लिक गर्न नबिर्सनुहोस्!
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।