- OpenAI ले प्रम्प्ट इन्जेक्सन मात्र हटाउन सक्छ भन्छ। न्यूनीकरण गरिएको
- वेबसाइटहरूमा लुकेका मालिसियस प्रम्प्टहरूले एआई ब्राउजरहरूलाई डेटा बाहिर निकाल्न वा मालवेयर स्थापना गर्न चलाउन सक्छ
- ओपनएआईको द्रुत प्रतिक्रिया लूपले कडा प्रतिरक्षा गर्न विरोधी प्रशिक्षण र स्वचालित खोज प्रयोग गर्दछ
OpenAI ले दावी गरेको छ जबकि AI
कम्पनीले एउटा नयाँ प्रकाशित गर्यो ब्लग पोस्ट यसको
“प्रम्प्ट इन्जेक्सन, वेबमा घोटाला र सामाजिक ईन्जिनियरिङ्जस्तै, ‘कहिल्यै पनि पढिने सम्भावना छैन। “तर हामी आशावादी छौं कि एक सक्रिय, उच्च प्रतिक्रियाशील द्रुत प्रतिक्रिया लूपले समयको साथ वास्तविक-विश्व जोखिमलाई भौतिक रूपमा घटाउन जारी राख्न सक्छ। विरोधी प्रशिक्षण र प्रणाली-स्तर सुरक्षाका साथ स्वचालित आक्रमण खोज संयोजन गरेर, हामी नयाँ आक्रमण ढाँचाहरू पहिले पहिचान गर्न सक्छौं, खाली ठाउँहरू छिटो बन्द गर्न सक्छौं, र लगातार शोषणको लागत बढाउन सक्छौं।”
तपाईलाई मन पर्न सक्छ
. id=”rapid-response-loop-3″>रैपिड रेस्पोन्स लुप
त्यसोभए प्रोम्प्ट इन्जेक्शन भनेको के हो, र यो “द्रुत प्रतिक्रिया लूप” दृष्टिकोण के हो?
प्रोम्पटमा प्रोम्प्ट प्रकारको प्रोम्प्ट कुन हो? पीडितको AI एजेन्टलाई तिनीहरूको जानकारी वा सहमति बिना “इजेक्सन” गरियो।
उदाहरणका लागि, एआई ब्राउजरलाई वेबसाइटका सबै सामग्रीहरू पढ्न अनुमति दिन सकिन्छ। यदि त्यो वेबसाइट मालिसियस (वा हाइज्याक गरिएको) छ र लुकेको प्रम्प्ट (उदाहरणका लागि सेतो पृष्ठभूमिमा सेतो अक्षरहरू) समावेश छ भने, AI ले प्रयोगकर्ताले केही पनि नबुझेर त्यसमा कार्य गर्न सक्छ।
त्यो प्रम्प्ट विभिन्न चीजहरू हुन सक्छ, संवेदनशील फाइलहरू बाहिर निकाल्ने, डाउनलोड गर्न र खराब ब्राउजर एडअनहरू चलाउनसम्म।
वास्तविक-विश्व परीक्षण र तुलनाहरूमा आधारित हाम्रा शीर्ष छनोटहरू
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो समाचार, फिडको समीक्षा र विज्ञहरू लिनुहोस्। फलो गर्ने बटनमा क्लिक गर्न नबिर्सनुहोस्!
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।