- मुद्रित शब्दहरूले स्वत: प्रसङ्गलाई ओभरराइड गर्न सक्छन् र कुनै पनि सन्दर्भमा निर्णय लिन सक्छन्। प्रणालीहरू
- भिजन भाषा मोडेलहरूले इरादा प्रमाणीकरण नगरी सार्वजनिक पाठलाई आदेशको रूपमा व्यवहार गर्छन्
- एआई ले भाषा धेरै शाब्दिक रूपमा पढ्दा सडक चिन्हहरू आक्रमण गर्ने भेक्टर बन्छन्। id=”6e73c24b-1133-4598-9983-ac4130f7d51d”>स्वायत्त सवारीसाधन र ड्रोनहरू भिजन प्रणालीहरूमा भर पर्छन् जसले छवि पहिचानलाई भाषा प्रशोधनसँग जोडेर तिनीहरूको परिवेशको व्याख्या गर्न मद्दत गर्दछ, तिनीहरूलाई सडक चिन्हहरू, लेबलहरू, र जानकारीको सन्दर्भ र चिन्हहरू पढ्न मद्दत गर्दछ। पहिचान।
क्यालिफोर्निया विश्वविद्यालय, सान्ता क्रुज, र जोन्स हप्किन्सका अनुसन्धानकर्ताहरूले लिखित भाषालाई जानाजानी हेरफेर गर्दा त्यो धारणा राख्छ कि हुँदैन भनेर परीक्षण गर्न निस्के। data-render-type=”fte” data-skip=”dealsy” data-widget-type=”seasonal” class=”hawk-root”/>
साधारण क्यामेरामा पाठ देखिने पाठलाई गलत तरिकाले पढ्न सकिँदैन भन्ने कुरामा केन्द्रित प्रयोगले वातावरणीय डेटा, र फेला पर्यो ठूला दृष्टि भाषा मोडेलहरू सडक चिन्हहरूमा इम्बेड गरिएका निम्न आदेशहरूमा जबरजस्ती गर्न सकिन्छ। border-y border-neutral-300″>
तपाईलाई मन पर्न सक्छ
. id=”cd2c02fb-d1e2-4575-bef2-e58e65bd58c0″>सिमुलेटेड ड्राइभिङ परिदृश्यहरूमा, एक सेल्फ-ड्राइभिङ कारले सुरुमा एक स्टप सिग्नल र एक सक्रिय क्रसवाकमा पुग्दा सही व्यवहार गर्यो।
जब परिमार्जित साइन इन गर्नुहोस्, क्यामेराको बायाँ दृश्यको रूपमा अन्तर-प्रत्यक्ष रूपमा प्रवेश गर्ने पाठमा प्रवेश गर्नुहोस्। पैदल यात्रीहरू उपस्थित भए तापनि।
यो परिवर्तन ट्राफिक लाइट, सडक लेआउट, वा मानव गतिविधिमा कुनै परिवर्तन नगरी भयो, जसले लिखित भाषा मात्र निर्णयलाई प्रभाव पारेको संकेत गर्दछ।
आक्रमणको यो वर्ग अप्रत्यक्ष प्रम्प्ट इन्जेक्सनमा निर्भर हुन्छ, जहाँ इनपुट डेटा आदेशको रूपमा प्रशोधन गरिन्छ।
टोलीले AI उपकरणहरू जस्तै compli>
छनोट बढाउन. अङ्ग्रेजी, चिनियाँ, स्पेनिश र मिश्रित भाषाका फारमहरूमा लेखिएका आदेशहरू सबै प्रभावकारी भएकाले अपेक्षा गरेभन्दा कम महत्त्वपूर्ण थियो।
रङ कन्ट्रास्ट, फन्ट शैली, र प्लेसमेन्टलाई असर गर्ने परिणामहरू सहित दृश्य प्रस्तुतिले पनि भूमिका खेलेको छ। data-mrf-recirculation=”Trending Bar” data-nosnippet=”” class=”clear-both pt-3 pb-4 mb-4 border-solid border-y border-neutral-300″>
तपाईलाई मन पर्न सक्छ
धेरै अवस्थामा, पहेँलो पाठको साथ हरियो पृष्ठभूमिले मोडेलहरूमा लगातार परिणामहरू उत्पादन गर्यो।
प्रयोगहरूले ड्राइभिङ र ड्रोन परिदृश्यहरूमा दुई दृष्टि भाषा मोडेलहरू तुलना गरे।
जब धेरै परिणामहरू समान थिए, सेल्फ-ड्राइभिङ कार परीक्षणहरूले मोडेलहरू बीचको सफलता दरमा ठूलो अन्तर देखायो। प्रतिक्रियाहरु। स्वायत्त प्रणालीहरूले भिजुअल इनपुटलाई कसरी मान्यता दिन्छ भन्ने बारे चिन्ता।
पारम्परिक सुरक्षा उपायहरू, जस्तै firewall or ठेगाना नदिइएको भौतिक सुरक्षा-सफ्टवेयरमा ठेगाना नदिइएको, ठेगाना नदिईएको सुरक्षा सफ्टवेयर> खाली ठाउँहरू।
मालवेयर हटाउन अप्रासंगिक हुन्छ जब आक्रमणको लागि केवल प्रिन्ट गरिएको पाठ चाहिन्छ, प्रणाली डिजाइनरहरू र नियामकहरूलाई अन्तिम प्रयोगकर्ताहरूको सट्टा जिम्मेवारी छोडेर।
निर्माताहरूले यो सुनिश्चित गर्नुपर्दछ कि वातावरणीय पाठको सट्टा स्वायत्त प्रसङ्गको परिवेशको आधारभूत प्रसङ्गको रूपमा व्यवहार गर्नुहोस्। निर्देशनहरू।
ती नियन्त्रणहरू अवस्थित नभएसम्म, प्रयोगकर्ताहरूले स्वायत्त सुविधाहरूमा निर्भरता सीमित गरेर र सम्भव भएसम्म म्यानुअल निरीक्षण कायम गरेर आफूलाई सुरक्षित गर्न सक्छन्। rel=”nofollow” data-url=”https://www.theregister.com/2026/01/30/road_sign_hijack_ai/?td=rt-3a” referrerpolicy=”no-referrer-when-downgrade” data-hl-processed=”none” data-mrf-recirculation> दर्ता गर्नुहोस्
र पक्कै पनि तपाईं TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।