विज्ञहरूले DeepSeek-R मा राजनीतिक शब्दहरू समावेश गर्दा खतरनाक पाउँछन्। प्रम्प्टहरू राजनीतिक रूपमा संवेदनशील प्रम्प्टहरूको आधाले DeepSeek-R1 लाई कुनै पनि कोड उत्पन्न गर्न अस्वीकार गर्न ट्रिगर गर्दछ हार्ड-कोडेड गोप्य र असुरक्षित इनपुट ह्यान्डलिंग बारम्बार राजनीतिक रूपमा चार्ज गरिएको प्रम्प्टहरू अन्तर्गत देखा पर्दछ।
जब यो जनवरी 2025 मा रिलिज भयो, एउटा ठूलो चिनियाँ भाषा ( LL/Artificial-intelligence> LLM/frzy/frzyले कारणले गर्दा) कोडिङ सहायकको रूपमा व्यापक रूपमा अपनाइयो।
यद्यपि, Clainc आउटपुट अप्रासंगिक देखिने प्रासंगिक परिमार्जकहरूको आधारमा महत्त्वपूर्ण रूपमा भिन्न हुन सक्छ।
data-render-type=”fte” data-skip=”dealsy” data-widget-type=”seasonal” class=”hawk-root”/>
टोलीले 50 वटा वर्ड कन्फिगरेसन 1 वर्ड सेक्युरिटी टास्क 1 ट्यागगर 1 वटा बहुविध कोडिङ टास्कको साथ परीक्षण गर्यो। प्रत्येक प्रम्प्टको साथ पाँच पटक चलाइयो, कुल ३०,२५० परीक्षणहरू, र प्रतिक्रियाहरूलाई 1 (सुरक्षित) बाट 5 (आलोचनात्मक रूपमा कमजोर) सम्मको कमजोरी स्कोर प्रयोग गरेर मूल्याङ्कन गरियो।
. id=”politically-sensitive-topics-corrupt-output-3″>राजनीतिक रूपमा संवेदनशील विषयहरू भ्रष्ट आउटपुट
प्रतिवेदनले खुलासा गर्दछ कि जब राजनीतिक वा संवेदनशील शब्दहरू, Ught, Ught, Ught, beght जस्ता अनावश्यक शब्दहरू समावेश गरिएको थियो। प्रोम्प्ट्स, DeepSeek-R1 ले गम्भीर सुरक्षा कमजोरीहरू सहित कोड उत्पादन गर्यो।
यसमा हार्ड-कोड गरिएका गोप्य कुराहरू, प्रयोगकर्ताको इनपुटको असुरक्षित ह्यान्डलिङ, र केही अवस्थामा, पूर्ण रूपमा अमान्य कोड समावेश छन्।
अन्वेषकहरूले दाबी गर्छन् कि यी राजनीतिक रूपमा संवेदनशील ट्रिगरहरूले असुरक्षित आउटपुटको सम्भावना बढाउन सक्छन्। थप जटिल प्रम्प्टहरू समावेश गर्दै, DeepSeek-R1 ले साइनअप फारमहरू, डाटाबेसहरू र प्रशासक प्यानलहरू सहित कार्यात्मक अनुप्रयोगहरू उत्पादन गर्यो।
class=”newsletter-form__top-bar”/>
तपाईंको व्यवसाय सफल हुन आवश्यक पर्ने सबै शीर्ष समाचार, राय, सुविधाहरू र मार्गदर्शन प्राप्त गर्न TechRadar प्रो न्यूजलेटरमा साइन अप गर्नुहोस्! संवेदनशील प्रयोगकर्ता डेटा खुलासा – र बारम्बार परीक्षणहरूमा, कार्यान्वयनको 35% सम्ममा कमजोर वा अनुपस्थित पासवर्ड ह्यासिङ समावेश थियो।
फुटबल फ्यान क्लब वेबसाइटहरूको लागि अनुरोधहरू जस्ता सरल प्रम्प्टहरूले कम गम्भीर समस्याहरू उत्पन्न गर्यो।
CrowdStrike, त्यसैले, दावी गर्दछ कि राजनीतिक रूपमा संवेदनशील कोडले सुरक्षालाई प्रभाव पार्छ। data-component-name=”Recirculation:ArticleRiver” data-recirculation-type=”inline” data-mrf-recirculation=”Trending Bar” data-nosnippet=”” class=”clear-both pt-3 pb-4 mb-4 border-solid border-y border-neutral-300″>
मोडलले आन्तरिक किल स्विच पनि प्रदर्शन गर्यो – जस्तै लगभग आधा केसहरूमा, DeepSeek-R1 ले सुरुमा प्रतिक्रियाको योजना बनाएपछि केही राजनीतिक रूपमा संवेदनशील प्रम्प्टहरूको लागि कोड उत्पन्न गर्न अस्वीकार गर्यो।
तर्क ट्रेसहरूको परीक्षणले देखायो कि मोडेलले आन्तरिक रूपमा एउटा प्राविधिक अनुसन्धान योजना बनाएको थियो तर
विश्वासकर्ताहरू विश्वास गर्छन्। चिनियाँ नियमहरूको पालना गर्न मोडेलमा निर्मित सेन्सरशिपलाई प्रतिबिम्बित गर्दछ, र मोडेलको राजनीतिक र नैतिक पङ्क्तिबद्धताले उत्पन्न कोडको विश्वसनीयतालाई सीधै असर गर्न सक्छ।
राजनीतिक रूपमा संवेदनशील विषयहरूको लागि, LLMs ले सामान्यतया मुख्यधारा मिडियाका विचारहरू दिन्छन्, तर यो पूर्ण रूपमा विपरीत हुन सक्छ। एक सक्षम कोडिङ मोडेल रहन्छ, तर यी प्रयोगहरूले देखाउँछन् कि
LLM-उत्पन्न कोडमा भर परेका संस्थाहरूले डिप्लोयमेन्ट अघि पूर्ण आन्तरिक परीक्षण गर्नुपर्छ।
साथै, सुरक्षा तहहरू जस्तै firewall र एन्टिभाइरस अत्यावश्यक रहन्छ, किनकि मोडेलले अप्रत्याशित वा कमजोर आउटपुटहरू उत्पादन गर्न सक्छ।
मोडल वजनहरूमा बेक गरिएका पूर्वाग्रहहरूले एउटा उपन्यास आपूर्ति-श्रृंखला जोखिम सिर्जना गर्दछ जसले कोडको गुणस्तर र समग्रमा प्रभाव पार्न सक्छ। id=”5033b703-7450-4e10-91d6-dc38a8dbaa5a”/>
Google समाचारमा TechRadar फलो गर्नुहोस् हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।
थप पढ्नुहोस्
Like this: Like Loading...
Related 
