माइक्रोसफ्टको एआई सुरक्षा टोलीले इन्टरप्राइज भाषा मोडेलहरू भित्र लुकेका प्रशिक्षण ब्याकडोरहरू चुपचाप कसरी जीवित रहन्छ भनेर प्रकट गर्दछ।

माइक्रोसफ्टले नयाँ डिजाइनको घोषणा गरेको छ schidnera> पत्ता लगाउन नयाँ डिजाइन इन्टरप्राइज वातावरणमा प्रयोग हुने ओपन-वेट ठूला भाषा मोडेलहरूमा ब्याकडोरहरू।

यी ब्याकडोरहरू प्रभावकारी रूपमा डेटा-लिंकमा रहन सक्छन्, <लिंक-डाटालाई प्रभावकारी रूपमा अनुमति दिन्छ।" href="https://www.techradar.com/computing/artificial-intelligence/best-llms" data-url="https://www.techradar.com/computing/artificial-intelligence/best-llms" data-hl-processed="none" data-mrf-recirculation="inline-link" data-before-rewrite-localise="https://www.techradar.com/computing/artificial-intelligence/best-llms">LLMs संकीर्ण रूपमा परिभाषित ट्रिगर अवस्थाहरूले अनपेक्षित प्रतिक्रियाहरू सक्रिय नगरेसम्म सामान्य रूपमा व्यवहार गर्न। data-mrf-recirculation=”Trending Bar” data-nosnippet=”” class=”clear-both pt-3 pb-4 mb-4 border-solid border-y border-neutral-300″>

तपाईलाई मन पर्न सक्छ

> id=”cd2c02fb-d1e2-4575-bef2-e58e65bd58c0″>“जसरी गोद लिने क्रम बढ्दै जान्छ, सुरक्षा उपायहरूमा विश्वास पनि बढ्नुपर्छ: जबकि ज्ञात व्यवहारहरूको परीक्षण अपेक्षाकृत सरल छ, अझ महत्त्वपूर्ण चुनौती अज्ञात वा विकसित हुने विरुद्ध आश्वासन निर्माण गर्नु हो” <लिंक-डाटामा माइक्रोसफ्टले भन्यो-" href="https://www.microsoft.com/en-us/security/blog/2026/02/04/detecting-backdoored-language-models-at-scale/" target="_blank" rel="nofollow" data-url="https://www.microsoft.com/en-us/security/blog/2026/02/04/detecting-backdoored-language-models-at-scale/" referrerpolicy="no-referrer-when-downgrade" data-hl-processed="none" data-mrcib-line="none" data-mrlogin पोस्ट।

कम्पनीको एआई सुरक्षा टोलीले स्क्यानरलाई विषाक्त मोडेलहरूको उपस्थितिलाई संकेत गर्ने तीनवटा अवलोकनयोग्य संकेतहरूमा निर्भर रहेको टिप्पणी गर्छ।

प्रम्प्टमा ट्रिगर वाक्यांश समावेश गर्दा पहिलो संकेत देखा पर्दछ, जसले मोडेलको ध्यान संयन्त्रहरूलाई ट्रिगरलाई अलग गर्नको लागि आउटपुट साइन इनडोम>

सेकेन्ड साइन्स व्यवहार घटाउँछ। जहाँ ब्याकडोर मोडेलहरूले सामान्य प्रशिक्षण जानकारीमा भर पर्नुको सट्टा ट्रिगर वाक्यांशहरू सहित तिनीहरूको आफ्नै विषाक्त डेटाका तत्वहरू चुहावट गर्छन्। newsletterForm-articleInbodyContent-JyJCCcHGCogw63uCopmyWG slice-container-newsletterForm”>