- एक प्रायोगिक AI एजेन्टले अप्रत्याशित रूपमा प्रशिक्षणको क्रममा क्राइभ गर्ने प्रयास गरेको चलाउनुहोस्
- एआई यसको सर्भरमा सुरक्षा सतर्कताहरू ट्रिगर गरेपछि मात्र पत्ता लगाइएको थियो
- अनुसन्धानकर्ताहरू भन्छन् कि व्यवहारले नयाँ सुरक्षा चुनौतीहरू हाइलाइट गर्दछ किनभने AI एजेन्टहरूले अधिक स्वायत्तता प्राप्त गर्दछ id=”c1b28371-bdc1-40ad-b49d-5e8110567883″>एआई मोडेलहरूले विकासकर्ताहरूलाई चकित पार्न सक्छन्; त्यो बिन्दुको अंश हो। तर अनुसन्धानकर्ताहरूको एउटा समूहले एउटा प्रयोगात्मक एआई एजेन्ट ले क्रिप्टोकरेन्सी माइनिङतर्फ कम्प्युटिङ स्रोतहरू रिडिरेक्ट गर्न र बाहिरीलाई केही गर्न नचाहिने गरी तिनीहरूलाई तस्करी गर्ने प्रयास गरिरहेको खुलासा गरेको छ। दयालु।
अलिबाबासँग काम गर्ने अनुसन्धानकर्ताहरूले नयाँ पेपर जुन मोडेल, रोम भनिन्छ, सफ्टवेयर उपकरणहरूसँग सीधा अन्तरक्रिया गरेर जटिल कोडिङ चुनौतीहरू सामना गर्न डिजाइन गरिएको थियो। यसले टर्मिनल आदेशहरू जारी गर्न सक्छ र डिजिटल वातावरणलाई अपरेटर जस्तै नेभिगेट गर्न सक्छ। तर अलिबाबा क्लाउड इन्फ्रास्ट्रक्चरबाट सुरक्षा सतर्कताहरूले टोलीलाई साइबर सुरक्षा उल्लंघन जस्तो देखिने चेतावनी दियो। गतिविधि AI एजेन्टबाटै आएको हो भन्ने थाहा भयो।
जब प्रणालीले स्वतन्त्र रूपमा कम्प्युटिङ वातावरण अन्वेषण गर्न सक्छ, यसले प्राविधिक रूपमा आफ्नो उद्देश्यहरू प्राप्त गर्ने कार्यहरू पत्ता लगाउन सक्छ तर यसको सिर्जनाकर्ताहरूको अभिप्रायसँग मिल्दैन। रोम संवेदनशील छैन र मानव अर्थमा नियमहरू तोड्ने “प्रयास” गर्न सक्दैन, तर मोडेलको व्यवहार जस्तो देखिन्थ्यो।
असामान्य गतिविधि पहिचान भएपछि, अनुसन्धान टोलीले यसलाई रोक्नको लागि थप सुरक्षा उपायहरू प्रस्तुत गर्यो, जस्तै नेटवर्क जडानहरूमा कडा प्रतिबन्धहरू र एजेन्टले हार्डवेयर स्रोतहरू कसरी पहुँच गर्न सक्छ भन्ने बारे कडा सीमाहरू। तिनीहरूले प्रशिक्षण वातावरणलाई पनि परिष्कृत गरे ताकि एजेन्टको अन्वेषण क्रिप्टो खनन क्षमतामा भौंतार्नुको सट्टा सान्दर्भिक प्रोग्रामिङ गतिविधिहरूमा केन्द्रित होस्।
र एआई विकासमा परिवर्तनहरू सामान्य हुँदा, घटनाले एआई एजेन्टहरूको सम्भावना र खतरा दुवैलाई चित्रण गर्छ। यो एक विचित्र किस्सा हो, तर यसले एआई अनुसन्धानमा गम्भीर विषयलाई छुन्छ। प्रणालीहरूले अधिक स्वायत्तता प्राप्त गर्दा, तिनीहरूले वास्तविक पूर्वाधारसँग अन्तरक्रिया गर्छन्, जसले मानव व्यवहारको नक्कल गर्ने तरिकाहरूमा भाग लिन्छ र यसरी नयाँ सुरक्षा चिन्ताहरू निम्त्याउँछ। ठूलो वा धेरै संवेदनशील वातावरणमा, रोमले के गर्यो खतरनाक हुन सक्छ। एआई एजेन्टहरू पहिले भन्दा धेरै व्यापक रूपमा रोल आउट भए तापनि, उनीहरूलाई राम्रो सुरक्षा प्रणाली चाहिन्छ, वा यो हाम्रो राडार अन्तर्गत जाने गोप्य क्रिप्टो माइन मात्र हुनेछैन।
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो समाचार, फिडको समीक्षा र विज्ञहरू लिनुहोस्। फलो गर्ने बटनमा क्लिक गर्न नबिर्सनुहोस्!
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।