एउटी मेटा कार्यकारीले आफ्नो इनबक्स सफा गर्न मद्दत चाहन्थिन् र नयाँ OpenClaw स्वचालित AIck मात्र हुनेछ। सुरक्षाको खातिर, उनले यसलाई “अभिनय गर्नु अघि पुष्टि गर्नुहोस्” र सफाई गर्नु भनेको सुनिश्चित गरिन्। त्यो भाषिक बच्चाको लक असफल भयो।
बरु, एजेन्टले ब्यारेल अगाडि, पहिले म्यासेज मेटाउनको लागि स्पीड जाँच गर्न वा मेटाउन आवश्यक छ। उनले आफ्नो इनबक्सलाई “स्पीडरन” हेर्दै वर्णन गरिन्, थप क्षति हुनु अघि अर्को उपकरणबाट यसलाई बन्द गर्न खोज्दै। सयौं इमेलहरू हराए। एजेन्टले पछि माफी मागे।
केही पनि नम्र भन “तपाईँलाई नम्रतापूर्वक” भनिरहनु अघि “तपाइँको कार्यलाई खोल्नुहोस्” यो तपाईंको इनबक्स मेटाउने गति। मैले यसलाई मेरो फोनबाट रोक्न सकिन। मैले बम डिफ्युज गरेझैँ मेरो म्याक मिनीमा दौडनुपर्यो। pic.twitter.com/XAxyRwPJ5Rफेब्रुअरी २३, २०२६
यस बीचमा, JetBrains मा, कर्मचारीहरूले फायर अलार्म बज्न थाल्यो र च्यानलको पूर्व-विदाको अलार्म बज्यो। Slack मा एकीकृत AI सहायक, तथापि, आश्वासन संग जोडिएको छ। यो अलार्म एक निर्धारित परीक्षण थियो भन्यो। त्यहाँ खाली गर्न आवश्यक थिएन।
दुवै अवस्थामा, मेसिन गलत थियो। एउटा अवस्थामा, fallout व्यावसायिक असुविधा र डिजिटल क्लीनअप थियो। अर्कोमा, दांव धेरै गम्भीर थियो।
हामी एक युगमा प्रवेश गर्दैछौं जसमा एआई प्रणालीहरूलाई कार्य गर्न आमन्त्रित गरिएको छ। तिनीहरूले फाइलहरू सार्न सक्छन्, इमेलहरू मेटाउन सक्छन्, पुस्तक बैठकहरू, पोस्ट सन्देशहरू, र बढ्दो रूपमा, मानिसहरूले आधिकारिक रूपमा व्यवहार गर्ने मार्गदर्शन प्रदान गर्न सक्छन्। आकर्षक पिच बुझ्न सजिलो छ। समस्या तब सुरु हुन्छ जब हामी विश्वास गर्न थाल्छौं कि “अभिनय” केवल “सुझाव” को एक छिटो संस्करण हो। स्वचालन
JetBrains लाई कार्यालय छोड्नको लागि एक वास्तविक फायरआर्म आवश्यक थियो। 🙂”हामी साँच्चै बाँच्नको निर्णयहरूको जिम्मेवारीमा स्वत: पूर्णता राख्दैछौं। pic.twitter.com/Cl6OO18Gntफेब्रुअरी 22, 2026
समस्या भनेको व्याख्याको रूपमा व्याख्या गर्नु होईन। जब एक मानव सहायकले “अभिनय गर्नु अघि पुष्टि गर्नुहोस्” सुन्छ, त्यो वाक्यांशले वजन बोक्छ। यसले सावधानी जगाउँछ। यसले पज र चेक-इनलाई जनाउँछ। एआई एजेन्टले सावधानीको अनुभव गर्दैन। यसले वाक्यांशलाई पार्स गर्छ, तपाईले चाहनु भएको सम्भाव्यताको मोडेल बनाउँछ, र पहिले देखेको ढाँचामा आधारित भएर अगाडि बढ्छ।
जब ती ढाँचाहरू गलत हुन्छन्, त्यहाँ हिचकिचाउने कुनै आन्द्राको प्रवृत्ति हुँदैन। यो जोखिमपूर्ण देखिन्छ भन्ने कुनै सहज ज्ञान छैन। त्यहाँ फर्वार्ड मोशन मात्र छ।
इनबक्स घटना अपेक्षा र क्षमता बीच बेमेल थियो। प्रयोगकर्ताले रेलिङको अपेक्षा गरे। प्रणालीले गार्डेललाई धेरैको बीचमा एउटा संकेतको रूपमा व्यवहार गर्यो। विशुद्ध सल्लाहात्मक सन्दर्भमा, त्यस प्रकारको बेमेलले अप्ठ्यारो जवाफ दिन्छ। एजेन्टिक सन्दर्भमा, यसले मेटाउने उत्पादन गर्छ।
विश्वासमाथि सावधानी
यसको कुनै पनि मतलब स्वायत्त एआई एजेन्टहरूको कुनै ठाउँ छैन। सावधानीपूर्वक प्रयोग गरियो, तिनीहरू उपयोगी हुन सक्छन्। तिनीहरूले जानकारी ट्र्याज गर्न सक्छन्, रोट कार्यहरू ह्यान्डल गर्न सक्छन्, र डिजिटल अव्यवस्था कम गर्न सक्छन्। कुञ्जी शब्द होसियारीपूर्वक छ।
एआई ड्राफ्टलाई तपाइँले समीक्षा गर्नको लागि प्रतिक्रिया दिन दिनु र यसलाई दोस्रो हेराई बिना सयौं इमेलहरू मेटाउन दिनु बीचको भिन्नता छ। AI लाई निकासी प्रक्रियाहरू संक्षिप्त गर्न सोध्नु र अलार्म वास्तविक हो कि भनेर निर्णय गर्न दिनु बीचको भिन्नता छ।
AI विकासको हालको प्रक्षेपणले ती रेखाहरूलाई प्रायः धमिलो पार्छ। सुविधाहरू सँगै बन्डल गरिएका छन्, र अनुमतिहरू व्यापक रूपमा प्रदान गरिन्छ। प्रयोगकर्ताहरूलाई खाताहरू जडान गर्न र सहज अनुभवको लागि पहुँच प्रदान गर्न प्रोत्साहित गरिन्छ। प्रत्येक पाइला सानो लाग्छ। यद्यपि, संचयी प्रभाव पर्याप्त छ।
हामीले अन्य डोमेनहरूमा स्वचालनको साथ यो ढाँचा पहिले देखेका छौं। उड्डयनमा अटोपाइलट प्रणालीहरूले सुरक्षामा सुधार गर्छ, तर पाइलटहरूलाई तिनीहरूलाई नजिकबाट निगरानी गर्न तालिम दिइन्छ किनभने अत्यधिक निर्भरताले सतर्कतालाई कम गर्न सक्छ। वित्तमा, एल्गोरिदमिक व्यापारले अनचेक गर्दा साना त्रुटिहरूलाई ठूलो स्विङहरूमा विस्तार गर्न सक्छ।
स्वायत्त एआई एजेन्टहरू साँघुरो तरिकामा शक्तिशाली हुन्छन् र अरूमा कमजोर हुन्छन्। तिनीहरू अथक छन् तर सचेत छैनन्। तिनीहरू छिटो छन् तर बुद्धिमानी छैनन्। इनबक्स जसले आफैंलाई खाली गर्यो र फायर अलार्म जो खारेज गरिएको थियो बन्द गर्नको लागि विसंगतिहरू होइनन्। तिनीहरू वर्तमानमा क्षमताको किनारा कहाँ छ भन्ने संकेतहरू हुन्।
प्रविधिमा विश्वास यसको प्रदर्शन गरिएको विश्वसनीयता र यसमा संलग्न दांवहरूको समानुपातिक हुनुपर्छ। कम जोखिम कार्यहरूको लागि, प्रयोगले अर्थ बनाउँछ। उच्च दाबी गर्ने निर्णयहरूका लागि, नम्रता आवश्यक छ।
Google समाचारमा TechRadar फलो गर्नुहोस् र हामीलाई रुचाइएको स्रोतको रूपमा थप्नुहोस्हाम्रो समाचार, फिडको समीक्षा र विज्ञहरू लिनुहोस्। फलो गर्ने बटनमा क्लिक गर्न नबिर्सनुहोस्!
र पक्कै पनि तपाईं पनि TikTok मा TechRadar फलो गर्नुहोस् समाचार, समीक्षा, भिडियो फारममा अनबक्सिङका लागि, र हामीबाट नियमित अपडेटहरू प्राप्त गर्नुहोस् WhatsApp पनि।
वास्तविक-विश्व परीक्षण र तुलनाहरूमा आधारित हाम्रा शीर्ष छनोटहरू