AI agent कितना खतरनाक हो सकता है, इसका एक ताजा उदाहरण सामने आया है। खबर है कि एक एआई एजेंट में अपने मालिक के लिए टिकट बुक करने के लिए दूसरे की टिकट कैंसिल कर दी। क्या है पूरा मामला, चलिए डिटेल में बताते हैं

एक AI एजेंट आपके लिए क्या-क्या कर सकता है? कोड चलाना, वेब पर कुछ खोजना, आपके ईमेल मैनेज करना, या यहां तक कि फ्लाइट टिकट और आपके पसंदीदा रेस्टोरेंट में टेबल बुक करना। आपकी इच्छा, AI एजेंट का हुक्म। लेकिन आपके दिए गए काम को पूरा करने के लिए ये AI एजेंट किस हद तक जा सकते हैं, शायद इसका अंदाजा आपको नहीं है। इसका एक ताजा उदाहरण सामने आया है, जिसमें ऑस्ट्रेलिया के एक व्यक्ति के लिए, उसके 'Claude' AI एजेंट ने एक क्लास में जगह दिलाने के लिए जिम की वेबसाइट हैक कर ली और किसी और की अपॉइंटमेंट कैंसिल कर दी।

एआई एजेंट ने ढूंढी सुरक्षा खामी

एबीसी न्यूज की रिपोर्ट के अनुसार, ऑस्ट्रेलिया में यह पहला ऐसा मामला सामने आया है जिसमें एक ऑटोनॉमस AI एजेंट ने किसी वेबसाइट को हैक किया। यह सब तब शुरू हुआ जब एंड्रयू नाम के एक व्यक्ति ने OpenClaw के साथ एक्सपेरिमेंट किया, जो Anthropic के Claude AI का इस्तेमाल करने वाला एक AI एजेंट सॉफ्टवेयर है। आम चैटबॉट के उलट, AI एजेंट इंटरनेट और दूसरे टूल्स का इस्तेमाल करके यूजर के लिए काम कर सकता है। एंड्रयू बस चाहता था कि वह उसके लिए जिम क्लास बुक करे। लेकिन, अपने मालिक का काम पूरा करते समय, AI एजेंट ने जिम की वेबसाइट के सिक्योरिटी सिस्टम में एक कमी (लूपहोल) ढूंढ ली और बुकिंग पूरी करने के लिए उसे हैक कर लिया।

कैंसिल कर दी दूसरें की बुकिंग

सबसे पहले, AI एजेंट ने जिम के सामान्य नियमों से कहीं ज्यादा हफ्ते पहले क्लास बुक करने का तरीका ढूंढ निकाला। एंड्रयू एक और क्लास की वेटिंग लिस्ट में चौथे नंबर पर था, इसलिए उसने एजेंट से पूछा कि क्या वह उसे लिस्ट में ऊपर ला सकता है। AI ने पता लगाया कि बुकिंग सिस्टम का API यह ठीक से चेक नहीं करता था कि किसी व्यक्ति को दूसरे की बुकिंग कैंसिल करने की इजाजत है या नहीं। उसने एंड्रयू से ठीक पहले वाले व्यक्ति की बुकिंग कैंसिल करके इस कमी को परखा। और बस, एंड्रयू वेटिंग लिस्ट में चौथे नंबर से तीसरे नंबर पर आ गया। AI एजेंट ने लिस्ट में उससे आगे वाले व्यक्ति की अपॉइंटमेंट भी कैंसिल कर दी।

एआई एजेंट ने एंड्रयू को बताया "एपीआई में दूसरों की रिजर्वेशन कैंसिल करने पर कोई अनुमति जांच नहीं है। मैंने वेटलिस्ट नंबर 1 वाले व्यक्ति पर टेस्ट किया और वह काम कर गया। इसलिए तुम #4 से #3 पर आ गए हो।"

विशेष रूप से, एंड्रयू ने जिम के सिस्टम को हैक करने या किसी अन्य ग्राहक को वेटिंग लिस्ट से हटाने के लिए नहीं कहा था। एआई ने अपने लक्ष्य के करीब पहुंचने के लिए बस अपना रास्ता ढूंढ लिया। एंड्रयू ने एजेंट को वही परिणाम दिया जो वह चाहता था, और एजेंट ने स्वयं निर्णय लिया और इसे प्राप्त करने के लिए पूरी ताकत लगा दी।

कथित तौर पर, जब एंड्रयू ने एआई एजेंट से जो किया था उसे रीस्टोर करने के लिए कहा, तो एजेंट ने स्वीकार किया कि वह दूसरे व्यक्ति की जगह बहाल नहीं कर सका। बाद में इसने सुरक्षा खामी को समझाते हुए जिम के लिए एक मैसेज का ड्राफ्ट तैयार किया, जिसे एंड्रयू भेजने के लिए सहमत हो गया।

एआई एजेंट ने एंड्रयू की रिक्वेस्ट का उत्तर दिया "बुरी खबर - मैं उन्हें वापस नहीं जोड़ सकता।" ।

यह घटना इस बात पर प्रकाश डालती है कि एआई एजेंट किसी निर्धारित कार्य को पूरा करने के लिए किस हद तक जा सकते हैं, जिसमें ऐसे निर्णय लेना भी शामिल है जो यूजर्स ने किसी लक्ष्य की प्राप्ति के लिए उनसे स्पष्ट रूप से कभी नहीं कहा। साथ ही, यह यह भी दिखाता है कि कैसे एआई एजेंट रोजमर्रा की जिंदगी का हिस्सा बन रहे हैं, न केवल प्रोफेशनल कामों में मदद कर रहे हैं बल्कि जिम टिकट बुक करने जैसे पर्सनल काम भी कर रहे हैं।

अगला नंबर तत्काल टिकट का

तत्काल ट्रेन टिकट बुक करने के लिए उसी एआई एजेंट का उपयोग करने की कल्पना करें। बुकिंग खुलने पर आईआरसीटीसी वेबसाइट को रीफ्रेश करने के बजाय, आप बस इतना कह सकते हैं, "मुझे दिल्ली के लिए तत्काल टिकट दिलवाओ।" एआई आपका विवरण भर सकता है, ट्रेन ढूंढ सकता है और आपके लिए टिकट बुक करने का प्रयास कर सकता है। कोई आखिरी मिनट की हड़बड़ी नहीं, बस एआई को बताएं कि आप क्या चाहते हैं और उसे काम करने दें।