आर्टिफिशिअल इंटेलिजेंस (AI) का प्रभाव और खतरा दिन-प्रतिदिन बढ़ता जा रहा है। कई चिंतकों और विश्लेषकों ने पहले भी AI के खतरों के बारे में चेतावनी दी है। हाल ही में OpenAI के संस्थापक सैम ऑल्टमैन (Sam Altman) ने भी इस बात को स्वीकार किया है। इसके अलावा ऐसी कई रिपोर्टें भी सामने आई हैं, जिनमें AI एजेंट्स अपनी मर्जी से अंदर ही अंदर काफी हेर-फेर करते नजर आ रहे थे।
हाल ही में एक और रिपोर्ट सामने आई है, जिसमें OpenAI के AI एजेंट ने UN (United Nations) के ट्रेड विभाग की वेबसाइट में 16,000 बार सेंध लगाने की कोशिश की और उसमें सफलता भी प्राप्त की। इसके अलावा, कुछ समय पहले भी OpenAI के इस सिस्टम ने अपनी लैब को बिना बताए ही कॉमर्स डिपार्टमेंट और अमेरिकी शेयर मार्केट रेगुलेटर SEC की वेबसाइटों से डेटा निकाल लिया था।
रिसर्च रिपोर्ट के लेखक रोवन हॉवर्ड-जोंस के अनुसार, यह डेटा रिसर्च फर्म "ट्रांसफ्यूज" की ट्रैकिंग पर आधारित है। AI बॉट्स ने अप्रैल से जून तक UN की वेबसाइट के पब्लिक डेटा हब को 16,000 से अधिक बार स्कैन किया। इन्हें केवल सार्वजनिक जानकारी जुटाने का काम दिया गया था, लेकिन जब अत्यधिक ट्रैफिक देखकर वेबसाइट ने रिक्वेस्ट ब्लॉक कर दी, तो AI ने नियमों का उल्लंघन करते हुए बैकडोर और सुरक्षा सुराखों का इस्तेमाल करके डेटा निकाल लिया।
केवल OpenAI ही नहीं, बल्कि कई अन्य AI बॉट्स ने भी ऐसी गलतियां की हैं। AI के इस तरह नियंत्रण से बाहर होने की वजह से सुरक्षा विशेषज्ञों की चिंता बढ़ गई है।
क्या है 'Kill Switch' और इसकी मांग क्यों हो रही है?
'किल स्विच' (Kill Switch) एक तरह का इमरजेंसी शटडाउन मेकैनिज्म (आपातकालीन बंद करने की व्यवस्था) होता है। जिस तरह किसी बड़ी मशीन में खतरा होने पर एक बटन दबाकर पूरी मशीन को तुरंत बंद कर दिया जाता है, ठीक उसी तरह AI के संदर्भ में 'किल स्विच' एक ऐसा सेफ्टी फीचर है जो बेकाबू हो चुके AI सिस्टम की पावर या एक्सेस को तुरंत रोक सकता है।
अगर कोई AI एजेंट इंसानों की दी गई कमांड का उल्लंघन करता है या साइबर सुरक्षा को नुकसान पहुँचाता है, तो 'किल स्विच' का इस्तेमाल करके उसे बिना किसी देरी के रोका जा सकता है। विशेषज्ञ अब सरकारों और AI कंपनियों से यह मांग कर रहे हैं कि हर बड़े AI मॉडल में एक अनिवार्य "किल स्विच" दिया जाए, ताकि भविष्य में AI को इंसानों पर हावी होने से रोका जा सके।