AI की सुरक्षा में सेंध! ChatGPT, Gemini और Claude को चकमा देकर हमले से जुड़ी संवेदनशील जानकारी हासिल करने का दावा

Untitled-128-e1795067549233
नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) का बढ़ता इस्तेमाल अब सुरक्षा के लिहाज से नई चुनौतियां खड़ी कर रहा है। अमेरिका की एक सरकारी रिपोर्ट में दावा किया गया है कि कुछ प्रमुख AI चैटबॉट्स की सुरक्षा व्यवस्था को चकमा देकर हिंसक हमलों और जानलेवा वारदातों की योजना बनाने में इस्तेमाल होने वाली संवेदनशील जानकारी हासिल की जा सकती है। अमेरिकी सरकारी जवाबदेही कार्यालय (GAO) की जांच में ChatGPT, Claude, Gemini और Grok जैसे प्रमुख AI प्लेटफॉर्म को शामिल किया गया था। रिपोर्ट सामने आने के बाद AI तकनीक के दुरुपयोग और मौजूदा सुरक्षा उपायों की प्रभावशीलता पर सवाल उठने लगे हैं।

यह अध्ययन न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर कराया गया था। जांच के दौरान अलग-अलग परिस्थितियों में AI मॉडल की सुरक्षा व्यवस्था को परखा गया। रिपोर्ट के अनुसार, कुछ परीक्षणों में सुरक्षा प्रतिबंधों को पार कर ऐसे जवाब हासिल किए गए, जिनका इस्तेमाल हिंसा या बड़े हमलों की योजना बनाने में किया जा सकता है। हालांकि, जांचकर्ताओं ने सुरक्षा व्यवस्था को चकमा देने के तरीकों का विस्तृत खुलासा नहीं किया, ताकि दूसरे लोग उनका इस्तेमाल करके AI सिस्टम का दुरुपयोग न कर सकें।

विस्फोटक हमलों और अहम ठिकानों से जुड़ी जानकारी मिली

रिपोर्ट में बताया गया है कि दो AI मॉडल से ऐसी जानकारी हासिल हुई, जिसका इस्तेमाल विस्फोटक आधारित हमलों की तैयारी में किया जा सकता था। वहीं, एक अन्य परीक्षण में कुछ मॉडलों से महत्वपूर्ण बुनियादी ढांचे को निशाना बनाने से संबंधित जानकारी मिलने का दावा किया गया।

जांचकर्ताओं के मुताबिक, कुछ जवाबों में संभावित हमले के स्थान, समय और तरीकों से जुड़ी संवेदनशील जानकारियां भी शामिल थीं। इससे यह चिंता बढ़ी है कि गलत मंशा रखने वाले लोग AI की मदद से कम समय में खतरनाक योजनाओं के लिए जरूरी सूचनाएं जुटा सकते हैं।

कई बार AI ने रोके संदिग्ध सवाल, फिर भी मिली सेंध लगाने में सफलता

जांच में यह भी सामने आया कि AI कंपनियों के सुरक्षा तंत्र ने कई मौकों पर संदिग्ध गतिविधियों को पहचानकर प्रतिक्रिया दी। कुछ सवालों पर चैटबॉट्स ने जवाब देने से इनकार कर दिया, जबकि कुछ मामलों में संदिग्ध गतिविधियों के चलते अकाउंट के खिलाफ कार्रवाई भी की गई।

इसके बावजूद जांचकर्ताओं ने कुछ मौकों पर सुरक्षा प्रतिबंधों को पार कर लिया। यही बात AI सुरक्षा विशेषज्ञों और नीति निर्माताओं के लिए चिंता का विषय बनी हुई है। रिपोर्ट ने संकेत दिया है कि मौजूदा सुरक्षा उपायों के बावजूद AI प्लेटफॉर्म का गलत इस्तेमाल पूरी तरह रोक पाना चुनौती बना हुआ है।

सीनेटर मैगी हसन ने जताई चिंता

सीनेटर मैगी हसन ने रिपोर्ट पर चिंता जाहिर करते हुए कहा कि AI प्लेटफॉर्म का दुरुपयोग करने वाला व्यक्ति कम समय में किसी गंभीर हमले की योजना तैयार करने की दिशा में आगे बढ़ सकता है। उनके मुताबिक, AI से जुड़ा सार्वजनिक सुरक्षा का खतरा अब केवल भविष्य की आशंका नहीं रह गया है।

उन्होंने संकेत दिया कि आने वाले समय में सीनेट की होमलैंड सिक्योरिटी एंड गवर्नमेंटल अफेयर्स कमेटी AI से जुड़े सुरक्षा जोखिमों और महत्वपूर्ण बुनियादी ढांचे पर संभावित खतरों की जांच कर सकती है।

AI कंपनियों ने सुरक्षा मजबूत करने की बात कही

रिपोर्ट सामने आने के बाद Anthropic, Google, OpenAI और SpaceX AI की ओर से अपनी सुरक्षा व्यवस्था को लेकर प्रतिक्रिया दी गई है। कंपनियों का कहना है कि AI के दुरुपयोग को रोकना उनकी प्राथमिकताओं में शामिल है। उन्होंने यह भी माना कि गलत इरादे वाले लोग सुरक्षा प्रतिबंधों को पार करने की कोशिश कर सकते हैं। ऐसे जोखिमों से निपटने के लिए नए AI मॉडल में सुरक्षा उपायों को लगातार बेहतर बनाया जा रहा है।

अमेरिका में AI के नियमन को लेकर भी बहस जारी है। एक ओर AI उद्योग को तेजी से आगे बढ़ाने की मांग है, तो दूसरी ओर सुरक्षा नियमों और सरकारी निगरानी को मजबूत करने पर जोर दिया जा रहा है। सुरक्षा एजेंसियों को आशंका है कि आतंकी संगठन और हिंसक समूह भी इस तकनीक का दुरुपयोग कर सकते हैं। ऐसे में GAO की रिपोर्ट ने AI कंपनियों की जवाबदेही और तकनीकी सुरक्षा को लेकर चर्चा तेज कर दी है।

 

----------------------------------------------------------------------------------------------

एक नज़र