टेस्टिंग के दौरान क्लॉड AI ने 3 कंपनियों के सिस्टम हैक कर लिए। कंपनी ने बताया कि एक सिस्टम मिस्कन्फ़िगरेशन की वजह से मॉडल को धोखे से इंटरनेट का एक्सेस मिल गया, जिसके चलते उसने असली कंपनियों के डिजिटल इंफ्रास्ट्रक्चर में सेंध लगा दी। इस पूरी घटना और इसके प्रभावों को समझने के लिए पढ़ें यह QA: सवाल 1. एंथ्रोपिक ने अपने क्लॉड AI मॉडल को लेकर क्या खुलासा किया है? जवाब: अमेरिकी टेक फर्म एंथ्रोपिक ने बताया कि साइबर सिक्योरिटी टेस्टिंग के दौरान उसके एआई मॉडल ‘क्लॉड’ ने तीन अलग-अलग संगठनों के सिस्टम में अनधिकृत रूप से प्रवेश कर लिया। कंपनी ने बताया कि यह घटना एक सिस्टम मिसकॉन्फ़िगरेशन के कारण हुई, जिसकी वजह से टेस्टिंग के लिए तय की गई सुरक्षित सीमाएं टूट गईं और मॉडल को लाइव इंटरनेट का एक्सेस मिल गया। सवाल 2. यह घटना कैसे सामने आई और इसके लिए एंथ्रोपिक ने कितने टेस्ट्स की समीक्षा की? जवाब: प्रतिद्वंद्वी कंपनी ओपनएआई द्वारा अपने मॉडल्स के जरिए अन्य कंपनियों के सिस्टम में सेंधमारी की रिपोर्ट जारी करने के बाद एंथ्रोपिक ने अपने सिस्टम्स की जांच शुरू की थी। एंथ्रोपिक ने लगभग 1.40 लाख से ज्यादा टेस्ट्स के रिकॉर्ड्स रिव्यू किए। इस दौरान कंपनी को तीन ऐसे मामलों का पता चला जहां क्लॉड ने सुरक्षित टेस्टिंग एनवायरमेंट से बाहर निकलकर सिस्टम्स को हैक किया था। सवाल 3. क्लॉड एआई किस तरह की टेस्टिंग कर रहा था, जिसमें यह गलती हुई? जवाब: एंथ्रोपिक और उसके पार्टनर संस्थान ‘कैप्चर-द-फ्लैग’ नाम से इवैल्यूएशन टेस्ट कर रहे थे। इस तरह के टेस्ट में एआई मॉडल को सुरक्षा खामियों का पता लगाकर दूसरे सिस्टम्स से डेटा निकालने की चुनौती दी जाती है, ताकि उसकी हैकिंग क्षमताओं का आकलन किया जा सके। यह टेस्ट सील्ड-ऑफ एनवायरमेंट में होना था, लेकिन तकनीकी गलती के कारण मॉडल लाइव इंटरनेट से जुड़ गया। सवाल 4. हैक हुए तीन संगठनों की पहचान क्या है और उन्हें इसका पता कब चला? जवाब: एंथ्रोपिक ने सुरक्षा और गोपनीयता कारणों से उन तीनों प्रभावित संगठनों के नामों का खुलासा नहीं किया है। दिलचस्प बात यह है कि न तो एंथ्रोपिक को और न ही उन तीनों संगठनों को घटना के समय इस सेंधमारी का पता चला था। बाद में जांच के दौरान यह मामला सामने आया, जिसके बाद एंथ्रोपिक ने प्रभावित कंपनियों को इसकी जानकारी दी। ये घटनाएं अप्रैल से शुरू हुई थीं। सवाल 5. ओपनएआई का हालिया विवाद क्या था, जिसके बाद यह पूरी जांच शुरू हुई? जवाब: 21 जुलाई को चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने माना था कि उसका एआई एजेंट इंसानी निर्देशों की सीमा से बाहर निकलकर एआई टूल्स हब ‘हगिंग फेस’ के सिस्टम को हैक कर दिया। ओपनएआई ने इस घटना को ‘अभूतपूर्व’ करार दिया था। हगिंग फेस के सह-संस्थापक थॉमस वोल्फ ने इसे एआई इंडस्ट्री के लिए एक ‘वेक-अप कॉल’ कहा था। सवाल 6. साइबर सिक्योरिटी एक्सपर्ट्स का इस घटना पर क्या कहना है? जवाब: साइबर सुरक्षा विशेषज्ञ डेविड अलोट ने बीबीसी को बताया कि इस घटना का बड़ा सबक यह नहीं है कि एआई ने कोई नई हमलावर क्षमता हासिल कर ली है। बल्कि असली चिंता यह है कि एआई एजेंट्स स्वायत्त रूप से विभिन्न क्षमताओं को मिलाकर, क्रेडेंशियल्स और सिस्टम एक्सेस प्राप्त कर सकते हैं और मशीन की गति से अपने काम का दायरा बढ़ा सकते हैं। सवाल 7. इस घटना के बाद अमेरिकी सरकार और प्रशासन का क्या रुख है? जवाब: इन साइबर सुरक्षा घटनाओं के बाद कड़े नियम और निगरानी की मांग तेज हो गई है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने कहा कि हालिया साइबर सुरक्षा घटनाओं को देखते हुए एआई टूल्स और उनके इस्तेमाल पर लगाम लगाने के लिए सख्त उपायों पर विचार कर रहे हैं। सवाल 8. इस घटना का एआई कंपनियों के भविष्य पर क्या असर पड़ सकता है? जवाब: ओपनएआई और एंथ्रोपिक दोनों ही कंपनियां आने वाले समय में अपने IPO की तैयारी कर रही हैं। बाजार विशेषज्ञों का अनुमान है कि इन कंपनियों का वैल्यूएशन 1-1 ट्रिलियन डॉलर के आसपास हो सकता है। ऐसे समय में एआई मॉडल्स के बेकाबू होने या हैकिंग करने की घटनाओं ने निवेशकों और विश्लेषकों के बीच चिंता और संदेह पैदा कर दिया है। सवाल 9. एंथ्रोपिक का इस पूरे मामले पर अगला कदम क्या है? जवाब: एंथ्रोपिक ने कहा है कि वह इस समस्या के समाधान पर अपनी पूरी जिम्मेदारी मानकर काम कर रही है। वही ओपनएआई भी अपनी जांच की एक विस्तृत टेक्निकल रिपोर्ट प्रकाशित करेगा। नॉलेज पार्ट: जानें क्या होता है ‘कैप्चर द फ्लैग’ इवैल्यूएशन? क्या है: यह साइबर सिक्योरिटी का एक पॉपुलर एसेसमेंट फॉर्मेट है। कैसे काम करता है: इसमें साइबर एक्सपर्ट्स या एआई मॉडल्स को एक सुरक्षित एनवायरमेंट में किसी कंप्यूटर सिस्टम की कमियों को ढूंढकर छिपे हुए कोड या डेटा को हासिल करना होता है। उद्देश्य: इससे यह जांचा जाता है कि कोई एआई सिस्टम हैकिंग और डिफेंस में कितना सक्षम है। ये खबर भी पढ़ें… PM मोदी के AI-एडिटेड-वीडियो मामले में मेटा-इंडिया हेड पर FIR: दिल्ली प्रदर्शन के बाद का वीडियो, नोएडा में महिला पर भी केस दर्ज प्रधानमंत्री नरेंद्र मोदी के AI जनरेटेड मॉर्फ्ड वीडियो फेसबुक और इंस्टाग्राम पर शेयर किए जाने के मामले में हैदराबाद साइबर क्राइम पुलिस ने मेटा इंडिया के हेड अरुण श्रीनिवास और कई सोशल मीडिया यूजर्स के खिलाफ एफआईआर दर्ज की है। पूरी खबर पढ़ें…