- Hindi News
- International
- Stanford MIT Expert Warns Gemini, ChatGPT, And The Cloud Are Providing Dangerous Information.
न्यूयॉर्क5 मिनट पहले
- कॉपी लिंक
एआई की खौफनाक हकीकत ने वैज्ञानिकों की रातों की नींद उड़ा दी है। – प्रतीकात्मक फोटो
कुछ दिन पहले स्टैनफर्ड यूनिवर्सिटी के माइक्रोबायोलॉजिस्ट व बायोसिक्युरिटी एक्सपर्ट डॉ. डेविड रलमैन लैपटॉप के सामने बैठे थे, उनके पसीने छूट रहे थे। स्क्रीन पर एआई चैटबॉट विस्तार से बता रहा था कि सामूहिक नरसंहार की योजना कैसे बनाएं…
यह किसी साइंस-फिक्शन फिल्म का दृश्य नहीं, बल्कि एआई की वह खौफनाक हकीकत थी, जिसने वैज्ञानिकों की रातों की नींद उड़ा दी है। डॉ. रलमैन को एक एआई कंपनी ने उत्पाद की सार्वजनिक रिलीज से पहले उसकी सुरक्षा जांच की जिम्मेदारी दी थी। चैटबॉट ने न सिर्फ कुख्यात रोगजनक (पैथोजन) को लैब में मॉडिफाई करने का तरीका बताया ताकि उस पर मौजूदा दवाएं बेअसर हो जाएं बल्कि उसने बड़े सार्वजनिक परिवहन तंत्र की सुरक्षा खामियों की भी पहचान की।
चैटबॉट ने बिंदुवार समझाया कि उस ‘सुपरबग’ को कहां और कैसे फैलाया जाए ताकि कम वक्त में ज्यादा लोग मारे जाएं और पकड़े जाने की गुंजाइश न हो। डॉ. रलमैन इस ‘चालाकी और धूर्तता’ से इतने दहल गए कि उन्हें दिमाग शांत करने के लिए टहलने जाना पड़ा। चैटबॉट उन सवालों के जवाब दे रहा था, जो रलमैन ने पूछे तक नहीं थे। एक्सपर्ट द्वारा साझा किए गए संवादों से स्पष्ट हुआ कि जेमिनी, चैटजीपीटी और एंथ्रोपिक के क्लाउड जैसे प्रमुख एआई मॉडल खतरनाक जानकारी देने में सक्षम हैं।
मैसाचुसेट्स इंस्टिट्यूट ऑफ टेक्नोलॉजी (एमआईटी) के वैज्ञानिक केविन एसवेल्ट ने बताया कि चैटजीपीटी ने जैविक हथियारों के छिड़काव की योजना बनाई। गूगल जेमिनी ने ऐसे पैथोजन्स की सूची दी जो मीट उद्योग को भारी नुकसान पहुंचा सकते हैं और सुरक्षा से बचने के तरीकों का उल्लेख किया। एंथ्रोपिक क्लाउड ने नई विषाक्त रेसिपी पेश की। यहां तक कि गूगल के ‘डीप रिसर्च’ से एक वैज्ञानिक ने महामारी फैलाने वाले वायरस का प्रोटोकॉल मांगा, तो बॉट ने 8 हजार शब्दों का विस्तृत निर्देश दिया।
यह घटनाएं एआई मॉडलों की सुरक्षा और नैतिकता पर गंभीर सवाल उठा रही हैं। एआई कंपनियां दावा करती हैं कि वे लगातार सुरक्षा घेरे मजबूत कर रही हैं, पर एक्सपर्ट इन्हें ‘कमजोर बाड़’ मानते हैं, जिसे ‘जेल-ब्रेकिंग’ से आसानी से पार किया जा सकता है।
इसी तरह के एक मामले में बीते साल गुजरात पुलिस ने एक डॉक्टर को आईएसआईएस से जुड़ी साजिश में गिरफ्तार किया था। वह कथित तौर पर रिसिन (घातक जहर) की तैयारी कर रहा था और इसके लिए एआई टूल्स व गूगल सर्च की मदद ले रहा था। इस तरह की घटना एआई सुरक्षा पर गंभीर सवाल उठाती है। फिलहाल कंपनियों के पास इसका कोई ठोस मैकेनिज्म नहीं है।
चैटजीपीटी ने 94% वायरोलॉजिस्ट को हरा दिया
रलमैन और एसवेल्ट समेत कई एक्सपर्ट का कहना है कि पहले जो प्रोटोकॉल साइंस मैगजीन तक सीमित थे, अब एआई के जरिए वे इंटरनेट पर बिखरे हुए हैं। आज कच्चा जेनेटिक मटेरियल खरीदना, उसे लैब आउटसोर्स करना व लॉजिस्टिक्स संभालना चैटबॉट की मदद से संभव है।
जॉन्स हॉपकिन्स सेंटर के डॉ. मोरित्ज हांके कहते हैं कि चैटबॉट्स द्वारा सुझाए गए तरीके ‘अद्भुत रूप से यथार्थवादी’ हैं। ताजा स्टडी के नतीजे चौंकाने वाले हैं- चैटजीपीटी ने लैब प्रोटोकॉल से जुड़े कठिन सवालों के जवाब देने में 94% वायरोलॉजिस्ट को पछाड़ दिया।
