अमेरिका ने 'सुपर वेपन' और राष्ट्रीय सुरक्षा चिंताओं का हवाला देते हुए एंथ्रोपिक को शक्तिशाली AI तक पहुंच रोकने का आदेश दिया

शीर्ष सारांश

क्या हुआ: अमेरिकी सरकार ने राष्ट्रीय सुरक्षा चिंताओं का हवाला देते हुए एंथ्रोपिक (Anthropic) को अपने शक्तिशाली AI मॉडल, क्लाउड फेबल 5 (Claude Fable 5) और क्लाउड मिथोस 5 (Claude Mythos 5), तक विदेशी नागरिकों की पहुंच को तुरंत रद्द करने का आदेश दिया। इसका पालन करते हुए, एंथ्रोपिक ने विश्व स्तर पर सभी उपयोगकर्ताओं के लिए पहुंच निलंबित कर दी।

यह क्यों मायने रखता है: इन AI मॉडलों, विशेष रूप से मिथोस (Mythos) को पहले 'सुपर वेपन' बताया गया था, जो महत्वपूर्ण सिस्टम कमजोरियों की पहचान करने और संभावित रूप से जैविक हथियार बनाने में सक्षम थे, जिससे दुरुपयोग और राष्ट्रीय सुरक्षा के बारे में गंभीर चिंताएं बढ़ गई थीं।

क्या बदला: एंथ्रोपिक के सबसे सक्षम सार्वजनिक रूप से उपलब्ध AI मॉडल, फेबल 5 (Fable 5) और मिथोस 5 (Mythos 5), तक पहुंच अब सभी ग्राहकों के लिए निलंबित कर दी गई है।

कौन प्रभावित हुआ: वे सभी ग्राहक और विदेशी नागरिक जो पहले एंथ्रोपिक के उन्नत AI मॉडल, फेबल 5 (Fable 5) और मिथोस 5 (Mythos 5), तक पहुंच रखते थे, इस निलंबन से सीधे प्रभावित हुए हैं।

एंथ्रोपिक के AI मॉडल 'सुपर वेपन' घोषित

एक प्रमुख AI कंपनी एंथ्रोपिक को अमेरिकी सरकार के उसके शक्तिशाली आर्टिफिशियल इंटेलिजेंस मॉडल पर हस्तक्षेप के बाद एक बड़ा झटका लगा है। कंपनी के अंतर्निहित मॉडल, मिथोस, जिस पर फेबल 5 आधारित है, को कथित तौर पर परीक्षकों द्वारा 'सुपर वेपन' बताया गया था, जिसके उपयोग के लिए 'गन लाइसेंस' की आवश्यकता होगी।

एंथ्रोपिक ने अप्रैल में मिथोस का पूर्वावलोकन किया था, लेकिन इसकी अत्यधिक शक्ति के कारण इसे बड़े पैमाने पर जारी नहीं किया गया। चिंताएँ सामने आईं कि दुर्भावनापूर्ण तत्व इसका उपयोग बैंकिंग सिस्टम जैसे महत्वपूर्ण बुनियादी ढांचे को हैक करने या जैविक हथियार विकसित करने के लिए कर सकते हैं।

कंपनी के अनुसार, मिथोस ने परीक्षण किए गए हर प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में कमजोरियों की सफलतापूर्वक पहचान की, कुछ कमजोरियाँ कथित तौर पर दशकों से अज्ञात थीं। जोखिमों को कम करने के लिए, एंथ्रोपिक ने प्रोजेक्ट ग्लासिंग (Project Glasswing) लॉन्च किया, जो एक नियंत्रित कार्यक्रम है जिसके तहत मिथोस को गूगल (Google), एप्पल (Apple), अमेज़ॅन (Amazon), माइक्रोसॉफ्ट (Microsoft) और क्राउडस्ट्राइक (CrowdStrike) सहित लगभग 50 सत्यापित संगठनों के साथ रक्षात्मक साइबर सुरक्षा कार्यों के लिए साझा किया गया।

सरकारी हस्तक्षेप और वैश्विक निलंबन

पिछले मंगलवार को, एंथ्रोपिक ने मिथोस का एक ऐसा संस्करण जारी किया जिसमें अंतर्निहित सुरक्षा उपाय थे, जिसे फेबल 5 के नाम से जाना जाता है। इसे साइबर सुरक्षा और जीव विज्ञान जैसे उच्च जोखिम वाले क्षेत्रों में प्रतिक्रियाओं को रोकने के लिए डिज़ाइन किया गया था। वाल्स AI (Vals AI) द्वारा बेंचमार्क परीक्षणों पर इस संस्करण को सबसे सक्षम सार्वजनिक रूप से उपलब्ध AI मॉडल के रूप में स्थान दिया गया था।

हालांकि, अमेरिकी सरकार ने शुक्रवार को हस्तक्षेप किया और एक 'निर्यात नियंत्रण निर्देश' जारी किया, जिसमें एंथ्रोपिक को क्लाउड फेबल 5 और क्लाउड मिथोस 5 तक विदेशी नागरिकों की पहुंच को तुरंत रद्द करने का आदेश दिया गया। इस निर्देश में अमेरिका के अंदर और बाहर दोनों जगह के सभी विदेशी नागरिक शामिल थे, जिसमें राष्ट्रीय सुरक्षा चिंताओं का हवाला दिया गया था।

इसके जवाब में, एंथ्रोपिक ने सरकारी आदेश का पालन करने के लिए विश्व स्तर पर अपने सभी ग्राहकों के लिए पहुंच निलंबित कर दी। कंपनी ने कहा कि यह कार्रवाई निर्देश का पूर्ण अनुपालन सुनिश्चित करने के लिए आवश्यक थी।

जेलब्रेक चिंताओं के बीच 'गलतफहमी'

"इस आदेश का शुद्ध प्रभाव यह है कि हमें अनुपालन सुनिश्चित करने के लिए अपने सभी ग्राहकों के लिए फेबल 5 और मिथोस 5 को अचानक अक्षम करना होगा," एंथ्रोपिक ने एक लंबे बयान में कहा। कंपनी का मानना है कि "यह एक गलतफहमी है" और वह "जितनी जल्दी हो सके" पहुंच बहाल करने के लिए सक्रिय रूप से काम कर रही है।

सरकार का निर्देश संभावित "जेलब्रेक" की चिंताओं से प्रेरित था। जेलब्रेक उन तकनीकों को संदर्भित करता है जिनका उपयोग AI मॉडल के अंतर्निहित सुरक्षा प्रतिबंधों को बायपास करने के लिए किया जाता है, जिससे वह ऐसी प्रतिक्रियाएं देने के लिए मजबूर होता है जिन्हें वह सामान्य रूप से अस्वीकार कर देगा।

एंथ्रोपिक ने कहा कि सरकार ने "संभावित संकीर्ण, गैर-सार्वभौमिक जेलब्रेक" के केवल मौखिक प्रमाण दिए, यह दर्शाता है कि यह मुद्दा व्यापक नहीं हो सकता है लेकिन यह कठोर कार्रवाई को ट्रिगर करने के लिए पर्याप्त गंभीर था।

आगे क्या देखना है

एंथ्रोपिक अमेरिकी सरकार के साथ स्थिति स्पष्ट करने और अपने शक्तिशाली AI मॉडलों तक पहुंच को संभावित रूप से बहाल करने के लिए सक्रिय चर्चा में लगा हुआ है। भविष्य के घटनाक्रम इन वार्ताओं और उन्नत प्रौद्योगिकियों के लिए AI सुरक्षा और राष्ट्रीय सुरक्षा प्रोटोकॉल के संबंध में अधिकारियों द्वारा जारी किए गए किसी भी आगे के निर्देशों पर निर्भर करेंगे।