अमेरिका ने सुरक्षा कारणों से एंथ्रोपिक के फेबल 5, मिथोस 5 एआई एक्सेस पर वैश्विक प्रतिबंध लगाया; कंपनी असहमत

सारांश

क्या हुआ: अमेरिकी सरकार ने एक निर्यात नियंत्रण निर्देश जारी किया, जिसमें एआई कंपनी एंथ्रोपिक को राष्ट्रीय सुरक्षा चिंताओं का हवाला देते हुए अपने फेबल 5 और मिथोस 5 मॉडलों तक वैश्विक पहुंच निलंबित करने का आदेश दिया गया।

यह क्यों महत्वपूर्ण है: यह अभूतपूर्व कदम उन्नत एआई मॉडलों की तैनाती को प्रभावित करता है और एआई नवाचार तथा कथित सुरक्षा जोखिमों के बीच बढ़ते तनाव को उजागर करता है।

क्या बदला: अमेरिका के बाहर के उपयोगकर्ता, जिनमें विदेशी राष्ट्रीय कर्मचारी भी शामिल हैं, अब एंथ्रोपिक के फेबल 5 और मिथोस 5 मॉडलों तक नहीं पहुंच पाएंगे। एंथ्रोपिक के अन्य मॉडलों तक पहुंच अप्रभावित रहेगी।

कौन प्रभावित हुआ: एंथ्रोपिक, उसके वैश्विक ग्राहक और कोई भी विदेशी नागरिक जो पहले फेबल 5 या मिथोस 5 का उपयोग कर रहा था।

अमेरिका ने एंथ्रोपिक एआई मॉडलों पर वैश्विक रोक का निर्देश दिया

इस सप्ताह की शुरुआत में, एंथ्रोपिक ने फेबल 5 लॉन्च किया था, जो उसके मिथोस एआई मॉडल का एक विशेष संस्करण है, जिससे उन्नत क्षमताएं व्यापक दर्शकों के लिए अधिक सुलभ हो गई थीं। हालांकि, कुछ ही दिनों बाद, अमेरिकी सरकार ने एक महत्वपूर्ण निर्देश के साथ हस्तक्षेप किया। सरकार ने एंथ्रोपिक को अमेरिका के बाहर के सभी देशों में फेबल 5 और मिथोस 5 दोनों तक पहुंच निलंबित करने का आदेश दिया। यह निर्णय राष्ट्रीय सुरक्षा चिंताओं का हवाला देते हुए स्पष्ट रूप से लिया गया था।

एंथ्रोपिक ने शुक्रवार शाम 5:21 बजे (ईटी) निर्यात नियंत्रण निर्देश प्राप्त करने की पुष्टि की। कंपनी ने संघीय आदेश का पालन करने के लिए तुरंत मॉडलों को अक्षम करना शुरू कर दिया।

एंथ्रोपिक ने पालन किया लेकिन सरकार के रुख को चुनौती दी

तत्काल अनुपालन के बावजूद, एंथ्रोपिक ने एक 700 से अधिक शब्दों का बयान जारी किया जिसमें सरकार के फैसले पर अपनी कड़ी असहमति व्यक्त की गई। कंपनी का तर्क है कि निर्देश में राष्ट्रीय सुरक्षा चिंता के संबंध में विशिष्ट विवरण का अभाव था।

"हमें आज शाम 5:21 बजे (ईटी) सरकार से निर्देश प्राप्त हुआ। पत्र में उसकी राष्ट्रीय सुरक्षा चिंता का कोई विशेष विवरण नहीं दिया गया था। हमारी समझ यह है कि सरकार का मानना है कि उसे फेबल 5 को बायपास करने या "जेलब्रेक" करने की एक विधि के बारे में पता चला है," कंपनी ने कहा।

एंथ्रोपिक अब कानूनी निर्देश का अनुपालन सुनिश्चित करने के लिए सभी उपयोगकर्ताओं के लिए फेबल 5 और मिथोस 5 तक पहुंच हटा रहा है। उन्होंने इस व्यवधान के लिए अपने ग्राहकों से माफी मांगी।

"जेलब्रेक" कमजोरियों पर विवाद

सरकार की चिंता का मूल फेबल 5 को "जेलब्रेक" करने की एक विधि प्रतीत होती है। एंथ्रोपिक ने इस विशिष्ट तकनीक के प्रदर्शन की समीक्षा की, जिसमें पाया गया कि इसने पहले से ज्ञात, मामूली सॉफ्टवेयर कमजोरियों की केवल एक छोटी संख्या को उजागर किया। कंपनी का दावा है कि ये कमजोरियां अपेक्षाकृत सरल हैं और इन्हें बायपास की आवश्यकता के बिना अन्य सार्वजनिक रूप से उपलब्ध मॉडलों का उपयोग करके भी खोजा जा सकता है।

उनका दावा है कि प्रदर्शित क्षमताएं पहले से ही अन्य प्रमुख एआई प्रणालियों में व्यापक रूप से उपलब्ध हैं, जिनमें ओपनएआई का जीपीटी-5.5 भी शामिल है।

"हालांकि, हम इस बात से असहमत हैं कि एक संकीर्ण संभावित जेलब्रेक की खोज सैकड़ों लाखों लोगों तक तैनात वाणिज्यिक मॉडल को वापस लेने का कारण बननी चाहिए," एंथ्रोपिक ने जोड़ा।

एंथ्रोपिक के मजबूत सुरक्षा उपाय और उद्योग मानक

एंथ्रोपिक ने कहा कि उसने फेबल 5 के लिए मजबूत सुरक्षा उपाय स्थापित किए थे, जिससे साइबर सुरक्षा जैसे कार्यों के लिए दुरुपयोग में काफी कमी आई। इन सुरक्षा उपायों को अमेरिकी सरकार, यूके एआईएसआई, कई निजी तीसरे पक्ष के संगठनों और आंतरिक टीमों के साथ हजारों घंटों के रेड-टीयरिंग से गुजारा गया। परीक्षणों से पता चला कि फेबल 5 के सुरक्षा उपाय पहले तैनात किसी भी मॉडल की तुलना में काफी अधिक प्रभावी हैं।

किसी भी परीक्षक को अभी तक एक सार्वभौमिक जेलब्रेक नहीं मिला है, जो साइबर क्षमताओं की एक विस्तृत श्रृंखला के लिए सुरक्षा उपायों को व्यापक रूप से बायपास करता हो। एंथ्रोपिक स्वीकार करता है कि किसी भी मॉडल के लिए पूर्ण जेलब्रेक प्रतिरोध की संभावना नहीं है, क्योंकि सभी उद्योग सुरक्षा उपाय विशिष्ट परिस्थितियों में गैर-सार्वभौमिक जेलब्रेक के प्रति संवेदनशील होते हैं।

कंपनी ने "रक्षा-में-गहराई" (defense in depth) रणनीति अपनाई है, जिसका लक्ष्य जेलब्रेक को या तो संकीर्ण या उत्पादन में बहुत महंगा बनाना है। यह रणनीति गहन निगरानी और जेलब्रेक पर शोध और उन्हें कम करने के लिए ग्राहक डेटा के 30 दिनों तक प्रतिधारण की नीति के साथ संयुक्त है।

एंथ्रोपिक का तर्क है कि इस मानक को पूरे उद्योग में लागू करने से सीमावर्ती मॉडल प्रदाताओं के लिए सभी नई मॉडल तैनाती अनिवार्य रूप से रुक जाएंगी। उनका मानना है कि सरकार को "पारदर्शी, निष्पक्ष, स्पष्ट और तकनीकी तथ्यों पर आधारित" वैधानिक प्रक्रिया के माध्यम से असुरक्षित तैनाती को रोकना चाहिए, जिसका वे मानते हैं कि यह कार्रवाई पालन नहीं करती है।

एआई विकास के लिए व्यापक निहितार्थ

कंपनी का मानना है कि यह घटना एक गलतफहमी से उपजी है। उन्हें केवल एक संभावित संकीर्ण, गैर-सार्वभौमिक जेलब्रेक का मौखिक प्रमाण मिला है, जिसमें अनिवार्य रूप से मॉडल को एक विशिष्ट कोडबेस को पढ़ने और सॉफ्टवेयर त्रुटियों को ठीक करने के लिए कहा गया था। एंथ्रोपिक अगले 24 घंटों में अधिक विवरण साझा करने की योजना बना रहा है। वे जल्द से जल्द पहुंच बहाल करने के लिए सक्रिय रूप से काम कर रहे हैं, उम्मीद है कि इस मुद्दे को हल कर लेंगे।

आगे क्या देखना है

वैश्विक एआई समुदाय एंथ्रोपिक के फेबल 5 और मिथोस 5 मॉडलों के लिए दुनिया भर में पहुंच फिर से हासिल करने के प्रयासों पर बारीकी से नजर रखेगा। कथित जेलब्रेक और उसकी प्रतिक्रिया के संबंध में एंथ्रोपिक से आगे के विवरण स्थिति को स्पष्ट कर सकते हैं। यह घटना इस बात के लिए भी एक मिसाल कायम कर सकती है कि सरकारें कथित सुरक्षा कमजोरियों के आधार पर उन्नत एआई तैनाती को विनियमित करने के लिए कैसे संपर्क करती हैं।