हजारों लोगों द्वारा प्रतिबंधित पाए जाने के बाद एंथ्रोपिक ने अपने नए एआई मॉडल को गोपनीय रखा।

अत्याधुनिक कृत्रिम बुद्धिमत्ता (एआई) क्षमताओं के उपयोग के तरीके में एक महत्वपूर्ण बदलाव का संकेत देते हुए, एंथ्रोपिक ने अपने सबसे उन्नत कृत्रिम बुद्धिमत्ता मॉडल को सार्वजनिक रूप से जारी न करने का निर्णय लिया है। ऐसा इसलिए किया गया क्योंकि इस मॉडल ने प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़रों में हजारों अज्ञात साइबर सुरक्षा कमजोरियों का पता लगाया था। व्यावसायिक रूप से लॉन्च करने के बजाय, कंपनी ने चुपचाप दुनिया के डिजिटल बुनियादी ढांचे की सुरक्षा के लिए जिम्मेदार संगठनों को इसका एक्सेस प्रदान किया।

क्या हुआ: प्रोजेक्ट ग्लास विंग और क्लाउड मिथोस का पूर्वावलोकन

जिस मॉडल की बात हो रही है, उसका नाम क्लाउड मिथोस प्रीव्यू है और यह एंथ्रोपिक का अब तक का सबसे सक्षम सिस्टम है। आंतरिक परीक्षण के दौरान, मिथोस ने सुरक्षा खामियों को पहचानने की असाधारण क्षमता प्रदर्शित की - इसने वर्तमान में उपयोग में आने वाले सभी प्रमुख ऑपरेटिंग सिस्टम और ब्राउज़र इकोसिस्टम में फैली हजारों कमजोरियों का पता लगाया।

इसे उत्पाद लॉन्च के अवसर के रूप में देखने के बजाय, एंथ्रोपिक ने प्रोजेक्ट ग्लास विंग नामक एक पहल शुरू की। यह कार्यक्रम मिथोस की क्षमताओं को सीधे उन कंपनियों और संस्थानों तक पहुंचाता है जो महत्वपूर्ण सॉफ्टवेयर का निर्माण और रखरखाव करते हैं। लॉन्च पार्टनर्स में वैश्विक प्रौद्योगिकी जगत की जानी-मानी कंपनियां शामिल हैं: अमेज़न वेब सर्विसेज, एप्पल, ब्रॉडकॉम, सिस्को, क्राउडस्ट्राइक, गूगल, जेपी मॉर्गन चेस, लिनक्स फाउंडेशन, माइक्रोसॉफ्ट, एनवीडिया और पालो अल्टो नेटवर्क्स।

प्रारंभिक समूह के अलावा, आवश्यक सॉफ़्टवेयर इन्फ्रास्ट्रक्चर विकसित करने या उसका रखरखाव करने वाले 40 से अधिक अतिरिक्त संगठनों को भी यह सुविधा प्रदान की गई है। इस प्रयास को आर्थिक रूप से समर्थन देने के लिए, एंथ्रोपिक 100 मिलियन डॉलर तक के उपयोग क्रेडिट देने के लिए प्रतिबद्ध है ताकि ये भागीदार अपने स्वयं के कोडबेस पर मिथोस का उपयोग कर सकें।

यह क्यों महत्वपूर्ण है: जिम्मेदार एआई तैनाती के लिए एक नया प्रतिमान

यह निर्णय कई कारणों से अत्यंत महत्वपूर्ण है। सबसे पहले, यह एक एआई प्रयोगशाला द्वारा सुरक्षा संबंधी चिंताओं के कारण किसी अभूतपूर्व मॉडल की व्यावसायिक क्षमता को जानबूझकर सीमित करने का अब तक का सबसे स्पष्ट उदाहरण है। एक ऐसे उद्योग में जिसकी अक्सर उत्पादों को जल्दबाजी में बाजार में उतारने के लिए आलोचना की जाती है, एंथ्रोपिक ने संयम बरता है - और यह सराहनीय है।

दूसरा, खोजों का विशाल पैमाना चौंका देने वाला है। कई प्लेटफार्मों पर हजारों कमजोरियों का पता लगाना यह दर्शाता है कि मिथोस कोड विश्लेषण के उस स्तर पर काम करता है जो मानव सुरक्षा शोधकर्ताओं या मौजूदा स्वचालित उपकरणों द्वारा समान समय सीमा में हासिल किए जा सकने वाले स्तर से कहीं अधिक है। संदर्भ के लिए, CVE डेटाबेस - सार्वजनिक रूप से प्रकट साइबर सुरक्षा कमजोरियों को ट्रैक करने का वैश्विक मानक - आमतौर पर प्रति वर्ष लगभग 25,000 से 30,000 नई प्रविष्टियाँ दर्ज करता है। एक ही AI मॉडल द्वारा एक सीमित अवधि में हजारों खोजों का योगदान वार्षिक वैश्विक खुलासे का एक महत्वपूर्ण हिस्सा होगा।

तीसरा, यह दृष्टिकोण सुरक्षा भेद्यता अनुसंधान के अर्थशास्त्र को पुनर्परिभाषित कर सकता है। यदि आप Microsoft ओपन-सोर्स टूलकिट द्वारा रनटाइम पर AI एजेंटों को सुरक्षित करने से संबंधित हमारी कवरेज का अनुसरण कर रहे हैं, तो आप जानते होंगे कि बग बाउंटी प्रोग्राम और पेनिट्रेशन टेस्टिंग अभी भी महंगे और श्रमसाध्य हैं। बड़े पैमाने पर यह काम करने में सक्षम एक AI मॉडल संगठनों को डेटा उल्लंघन से संबंधित लागतों में अरबों डॉलर की बचत करा सकता है।

पृष्ठभूमि: एंथ्रोपिक की सुरक्षा-सर्वोपरि प्रतिष्ठा

एन्थ्रोपिक की स्थापना 2021 में पूर्व ओपनएआई शोधकर्ताओं द्वारा की गई थी, जिनमें भाई-बहन डारियो और डेनिएला अमोदेई भी शामिल थे। कंपनी ने लगातार खुद को एआई की अग्रणी दौड़ में सुरक्षा के प्रति सजग विकल्प के रूप में स्थापित किया है, विस्तृत जिम्मेदार स्केलिंग नीतियों को प्रकाशित किया है और संरेखण अनुसंधान में भारी निवेश किया है। इसके क्लाउड मॉडल ओपनएआई की जीपीटी श्रृंखला और गूगल के जेमिनी के साथ सीधी प्रतिस्पर्धा करते हैं।

मिथोस को सार्वजनिक पहुंच से दूर रखने का निर्णय इसी सिद्धांत के अनुरूप है। एक ऐसा मॉडल जारी करना जो बड़े पैमाने पर शून्य-दिन की कमजोरियों की पहचान कर सके, दोधारी तलवार साबित होगा - रक्षकों के लिए अमूल्य, लेकिन अगर दुर्भावनापूर्ण तत्वों द्वारा उन तक पहुंच बना ली जाए जो पैच जारी होने से पहले ही उन्हीं खामियों का फायदा उठा सकते हैं, तो संभावित रूप से विनाशकारी हो सकता है।

यह तनाव उस समस्या के मूल में निहित है जिसे सुरक्षा शोधकर्ता "आक्रामक-रक्षात्मक विषमता" समस्या कहते हैं। हमलावरों को केवल एक कमजोर बिंदु ढूंढने की आवश्यकता होती है जिसका फायदा उठाया जा सके। रक्षकों को उन सभी कमजोर बिंदुओं को ढूंढकर ठीक करना होता है। एक ऐसी कृत्रिम बुद्धिमत्ता जो रक्षकों के पक्ष में पलड़ा झुका दे - लेकिन केवल तभी जब उसकी क्षमताओं को सावधानीपूर्वक नियंत्रित किया जाए - ठीक उसी प्रकार का उपकरण है जिसके लिए एक प्रतिबंधित वितरण मॉडल की आवश्यकता होती है।

मानवकला और उद्योग के लिए रणनीतिक निहितार्थ

व्यापारिक दृष्टिकोण से देखें तो, प्रोजेक्ट ग्लास विंग एक उत्कृष्ट कदम है, भले ही इससे अल्पकालिक राजस्व का नुकसान हो। रणनीतिक लाभों पर विचार करें:

• महत्वपूर्ण बुनियादी ढांचे के साथ गहरा एकीकरण: एडब्ल्यूएस, माइक्रोसॉफ्ट, गूगल और अन्य के वर्कफ़्लो में मिथोस को शामिल करके, एंथ्रोपिक निर्भरता और विश्वास पैदा करता है जिसे कोई भी मार्केटिंग अभियान नहीं खरीद सकता।
• नियामकों के साथ सद्भावना: जैसे-जैसे दुनिया भर की सरकारें एआई कानून का मसौदा तैयार कर रही हैं, जिम्मेदार संयम का प्रदर्शन करना विश्वसनीयता अर्जित करता है जो नीतिगत निर्णय लेते समय मायने रखेगा।
• डेटा फीडबैक लूप: साझेदार संगठनों द्वारा पुष्टि की गई और ठीक की गई प्रत्येक भेद्यता मूल्यवान प्रशिक्षण संकेत उत्पन्न करती है जो भविष्य के एंथ्रोपिक मॉडल को और भी अधिक सक्षम बनाएगी।
• प्रतिस्पर्धात्मक अंतर: न तो ओपनएआई और न ही गूगल डीपमाइंड ने इस क्षेत्र में तुलनीय कुछ भी घोषित किया है, जिससे एंथ्रोपिक को उद्यम सुरक्षा बाजार में एक अद्वितीय स्थान प्राप्त होता है।

जेपी मॉर्गन चेस का शामिल होना विशेष रूप से महत्वपूर्ण है। वित्तीय संस्थानों को लगातार साइबर हमलों का सामना करना पड़ता है और वे दुनिया के कुछ सबसे सख्त नियामक ढांचों के तहत काम करते हैं। उनकी भागीदारी यह संकेत देती है कि मिथोस ने तकनीकी क्षेत्र से परे भी अपनी उपयोगिता साबित कर दी है। यदि आप यह जानने में रुचि रखते हैं कि एआई वित्तीय सेवाओं को कैसे नया रूप दे रहा है, तो स्वचालित अनुसंधान के लिए Google AI द्वारा PaperOrchestra के अनावरण पर हमारा लेख देखें।

आगे क्या आता है

कई सवालों के जवाब अभी तक नहीं मिले हैं। क्या एंथ्रोपिक अंततः मिथोस को सार्वजनिक रूप से जारी करेगा, शायद सबसे गंभीर कमजोरियों को ठीक करने के बाद? कंपनी यह कैसे सत्यापित करेगी कि सहयोगी संगठन वास्तव में समय पर निष्कर्षों पर कार्रवाई कर रहे हैं? और क्या होगा जब विरोधी अनिवार्य रूप से समान नैतिक सुरक्षा उपायों के बिना अपनी खुद की कमजोरियों का पता लगाने वाले एआई मॉडल विकसित कर लेंगे?

व्यापक उद्योग जगत भी इस बात पर नजर रखेगा कि क्या यह सहयोगात्मक, अर्ध-परोपकारी दृष्टिकोण एक आदर्श बन जाता है। यदि साइबर सुरक्षा के लिए 100 मिलियन डॉलर की प्रतिबद्धता से मापने योग्य परिणाम प्राप्त होते हैं - जैसे कम उल्लंघन, तेजी से पैच जारी होना, अधिक सुरक्षित इंटरनेट - तो अन्य एआई प्रयोगशालाओं पर भी इसका अनुसरण करने का दबाव पड़ेगा।

यह भी एक सवाल है कि क्या सरकारें इस तरह के जिम्मेदार प्रकटीकरण ढांचे को अनिवार्य बनाने की कोशिश करेंगी। अमेरिका की साइबर सुरक्षा और अवसंरचना सुरक्षा एजेंसी (CISA) ने अपने व्यापक मिशन के हिस्से के रूप में AI-सहायता प्राप्त भेद्यता पहचान में रुचि दिखाई है।

तल - रेखा

एन्थ्रोपिक द्वारा क्लाउड मिथोस प्रीव्यू को सार्वजनिक नज़रों से दूर रखने का निर्णय इस वर्ष एआई उद्योग में सबसे महत्वपूर्ण कदमों में से एक है। दिखावे के बजाय सुरक्षा को प्राथमिकता देकर, कंपनी एक सोची-समझी रणनीति अपना रही है कि सबसे शक्तिशाली एआई मॉडल हमेशा उत्पाद नहीं होने चाहिए - कभी-कभी वे ऐसे उपकरण होने चाहिए जिनका उपयोग चुपचाप उन लोगों द्वारा किया जाए जो दूसरों की रक्षा करने के लिए सबसे उपयुक्त स्थिति में हैं। यह रणनीति सफल होगी या नहीं, यह क्रियान्वयन, पारदर्शिता और इस बात पर निर्भर करेगा कि क्या उद्योग के बाकी हिस्से व्यक्तिगत लाभ के बजाय सामूहिक सुरक्षा को प्राथमिकता देने वाले मार्ग का अनुसरण करने को तैयार हैं।