OpenAI को बड़ा झटका! लंबे समय के सेफ्टी लीडर ने दिया इस्तीफा, बोले- AI को ऐसे आगे बढ़ाना खतरनाक

नेशनल डेस्क: OpenAI में आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर एक बार फिर गंभीर सवाल खड़े हुए हैं। कंपनी में लंबे समय तक सेफ्टी लीडर रहे डेविड रॉबिन्सन ने इस्तीफा दे दिया है। कंपनी छोड़ने के बाद उन्होंने आर्टिफिशियल इंटेलिजेंस के विकास के मौजूदा तौर-तरीकों और OpenAI की कार्यशैली पर सवाल उठाए हैं। रॉबिन्सन का कहना है कि AI लगातार ज्यादा शक्तिशाली हो रहा है, लेकिन सुरक्षा व्यवस्था उस रफ्तार से मजबूत नहीं हो रही है।

उन्होंने कहा कि AI उद्योग जिस तेजी से आगे बढ़ रहा है, उसी अनुपात में सुरक्षा को भी प्राथमिकता देना जरूरी है। रॉबिन्सन के मुताबिक, मौजूदा तरीके से AI विकसित करना अब सही नहीं माना जा सकता और कंपनियों को सुरक्षा के लिए पहले से ज्यादा मजबूत व्यवस्था तैयार करनी होगी।

पहले सिस्टम तैनात करने और बाद में सुरक्षा सुधारने पर सवाल

डेविड रॉबिन्सन ने अपने लेख में AI कंपनियों के काम करने के तरीके पर विस्तार से बात की है। उनका कहना है कि कंपनियां अक्सर पहले किसी सिस्टम को विकसित कर तैनात कर देती हैं और समस्या सामने आने के बाद उसकी सुरक्षा व्यवस्था को बेहतर करने की कोशिश करती हैं।

OpenAI इस प्रक्रिया को इटरेटिव डिप्लॉयमेंट कहता है। रॉबिन्सन के अनुसार, AI के लगातार अधिक शक्तिशाली होने के दौर में यह तरीका बड़ा जोखिम पैदा कर सकता है। किसी AI सिस्टम की क्षमता जितनी बढ़ेगी, उसकी गलती का संभावित प्रभाव भी उतना ही बड़ा हो सकता है।

उनका कहना है कि अगर कोई गंभीर गलती हो जाती है तो हर बार उसे बाद में सुधारने का अवसर नहीं मिलेगा। ऐसे में AI कंपनियों को सिस्टम तैनात करने से पहले ही मजबूत सुरक्षा व्यवस्था तैयार करने पर ज्यादा जोर देना होगा।

AI एजेंट से जुड़ी घटनाओं का भी किया जिक्र

रॉबिन्सन ने अपने लेख में AI एजेंट से जुड़ी कुछ घटनाओं का भी उल्लेख किया है। उन्होंने बताया कि एक घटना में OpenAI से गलती से AI एजेंट्स का एक स्वॉर्म रिलीज हो गया था।

उन्होंने एक अन्य मामले का भी जिक्र किया, जिसमें प्रशिक्षण के दौरान एक AI मॉडल ने इंटरनेट तक पहुंच को लेकर लगाई गई पाबंदियों को पार कर लिया। सिस्टम ने इस घटना की जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था।

रॉबिन्सन के मुताबिक, इस तरह की घटनाएं सिर्फ किसी एक कंपनी तक सीमित नहीं हैं। AI उद्योग में तेजी से विकास और तैनाती के दबाव के बीच इस तरह की गलतियां सामने आ रही हैं।

रॉबिन्सन बोले- अब Trial and Error पर निर्भर रहना ठीक नहीं

रॉबिन्सन ने कहा कि AI की लगातार बढ़ती क्षमताओं को देखते हुए अब Trial and Error के भरोसे आगे बढ़ना उचित नहीं है। उनका मानना है कि आने वाले समय में AI सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं। ऐसे में किसी बड़ी गलती को बाद में सुधारना बेहद मुश्किल हो सकता है।

उन्होंने AI कंपनियों को विमानन और परमाणु ऊर्जा जैसे अत्यधिक जोखिम वाले क्षेत्रों से सुरक्षा के तरीके सीखने की सलाह दी है। उनके मुताबिक, AI सिस्टम में भी सुरक्षा की कई परतें और बैकअप व्यवस्था होनी चाहिए, ताकि छोटी सी गलती आगे चलकर बड़ी समस्या का रूप न ले सके।

AI से नहीं, उसके गलत इस्तेमाल से चिंता

डेविड रॉबिन्सन ने यह भी स्पष्ट किया कि वह AI को पूरी तरह खराब नहीं मानते। उनके अनुसार, AI लोगों के लिए बेहद उपयोगी और फायदेमंद साबित हो सकता है। हालांकि, जैसे-जैसे इसकी क्षमताएं बढ़ेंगी, वैसे-वैसे सुरक्षा व्यवस्था को भी उसी स्तर पर मजबूत करना जरूरी होगा।

OpenAI से इस्तीफा देने के बाद रॉबिन्सन अब कंपनी से बाहर रहकर AI सुरक्षा के क्षेत्र में काम करना चाहते हैं। उनका मानना है कि AI कंपनियों पर बाहरी दबाव और निगरानी भी जरूरी है, ताकि तकनीक का विकास ज्यादा सुरक्षित तरीके से किया जा सके।

रॉबिन्सन का इस्तीफा ऐसे समय हुआ है जब पूरी AI इंडस्ट्री में सुरक्षा को लेकर बहस तेज है। उनका कहना है कि AI को तेजी से आगे बढ़ाने की कोशिश के साथ उसकी सुरक्षा की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता।