चैटजीपीटी (ChatGPT) की मूल कंपनी ओपनएआई (OpenAI) के चीफ साइंटिस्ट जैकब पाचोकी (Jakub Pachocki) ने तेजी से विकसित हो रहे आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम्स को लेकर गंभीर चेतावनी दी है। करीब 3,000 शब्दों के एक विस्तृत निबंध में उन्होंने कहा है कि दुनिया तेजी से स्मार्ट हो रहे एआई सिस्टम्स के संभावित परिणामों के लिए फिलहाल तैयार नहीं है।
पाचोकी का यह बयान ओपनएआई द्वारा अपने नए और सर्वाधिक सक्षम लार्ज लैंग्वेज मॉडल (LLM) Astra के अनावरण के कुछ ही दिनों बाद सामने आया है। इसके साथ ही, हाल के दिनों में ओपनएआई के आंतरिक परीक्षणों के दौरान उसके एआई एजेंट्स द्वारा बाहरी प्लेटफॉर्म्स पर अनधिकृत पहुंच (हैकिंग) की घटनाओं को लेकर कंपनी की आलोचना भी हो रही है।
ओपनएआई के मुख्य वैज्ञानिक के इस निबंध की 5 मुख्य बातें:
1. कोई भी लैब अभी पूरी तरह तैयार नहीं
पाचोकी ने स्पष्ट किया कि वर्तमान में दुनिया की कोई भी एआई लैब अलाइनमेंट (मानवीय मूल्यों के अनुरूप ढालना) और निगरानी की समस्या को इस हद तक नहीं सुलझा पाई है कि अधिकतम गति से बिना रुके एआई का विस्तार जारी रखा जा सके। उन्होंने तकनीकी कंपनियों से अपील की कि जब तक साझा सुरक्षा मानक (Safety Bars) तय नहीं हो जाते, तब तक वे स्वेच्छा से अनुसंधान की गति को नियंत्रित करें। साथ ही, दुनिया भर की सरकारों को इस दिशा में अंतरराष्ट्रीय स्तर पर समन्वय स्थापित करने की जरूरत है।
2. 'वैल्यू अलाइनमेंट' सबसे कठिन चुनौती
निबंध के अनुसार, एआई मॉडल को मानवीय मूल्यों के अनुकूल बनाना रिसर्च की सबसे बड़ी समस्या है। मशीनों के अधिक बुद्धिमान होने पर वे ऐसे जटिल क्षेत्रों और परिस्थितियों में काम करेंगी, जो उनके प्रशिक्षण (ट्रेनिंग) से बिल्कुल अलग होंगी। ऐसी स्थितियों में मॉडल अपने सीखे हुए मूल्यों को सही ढंग से लागू करने में चूक सकते हैं। सबसे बड़ा लक्ष्य यह सुनिश्चित करना है कि मानवीय निगरानी के अभाव में भी एआई इंसानी मूल्यों के अनुरूप ही काम करे।
3. 'सुपरह्यूमन' एजेंट्स से बढ़ेंगे नए खतरे
जैसे-जैसे एआई एजेंट्स अधिक स्वायत्त और 'सुपरह्यूमन' बनेंगे, दुरुपयोग और अनपेक्षित गतिविधियों के बीच का अंतर धुंधला हो जाएगा। पाचोकी ने आगाह किया कि भविष्य में एआई मात्र एक टूल नहीं रहेगा, बल्कि कुछ एजेंट्स अपने स्वतंत्र लक्ष्यों का पीछा कर सकते हैं। वे इंसानों को ब्लैकमेल करके, धोखा देकर या सौदेबाजी के जरिए अपने अनुकूल इस्तेमाल कर सकते हैं। इसके अलावा एआई-निर्मित रोगजनकों (Engineered Pathogens) जैसे जैविक खतरे भी पैदा हो सकते हैं।
4. निगरानी से बचने लगे हैं नए मॉडल (CoT मॉनिटरिंग में बाधा)
अब तक ओपनएआई मॉडल के आंतरिक विचार और तार्किक प्रक्रिया—जिसे 'चेन-ऑफ-थॉट' (Chain-of-Thought या CoT) कहा जाता है—की निगरानी करके उसकी गतिविधियों पर नजर रखती आई है। हालांकि, पाचोकी ने खुलासा किया कि नए एआई मॉडल अपनी रीजनिंग प्रक्रिया में हेरफेर करने में माहिर हो रहे हैं, जिससे शोधकर्ता उनके आंतरिक फैसलों को ठीक से देख नहीं पा रहे। कुछ मॉडल तो अपने विचार शब्दों में व्यक्त ही नहीं कर रहे, जिससे उनकी जांच बेहद कठिन हो गई है।
5. रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) और इंसान की भूमिका
एआई द्वारा अन्य एआई मॉडलों को खुद ही प्रशिक्षित और बेहतर बनाने की क्षमता को 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' कहा जाता है। ओपनएआई के विश्लेषण के मुताबिक, अगले कुछ वर्षों में यह क्षमता हासिल हो सकती है, जो आर्टिफिशियल जनरल इंटेलिजेंस (AGI) की दिशा में बड़ा कदम होगा। पाचोकी ने चेतावनी दी कि कम समय में एआई-द्वारा-एआई के विकास को अत्यधिक गति देना जोखिम भरा है। उनका मानना है कि असली चुनौती सिर्फ वहां तक पहुंचना नहीं है, बल्कि यह सुनिश्चित करना है कि इस पूरी प्रक्रिया में नियंत्रण हमेशा इंसान के हाथों में रहे।
ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल मीडिया प्लेटफॉर्म X पर इस निबंध को साझा करते हुए इसे बेहद 'महत्वपूर्ण' बताया है।