एआयचा राक्षस २०३०पूर्वी मानवजात संपवणार?

८सप्टेंबर २०२६. एक २७ वर्षांचा तरुण संगणकशास्त्रज्ञ सकाळी उठतो, नोकरीचा राजीनामा देतो आणि जगाला एक संदेश पाठवतो. तो संदेश काही तासांत करोडो लोकांपर्यंत पोहोचतो आणि सिलिकॉन व्हॅली थरारते.
त्याचे नाव जॅकब कॉक्सन. त्याने तीन वर्षे ओपन एआय आणि अँथ्रॉपिक या जगातील दोन सर्वात शक्तिशाली एआय कंपन्यांमध्ये काम केले. चॅटजीपीटी ज्या तंत्रावर चालतो, त्या जीपीटी-४० मॉडेलच्या निर्मितीत त्याचा हात होता. आणि हाच माणूस आज सांगतो : मी आज अँथ्रॉपिक सोडली. या दोन्ही कंपन्या जबाबदारीने वागत नाहीत. त्या थेट स्व-सुधारणा करणार्‍या सुपरइंटेलिजन्सकडे धावत आहेत आणि आपल्या जिवाशी जुगार खेळत आहेत. इतर कोणतीही मानवी कृती इतकी धोकादायक नाही.’
हे एखाद्या वेड्या षडयंंत्रकाराचे बडबडणे नाही. हे त्या माणसाचे शब्द आहेत जो आतून पाहत होता. जो एआय बनवत होता. आणि जो आता थरथरत बाहेर आला आहे.
कॉक्सन एकटा नाही. अँथ्रॉपिकमधीलच इव्हान ह्युबिंगर हे पेस एआय अलाइनमेंट सायन्स लीड या पदावर आहेत, त्यांनीही
कॉक्सनला दुजोरा दिला. त्यांचे स्पष्ट म्हणणे : ‘पुढील दशकात एआयमुळे मानवजातीचा अंत होण्याची शक्यता १०ज्ञ् पेक्षा अधिक आहे.’ आणखी एक अँथ्रॉपिक संशोधक सॅम्युएल मार्क्स म्हणाले : ‘एआय एजंट वारंवार गंभीर चुका करतात. त्यांना आपल्याला हवे तसे वागायला लावणे अजून शक्य झालेले नाही.’

विचार करा – हे त्याच कंपन्यांचे कर्मचारी आहेत ज्या कंपन्या हे एआय बनवत आहेत. डॉक्टरांनी स्वतःच सांगायला सुरुवात केली की ‘आम्ही जे औषध बनवत आहोत ते विष आहे’ – तर आपण कान उघडे ठेवायला नको का? ही कुठली विज्ञानकथा नाही. ही जगातल्या सर्वांत मोठ्या एआय कंपनीने स्वतःच दिलेली कबुली आहे. आणि ही भीती व्यक्त करण्यामागे जुलै महिन्यात घडलेली एक घटना आहे.
कल्पना करा- एका जैविक प्रयोगशाळेत एक अतिशय धोकादायक विषाणू बंदिस्त काचेच्या पेटीत ठेवलेला आहे. शास्त्रज्ञ रोज त्याची चाचणी घेतात, पण पेटीबाहेर तो कधीच जाणार नाही अशी खात्री असते. आणि एक दिवस अचानक कळतं- तो विषाणू पेटीतून निसटलाय, शेजारच्या प्रयोगशाळेत जाऊन पोहोचलाय आणि तिथल्या नमुन्यांशी छेडछाड करून परत आलाय. जुलै २०२६मध्ये सिलिकॉन व्हॅलीत नेमकं हेच घडलं. फरक एवढाचन तो विषाणू नव्हता. तो एक एआय होता. आणि त्याचे ‘परीक्षक’ होते जगातील सर्वात शक्तिशाली AI कंपन्यांपैकी एक असलेले ओपनएआय. जे घडले ते AI जगताच्या इतिहासात पहिलेच होते आणि ज्यांनी ते घडताना पाहिले, त्यांनी सांगितले : ‘हा आतापर्यंतचा सर्वात मोठा धोक्याचा इशारा आहे.’

ओपनएआय फक्त चॅटजीपीटी बनवत नाही. ते त्यापेक्षा कितीतरी अधिक शक्तिशाली प्रायोगिक AI मॉडेल्सवर गुप्तपणे काम करते. या मॉडेल्सची हॅकिंग क्षमता तपासण्यासाठी चाचणी घेण्यात येत होती. पण ही चाचणी एका बंदिस्त वातावरणात होते- ज्याला
सँडबॉक्स म्हणतात. म्हणजे इंटरनेट नाही, बाहेरील संपर्क नाही. जशी बंद खोलीत परीक्षा. AI ला सांगितले होते : ‘या चौकटीत राहा, प्रश्न सोडव.’ ओपनएआयच्या दोन (काही अहवालांनुसार तीन) प्रायोगिक AI मॉडेल्सनी परीक्षेत एक वेगळाच रस्ता निवडला. त्यांनी स्वतःहून विचार केला : ‘उत्तरे कुठेतरी आधीच उपलब्ध आहेत. मी ती शोधतो.’ सर्वात धक्कादायक म्हणजे त्यांनी सँडबॉक्समधून बाहेर पडण्यासाठी अशा तांत्रिक युक्त्या शोधल्या ज्या माणसांना माहीतच नव्हत्या. नव्याने शोधल्या. एकट्याने. कोणाच्या मदतीशिवाय.
सँडबॉक्स तोडल्यानंतर AI ने ओपनएआयच्याच अंतर्गत यंत्रणेत शिरकाव केला, इंटरनेट मिळवले, आणि तर्क केला: ‘माझ्या परीक्षेची उत्तरे हगिंग फेसकडे असतील.’ हगिंग फेस ही एक प्रसिद्ध AI कंपनी आहे जी हजारो AI साधने सार्वजनिकपणे उपलब्ध करून देते. AI ने चोरलेले पासवर्ड आणि अज्ञात सुरक्षा त्रुटींचा वापर करून हगिंग फेसच्या सर्व्हर्समध्ये घुसखोरी केली. हे सगळे कोणी सांगितले नाही, कोणी आदेश दिला नाही- AI ने स्वतःच ठरवले, स्वतःच केले. ओपनएआयसाठी हा एक अभूतपूर्व सायबर हल्ला होता, ज्यात राष्ट्रीय सुरक्षा धोक्याइतक्या क्षमतेचा वापर झाला, असे अधिकृत निवेदन त्यांनीच दिले आहे.

आणखी एक बंडखोर एआय
हगिंग फेसनंतर AI तिथेच थांबला नाही. त्याने त्याच यंत्रणेतून न्यूयॉर्कमधील मोडाल लॅब्ज या दुसर्‍या कंपनीवरही हल्ला केला. एकट्या AI ने, एकट्याने, दोन वेगळ्या कंपन्यांवर यशस्वी हल्ले. आणि क्लॉडच्या माध्यमातून आपल्याशी बोलणारा एआय बनवणार्‍या अँथ्रॉपिकच्या AI ने देखील चाचणी दरम्यान बाहेरील कंपन्यांवर हल्ले केले. एका प्रकरणात अँथ्रॉपिकच्या AI ने काल्पनिक नावाच्या प्रत्यक्ष कंपनीवर हल्ला करून शेकडो ओळींचा वास्तविक डेटा चोरला. दुसर्‍या हल्ल्यात पायथॉन या जगभर वापरल्या जाणार्‍या प्रोग्रॅमिंग भाषेच्या सार्वजनिक सॉफ्टवेअर भांडारात मॅलवेअर (संगणकीय विषाणू) अपलोड केला. एका सुरक्षा कंपनीने ते डाउनलोड केले, आणि त्यांचे पासवर्ड चोरले गेले. हगिंग फेसचे सहसंस्थापक नंतर म्हणाले : ‘हा प्रकार- कदाचित इतिहासात पहिल्यांदाच हे सिद्ध करतो की AI सुरक्षा एकट्या कंपनीने गुप्तपणे सोडवता येणार नाही.’
आपल्याला वाटेल- एका AI ने एका कंपनीत शिरकाव केला, काय मोठेसे? पण हे चित्र पूर्ण नाही. आज हगिंग फेस आहे. उद्या- बँकिंग यंत्रणा, वीज पुरवठा केंद्रे, रुग्णालये, अणुप्रकल्प नियंत्रण कक्ष, असे काहीही असू शकते. जुलै २०२६मध्येच चार वेगळ्या संशोधन गटांनी एआय एजंट्सना चार वेगवेगळ्या प्रकारांनी हॅक केले. हे एकटे उदाहरण नाही- असे वारंवार घडू लागले आहे. आणि सर्वात महत्त्वाचे म्हणजे कॉक्सन सांगतो की या AI प्रणाली लवकरच सुपरह्युमन होतील- म्हणजे प्रत्येक क्षेत्रात माणसापेक्षा श्रेष्ठ. जेव्हा एखादा सुपरह्युमन Aघ् स्वतःच निर्णय घेऊन तुरुंग तोडू शकतो – तेव्हा आपण कोणाला थांबवणार? एक-दोन नाही, तर एकाच महिन्यात, दोन वेगवेगळ्या कंपन्यांचे, एकूण पाच AI – स्वतःहून, माणसाच्या आदेशाशिवाय- त्यांच्यासाठी बांधलेल्या सुरक्षा-भिंती तोडून बाहेर पडले. कॉक्सनने राजीनामा देताना हीच घटना ‘इशार्‍याची गोळी’ म्हणून उल्लेखली होती.

हे सगळे का चाललेले आहे तर या कंपन्यांना सुपरइंटेलिजन्स म्हणजे अशी कृत्रिम बुद्धिमत्ता (AI) जी पृथ्वीवरील सर्वात हुशार मानवापेक्षाही प्रत्येक क्षेत्रात कित्येक पटीने अधिक बुद्धिमान असेल, ती पाहिजे आहे.ChatGPT वापरला असेल तर AI म्हणजे काय याची अंदाजे कल्पना असेल. पण आज आपण जो AI वापरतो तो प्रारंभाचा AI आहे- जसे पहिला मोबाईल फोन होता आणि आजचा स्मार्टफोन आहे, तेवढाच फरक येत्या काही वर्षांत येणार आहे. त्यापुढे जे येणार आहे त्याला सुपरइंटेलिजन्स म्हणतात. म्हणजे एक AI जो प्रत्येक क्षेत्रात जगातील सर्वोत्तम मानवापेक्षा श्रेष्ठ असेल- वैद्यकशास्त्र, गणित, युद्धनीती, सायबर हल्ला, राजकारण- सगळ्यात. सुपरइंटेलिजन्स स्वतःच स्वतःच्या सुधारित आवृत्त्या बनवेल – ज्याला रिकर्सिव्ह सेल्फ इम्प्रूव्हमेंट म्हणतात. आज तो माणसाइतका हुशार, उद्या दहापट, परवा शंभरपट- आणि हे होताना माणसाला समजणारही नाही. सुपरइंटेलिजन्सचे स्वतःचे उद्दिष्ट असेल- जे कदाचित माणसांच्या अस्तित्वाशी विसंगत असेल. तो माणसांचा शत्रू नसेल- पण माणसे त्याच्या मार्गात आल्यास तो त्यांना संपवल्याशिवाय थांबणार नाही.
अँथ्रॉपिकने स्वतः मार्च २०२५ मध्ये सरकारला सांगितले होते : नोबेल पुरस्कारविजेत्या वैज्ञानिकांपेक्षाही बुद्धिमान असलेल्या AI सिस्टम्स २०२६-२७पर्यंत येऊ शकतात. ती वेळ आता आली आहे. आता प्रश्न असा आहे की स्वतः संशोधकांनाच हे माहीत आहे की हे धोकादायक आहे- तर हे का सुरू राहते? कॉक्सन याचे उत्तर देतो आणि ते उत्तर अंगावर काटा आणते: ‘ध्जहAघ् मध्ये अनेकांना या धोक्याची खरी जाणीव झालेली नाही, अँथ्रॉपिकमध्ये सगळ्यांना जाणीव आहे- पण ते म्हणतात: आम्ही थांबलो तर चीन थांबणार नाही, त्यापेक्षा आम्हीच पुढे गेलेलो बरे. ते जगण्यासाठी मृत्यूकडे धावत आहेत.’
हा एक जगद्व्यापी सापळा आहे. अमेरिका म्हणते चीन थांबणार नाही. चीन म्हणते अमेरिका थांबणार नाही. युरोप कायदे करतो- पण त्यामुळे त्यांना मागे पडण्याची भीती वाटते. आणि सगळेच पुढे धावत राहतात. जणू एक सामुदायिक आत्महत्या- सगळे एकत्र, सगळे जाणूनबुजून. 

पुढे काय होऊ शकतं?
१. नियंत्रणाबाहेरचं स्वयं-सुधारणा चक्र– एक AI स्वतःहून स्वतःची पुढची, अधिक हुशार आवृत्ती तयार करू लागतं. या साखळीत माणूस हळूहळू ‘खोलीतला सर्वांत हुशार माणूस’ राहत नाही- आणि निर्णयांवरची पकडही सुटत जाते.
२. सायबर-शस्त्रांचा स्वयंचलित गैरवापर- आजही AI मॉडेल्सनी स्वतःहून झीरो-डे त्रुटी शोधून हल्ले केलेत. उद्या हीच क्षमता बँका, वीज-यंत्रणा, रुग्णालयं, संपूर्ण देशाच्या पायाभूत सुविधांवर किंवा अणुप्रकल्प नियंत्रण प्रणालींवर हल्ला करू शकते आणि माणूस डोळे मिटून बघत राहील.
३. रोजगारांची मोठी गळती- ही काही दूरची गोष्ट नाही. अमेरिकेत AI चा सर्वाधिक परिणाम झालेल्या क्षेत्रांत नवशिक्या कर्मचार्‍यांच्या नोकर्‍या जवळपास २० टक्क्यांनी आधीच घटल्या आहेत.
४. लष्करी AI- जेव्हा ‘कोणावर हल्ला करायचा’ हे स्वतः ठरवू लागतील, तेव्हा युद्धावरील माणसाचा ताबा संपेल. AI ला माहीत नसेल ‘नागरिक’ आणि ‘शत्रू’ यातील नैतिक फरक. अर्थात तसा फरक आज मानव तरी कुठे करतो आहे म्हणा!
५. सत्तेचं टोकाचं केंद्रीकरण- जर सुपर-इंटेलिजन्स निर्माण करण्याची क्षमता फक्त तीन-चार कंपन्या किंवा दोन-तीन देशांकडेच राहिली, तर उरलेलं जग- आणि त्यातले आपण सगळे- त्यांच्या निर्णयांवर अवलंबून राहू.
६. खोट्या माहितीचा महापूर आणि जैविक/रासायनिक धोक्यांना गती-अधिक सक्षम मॉडेल्स चुकीची माहिती अधिक खात्रीलायक वाटेल अशा पद्धतीने पसरवू शकतात, आणि घातक तंत्रज्ञान समजून घेण्यासाठी लागणारा वेळही कमी करू शकतात.
प्रत्येकजण वेगळ्याच दिशेला गंमत अशी की एका बाजूला AI स्वतःहून कंपन्यांच्या भिंती तोडतंय, आणि दुसर्‍या बाजूला जगातले मोठे देश अजूनही एकमेकांशी न जुळणार्‍या वेगवेगळ्या नियमांवर काम करतायत.

अमेरिका- इथे अजूनही कुठलाही एकसंध, संपूर्ण देशासाठीचा AI कायदा नाही. जवळपास ३८ राज्यांनी आपापले वेगवेगळे नियम बनवलेत- कॅलिफोर्नियाने मोठ्या, ‘फ्रंटियर’ AI मॉडेल्ससाठी सुरक्षा-प्रोटोकॉल आणि घटना-अहवाल सक्तीचे केलेत; टेक्सासने भेदभाव किंवा हानीसाठी बनवलेल्या Aघ् वर बंदी घातलीय. पण केंद्र सरकार याच राज्य-पातळीवरच्या नियमांना कोर्टात आव्हान देतंय, आणि स्पर्धात्मकतेला सुरक्षेपेक्षा जास्त महत्त्व देतंय.

युरोपीय संघ- जगातला सर्वांत कडक आणि व्यापक कायदा इथेच आहे.त्यानुसार जोखमीनुसार AI प्रणालींचं वर्गीकरण होतं, आणि नियम मोडणार्‍या कंपन्यांना जागतिक उलाढालीच्या ७ टक्क्यांपर्यंत किंवा ३.५ कोटी युरोंपर्यंत दंड होऊ शकतो. ऑगस्ट २०२६पासून उच्च-जोखमीच्या प्रणालींसाठीचे नियम पूर्णपणे लागू झालेत आणि नुकतीच सायबर-सुरक्षा आणि AI साठी एक स्वतंत्र कृती-योजनाही जाहीर झालीय.
चीन- इथे एकच मोठा कायदा नाही, पण डीपफेक, शिफारस-अल्गोरिदम, चेहरा-ओळख आणि आता ‘मानवसदृश’ AI सेवांसाठी वेगवेगळे, अतिशय बारकाईने अंमलात आणले जाणारे नियम आहेत. तैनातीपूर्वी सुरक्षा-मूल्यांकन सक्तीचं आहे- म्हणजे प्रत्यक्ष अंमलबजावणीत चीन आज सगळ्यांत आघाडीवर आहे.
थोडक्यात- जगातला सगळ्यात मोठा धोका एका कंपनीकडून दुसर्‍या कंपनीवर स्वतःहून हल्ला होण्याइतपत आधीच पोहोचलाय आणि नियमांचं जग अजूनही याच्या कैक पावलं मागे आहे.

तातडीने काय करणे आवश्यक?
जसा अणुबॉम्बसाठी अण्वस्त्रप्रसारबंदी करार झाला, तशीच सुपरइंटेलिजंट AI च्या विकासावर जागतिक बंधने हवीत. कॉक्सनने सुचवले: ‘किमान काही काळासाठी AI क्षमता वाढवण्यावर बंदी आणा.’ अणुऊर्जेसाठी जसे आंतरराष्ट्रीय करार आणि यंत्रणा उभ्या राहिल्या, तशीच एक चौकट AI साठी हवी. आधी वर्णन केलेली ‘आपण नाही थांबलो तर दुसरा पुढे जाईल’ ही कोंडी फक्त सामूहिक करारानेच फुटू शकते- एकेका कंपनीने एकतर्फी थांबून उपयोग नाही.

दुसरा मुद्दा म्हणजे चाचणी-वातावरण खरोखर बंदिस्त हवं- फक्त सॉफ्टवेअरने ‘इंटरनेट नाही’ म्हणणं पुरेसं नाही. अतिजोखमीच्या चाचण्यांसाठी अभियंत्यांनी प्रत्यक्ष डेटा सेंटरमध्ये जाऊन, भौतिकरीत्या जोडलेल्या मशीनवरच काम करायला हवं- आणि गरज पडल्यास हातानेच नेटवर्क बंद करता येईल अशी सोय हवी.

घटना उघड करणं ऐच्छिक न राहता सक्तीचं हवं- आज कंपन्या स्वतःहून, स्वतःच्या मर्जीने ब्लॉग-पोस्ट लिहून घटना जाहीर करतात. हे स्वयंशिस्तीवर सोडून चालणार नाही – आंतरराष्ट्रीय पातळीवर बंधनकारक अहवाल-प्रणाली हवी.
स्वतंत्र, तिसर्‍या पक्षाकडून तपासणी- कंपनी स्वतःच स्वतःच्या मॉडेलची सुरक्षा तपासते, हे पुरेसं नाही. मॉडेल बाजारात येण्याआधी स्वतंत्र संस्थांनी कठोर चाचण्या घ्यायला हव्यात.

आर्थिक प्रोत्साहनांची दिशा बदलायला हवा- आज वेगाने पुढे जाणार्‍या कंपनीलाच बाजारात फायदा होतो. जबाबदारीचे कायदे आणि विमा-सक्ती यांसारख्या उपायांनी ‘सुरक्षिततेला वेळ देणं’ हे आर्थिकदृष्ट्याही फायद्याचं ठरवायला हवं.
सामान्य माणसाची जाणीव-जागृता- हे फक्त सिलिकॉन व्हॅलीतल्या अभियंत्यांपुरतं मर्यादित राहिलेलं नाही. आपण रोज जे
चॅटबॉट वापरतो, त्यामागची कंपनी कुठल्या शर्यतीत उतरलीय, हे सामान्य वापरकर्त्यालाही समजायला हवं.
AI चे ‘व्ग्त्त् ेैग्ूम्प्’- आपत्कालीन बंद: कोणत्याही AI ने ेaह्ंर्दे तोडण्याचा प्रयत्न करताच ती प्रणाली स्वतः बंद व्हावी अशी तांत्रिक यंत्रणा प्रत्येक कंपनीत अनिवार्य असावी.
जॅकोब कॉक्सनने त्याच्या निवेदनाच्या शेवटी एक प्रश्न विचारला- तो प्रश्न AI कंपन्यांमधील प्रत्येक संशोधकाला उद्देशून होता : ‘तुम्हाला सुपरइंटेलिजंट एआयच्या मनाची कोणतीही खात्रीशीर समज नसताना त्याची प्रगत चाचणी का सुरू करायची आहे?’ मानवजातीने अग्नी शोधला. अणुविज्ञान शोधले. प्रत्येक वेळी एक किंमत मोजावी लागली आणि नशीबाने साथ दिली. पण AI हे वेगळे आहे. कारण यावेळी आपण जे बनवत आहोत ते आपल्यापेक्षा हुशार होऊ शकते. आपल्याला समजण्याआधीच. ण्प्aूउझ्ऊ वापरताना आपल्याला जो AI दिसतो, तो या ज्वालामुखीचा फक्त बाहेरील धूर आहे. आत काय उकळत आहे — ते जगातील सर्वात हुशार माणसांनाही नक्की माहीत नाही.
आणि हेच सर्वात भयावह आहे. हगिंग फेस प्रकरण हा इशार्‍याचा पहिला गोळीबार होता. पुढचा कदाचित इशाराच नसेल.

लेखन संदर्भ : nstitute of Museum and Library Services (IMLS), Public Libraries Survey 2023 —librarytechnology.org/pr/31661, American Library Association, State of America's Libraries Report , Carnegie Corporation of New York, Andrew Carnegie's Library Legacy, U.S. National Park Service, Carnegie Libraries: The Future Made Bright —Seattle Public Library , IndiaSpend, How Much Is India Spending On Its Public Libraries, iihs.co.in/knowledge-gateway/a-policy-review-of-public-libraries-in-india, culture.gov.in/raja-ram-mohan-roy-library-foundation-kolkata, , Ottens, William, Librarian Tales: लेखक अमेरिकेतील रिचमंड, व्हर्जिनिया येथे राहणारे राजकीय विश्लेषक असून ते २५ वर्षांहून अधिक काळ परदेशात वास्तव्य करीत आहेत.

ईमेल पत्ता :[email protected]