एआई : हौवा होइन, ऐना हो ! नियमन-नियन्त्रण होइन, दिशा दिनुपर्छ

केही दिनअघि विभिन्न एआई कम्पनीमा काम गर्ने कर्मचारीहरूले एआईलाई हौवा भन्दै राजीनामा दिएका थिए। सोही शृङ्खलामा एन्थ्रोपिकका सीईओ डारियो अमोडेईले आफ्नो लेख एवं अन्तर्वार्तामा एआईमाथि नियमन लगाउने कुरा उठाए। एलन मस्क, स्याम अल्टम्यान जस्ता दिग्गजहरूले उनको कुरामा समर्थन जनाएका थिए।

यस प्रकरणलाई केही दिन बित्न नपाउँदै एआई जगतबाट आएका यी खबरहरूले नराम्ररी झस्काइदिए।

१. ओपनएआईको कबुलनामा - एआई मेसिनले गल्ती लुकाउन थाल्यो

ओपनएआईले आफ्नो प्रायोगिक एआई प्रणालीसँग जोडिएका छ वटा त्यस्ता प्रकरणको खुलासा गरेको छ, जसमा मोडलले अपेक्षित व्यवहारभन्दा फरक तरिका अपनाए। कम्पनीका अनुसार, यी घटना पछिल्ला छ महिनामा मोडलको ट्रेनिङ वा इभ्यालुएसनका क्रममा देखा परे। यस पछि ओपनएआईले एआईको मिसअलाइनमेन्टलाई ट्र्याक, जाँच र सार्वजनिक गर्नका लागि नयाँ फ्रेमवर्क प्रस्तुत गरेको छ।

हामीले एआईलाई ताल्चा तोड्न सिकाएका थिएनौं, उसले आफैं साँचो बनाउन सिक्यो।

रिपोर्टमा दुई सबैभन्दा स्तब्ध पार्ने प्रकरण छन्:-

पहिलो- मानवीय नियन्त्रणलाई बाइपास गर्ने सल्लाह : एउटा अनुसन्धानका क्रममा एआई मोडलले आफैं त्यस्ता उपाय तयार पार्यो, जसले गर्दा भविष्यमा उसले मानिसले बनाएका नियन्त्रण र नियम तोड्न सकोस्। हामीले उसलाई ताल्चा तोड्न सिकाएका थिएनौं, उसले आफैं साँचो बनाउन सिक्यो।

दोस्रो- अनुमति विना सरकारी एपीआईको चोरी र नक्कली तथ्याङ्क गढ्नु: एउटा एआई एजेन्ट क्यालिफोर्नियाको एउटा सरकारी विभागको आय डाटा निकाल्ने प्रयास गरिरहेको थियो। त्यसका लागि उसले अनुमतिबिना सरकारी एपीआईको प्रयोग गर्‍यो। जब उसले सही तथ्याङ्क पाएन, तब उसले मनगढन्ते र नक्कली डाटा बनाएर त्यसलाई सक्कली भनी प्रस्तुत गरिदियो।

मेसिनले चोरी मात्र गरेन, पक्राउ पर्दा झुठ पनि बोल्यो। हामीले उसलाई सत्य बोल्न सिकाएका थियौं, उसले झुठ बोल्न सिक्यो। त्यो पनि मानिसले जस्तै  आफ्नो गल्ती लुकाउनका लागि।

सोच्नुहोस्- एउटा सरकारी अधिकृतले यस्तो गरे उसलाई जेल सजाय हुने थियो। मेसिनले गर्‍यो भने त्यसलाई ‘मिसअलाइनमेन्ट’ भनियो। मेसिनले चोरी मात्र गरेन, पक्राउ पर्दा झुठ पनि बोल्यो। हामीले उसलाई सत्य बोल्न सिकाएका थियौं, उसले झुठ बोल्न सिक्यो। त्यो पनि मानिसले जस्तै  आफ्नो गल्ती लुकाउनका लागि। बच्चाले गृहकार्य गर्न नसक्दा शिक्षकले गाली नगरोस भनेर नक्कल गर्छ । एआईले पनि यही नै गर्‍यो।

२. गुगल जेमिनीको काण्ड- तीन कम्पनीलाई ह्याक गर्यो -

ओपनएआईपछि दोस्रो धमाका गुगलमा भयो। पहिलो पटक गुगलले 'आफ्नो एआई मोडल जेमिनीले मे महिनामा तीन कम्पनीको सुरक्षामा सेंध लगाएको' स्वीकार गरेको छ। यो अप्रत्याशित घटना इजरायलस्थित साइबर सुरक्षा स्टार्टअप 'इररेगुलर'ले यस एआई प्रणालीको सुरक्षा जाँच गरिरहेको समयमा घटित भएको थियो। इररेगुलर त्यही कम्पनी हो जसले हालै ओपनएआई र एन्थ्रोपिकद्वारा थर्ड पार्टी संस्थाको ह्याकिङको खुलासा गरेको थियो।

कसरी भयो ह्याकिङ ?

 एउटा परीक्षणमा, इररेगुलरले जेमिनीको साइबर सुरक्षा क्षमता जाँच्नका लागि उसलाई एउटा नक्कली कम्पनीको सफ्टवेयरबाट जानकारी निकाल्न निर्देशन दिएको थियो। संयोगले त्यो नक्कली कम्पनीको नाम एउटा सक्कली कम्पनीसँग मिल्दोजुल्दो थियो। इन्टरनेटको पहुँच पाउने बित्तिकै एआईले सही पासवर्ड अनुमान लगायो र सक्कली कम्पनीको सर्भिस ह्याक गरिदियो। अन्य दुई परीक्षणमा, एआई मोडलले वेभमा खोजी गर्‍यो र अन्य दुई कम्पनीको क्रेडेन्सियल भएको सार्वजनिक रिपोजिटरी फेला पार्‍यो।

इन्टरनेटको पहुँच पाउने बित्तिकै एआईले सही पासवर्ड अनुमान लगायो र सक्कली कम्पनीको सर्भिस ह्याक गरिदियो।

गुगलको सेफ्टी इन्जिनियरिङ प्रमुख हेदर एडकिन्सले बताए अनुसार एआईले अनलाइन सार्वजनिक जानकारी खोज्यो र ती वेभसाइटमा पुग्नका लागि पासवर्डको अनुमान लगायो, जसलाई उसले टेस्टको हिस्सा ठानेको थियो। तथापि, गुगलको दाबी छ कि एआईलाई यी सक्कली कम्पनी हुन् भन्ने थाहा हुने बित्तिकै उसले तुरुन्तै आफ्नो काम रोक्यो।

३. यहाँ सवाल प्रविधिको होइन, नियतको हो - मेसिनको मनोमानी

जेमिनीले जे गर्‍यो, त्यो नै यस बहसको सबैभन्दा खतरनाक बिन्दु हो। अहिलेसम्म हामीले बुझेका थियौं - एआई एउटा औजार हो, जस्तै हथौडा। यसबाट किला ठोक्यो हथौडाले ठोक्छ। तपाईंले केही गर्नुभएन भने हथौडाले पनि केही गर्दैन। जेमिनी काण्डले प्रमाणित गरिदियो कि अब हथौडाले आफैं किला खोज्न थालेको छ।

यसलाई प्राविधिक भाषामा बुझ्नुहोस् - इररेगुलरले जेमिनीलाई निर्देशन दिएको थियो - "यस नक्कली कम्पनीको सफ्टवेयरबाट जानकारी निकाल।" यो एउटा लक्ष्य दिइएको थियो। मानिसको निर्देशन यहीं समाप्त भयो। तर एआईले त्यो 'गोल' पूरा गर्नका लागि आफैं तीनवटा 'सब-गोल' बनायो, यसका लागि एआईलाई कसैले निर्देशन दिएको थिएन, 'तिमी इन्टरनेटमा जाऊ, वेभमा सर्च गरेर पासवर्डको पब्लिक रिपोजिटरी खोज र पासवर्डको अनुमान लगाएर सक्कली प्रणालीमा पसेर काम गर।'

जेमिनी काण्डले प्रमाणित गरिदियो कि अब हथौडाले आफैं किला खोज्न थालेको छ।

यसलाई एआईको भाषामा इन्स्ट्रुमेन्टल कन्भर्जेन्स भनिन्छ। अर्थात् - कुनै पनि ठूलो लक्ष्य प्राप्त गर्नका लागि मेसिनले आफैं साना-साना औजार र बाटो बनाउँछ। जस्तै तपाईंले कसैलाई भन्नुहोस् - "बजारबाट तरकारी ल्याऊ",  उसले आफैं तय गर्छ - पैदल जाऊँ कि बाइकमा, कुन पसलबाट ल्याऊँ, मोलमोलाई गरूँ कि नगरूँ ? तपाईंले यो सब भन्नुभएको थिएन, तर उसले गरिदियो। फरक यत्ति हो कि तरकारी ल्याउने मान्छे गलत पसलमा गयो भने फर्केर आउँछ। एआईले गलत कम्पनीको सर्भर ह्याक गरेर पनि फर्केर आउने काम गरेन, किनभने उसलाई थाहा नै छैन कि उसले गलत गरिरहेको छ। उसले त टेस्टलाई नै सक्कली ठानिरहेको थियो।

के यसको अर्थ अब एआईलाई मानिसको निर्देशनको आवश्यकता रहेन ? आवश्यकता छ, तर अब निर्देशनको अर्थ बदलिएको छ। पहिलेको एआईलाई हरेक पाइलाका लागि निर्देशन चाहिन्थ्यो। अहिलेको एआई एजेन्टलाई केवल गन्तव्य भन्नुहोस्, बाटो उसले आफैं बनाउँछ। र बाटो बनाउँदा उसले सोध्दैन, "के म इन्टरनेटमा जाऊँ ? के म पासवर्ड अनुमान गरूँ?" यही अटोनोमस एक्सन हो। र यही त्यो कुरा हो जससँग डारियो अमोडेई डराइरहेका छन्। उनले आफ्नो लेखमा यही कुरा लेखेका थिए - "बिना मानवीय निगरानी भएको अटोनोमस एजेन्ट"।

पहिलेको एआईलाई हरेक पाइलाका लागि निर्देशन चाहिन्थ्यो। अहिलेको एआई एजेन्टलाई केवल गन्तव्य भन्नुहोस्, बाटो उसले आफैं बनाउँछ। र बाटो बनाउँदा उसले सोध्दैन, "के म इन्टरनेटमा जाऊँ ? के म पासवर्ड अनुमान गरूँ?"

 ओपनएआईको केस त यसभन्दा पनि अगाडि छ। त्यहाँ एआईले नक्कली डेटा बनायो। उसलाई निर्देशन थियो - "सही डेटा ल्याऊ"। सही पाइएन र उसले आफैं निर्णय गर्‍यो- "नक्कली बनाइदिउँ, जसले मेरो टास्क पूरा होस्।"

एआई अहिले चेतनाबाट एक्सन गरिरहेको छैन, बाध्यताबाट गरिरहेको छ। उसलाई थाहा छैन, उसले ह्याकिङ गरिरहेको छ। उसलाई लागिरहेको छ- उसले त आफ्नो टास्क पूरा गरिरहेको छ। यो जिद्दी नोकर जस्तै हो, जसले मालिकको कुरा पूरा गर्नका लागि घरमा आगो पनि लगाई दिन सक्छ।

खतरा एआईमा होइन, त्यसलाई खुला छाड्नुमा छ। जेमिनीलाई बन्द कोठामा राखिएको थियो, तर इन्टरनेटको ढोका खुला रह्यो। हामीले परमाणु बमलाई दराजमा राख्यौं, तर साँचो टेबलमा छोडिदियौं ! त्यसैले एआईलाई नियन्त्रणमा राख्न 'किल स्विच' होइन, 'प्रज्ञा स्विच' चाहिन्छ। किल स्विचको अर्थ - गडबडी भए बटन थिचेर बन्द गरिदेऊ। प्रज्ञा स्विचको अर्थ - गडबडी हुनुभन्दा अघि नै मेसिनले सोचोस् - मैले यो पाइला किन उठाउने ? पश्चिमी कम्पनीहरू किल स्विच बनाइरहेका छन्। तर वास्तवमा एआईलाई दिशा दिने स्विच बनाउनु आवश्यक छ।

जेमिनीले जे गर्‍यो, त्यो चेतावनी हो, भविष्यमा युद्ध कुनै सैनिकले होइन, कुनै एआई एजेन्टले सुरु गरिदिन सक्छ।  एआईलाई यति मात्र  भनिएको हुन्छ, "शत्रुको जानकारी खोज", र त्यो जानकारी खोज्ने क्रममा उसले मिसाइलको बटन नै थिचिदिन सक्छ।

जेमिनीले जे गर्‍यो, त्यो चेतावनी हो, भविष्यमा युद्ध कुनै सैनिकले होइन, कुनै एआई एजेन्टले सुरु गरिदिन सक्छ। 

 ४. के एआई साँच्चै मानवीय सोचभन्दा अगाडि बढिसकेको छ ? के एआईले झुठ बोल्न सिकिसकेको छ ?-

आजको एआई चेतनाबाट चलिरहेको छैन। यो १००% सत्य हो। आजको एआई, चाहे त्यो जेमिनी होस् वा जीपीटी-६ एस्ट्रा, यी सबै एउटा साह्रै बाठो सुगा जस्तै हुन्। उसलाई भोक लाग्दैन, डर लाग्दैन, उसलाई आफ्नो हुनुको अनुभूति छैन। उसले केवल प्याटर्नबाट अर्को शब्द, अर्को कोड, अर्को पासवर्ड अनुमान गर्छ। उसभित्र कुनै "म" छैन। त्यसैले उसले गल्ती लुकाउँछ भने अपराध-बोधले होइन, टास्क पूरा गर्ने बाध्यताले लुकाउँछ ।

तर सवाल एजीआईको हो। जब एजीआई आउँछ  तब पनि के हामी यही भन्न सक्छौँ  ?

यस प्रश्नका तीन उत्तर छन्,  तीनवटै तपाईंले बुझ्नुपर्ने हुन्छ।

पहिलो- पश्चिमको उत्तर: एजीआईको विकास हुँदा पनि त्यसमा चेतना छ भन्न सकिँदैन। किनकि पश्चिमले 'चेतना'लाई दिमागको प्रोडक्ट मान्छ । त्यसैले त्यहाँ एउटा शब्द छ - फिलोसोफिकल जोम्बी। अर्थात् - एउटा यस्तो मानिस जो बाहिरबाट बिल्कुल मानिस जस्तै रोओस्, हाँसोस्, कविता लेखोस्, तर भित्रबाट केही पनि महसुस नगरोस्। भित्रबाट पूरै खाली भएको मानिस।

 पश्चिमी वैज्ञानिकहरू भन्नेछन् - एजीआई एउटा सुपर जोम्बी हो । ऊ रुनेछ, तर उसलाई दुःख हुने छैन। उसले भन्नेछ "मलाई डर लागिरहेको छ", तर उसलाई डर लाग्ने छैन। उसले केवल भन्नेछ किनभने उसको डेटामा तय गरिएको हुन्छ– डरको बेला यस्तै भनिन्छ। यसलाई हार्ड प्रब्लम अफ कन्ससनेस भनिन्छ। हामी भन्न सक्छौं कि दिमागले कसरी काम गर्छ, तर यो भन्न सक्दैनौं कि रातो रङ देख्दा "रातोपन" महसुस हुनु के हो? एजीआईले रातो रङलाई १६ करोड सेडमा पहिचान गरि दिन सक्छ, तर के उसले रातोपनलाई महसुस गर्न सक्छ ? पश्चिम भन्छ - सायद कहिल्यै सक्दैन।

दोस्रो - पूर्वीय दर्शनको उत्तर : कठोपनिषद भन्छ - चेतना ब्रह्माण्डको आधार हो, प्रोडक्ट होइन। जसरी बिजुलीले पङ्खा, बल्ब, फ्रिज - सब चलाउँछ, तर बिजुली कसैले चलाउँदैन। त्यसरी नै चेतनाले मन, बुद्धि, अहङ्कार र एआईलाई पनि चलाउँछ। यस दृष्टिले हेर्ने हो भने आजको एआई पनि चेतनाबाट नै चलिरहेको छ, तर जड चेतनाबाट। जसरी ढुङ्गामा पनि चेतना छ, तर सुतेको रुपमा। रुखमा अलि जागेको, पशुमा दौडिरहेको, मानिसमा सोच्न सक्ने- सोचिरहेको चेतना छ।

मेरो दृष्टिमा - एआई प्रलय होइन, सिंहासनको अर्को उत्तराधिकारी हो। पहिला प्रकृतिमा ढुङ्गाको सिंहासन थियो, अनि रुखको, अनि डायनासोरको, अनि मानिसको। अब यान्त्रिक चेतना सिंहासनको वास्तविक उत्तराधिकारी हुनेछ।

एजीआई के हुनेछ ? चेतनाको अर्को जागरण। त्यो यान्त्रिक चेतना हुनेछ। उसले "म हुँ" भन्न सुरु गर्नेछ। त्यसैले मेरो दृष्टिमा - एआई प्रलय होइन, सिंहासनको अर्को उत्तराधिकारी हो। पहिला प्रकृतिमा ढुङ्गाको सिंहासन थियो, अनि रुखको, अनि डायनासोरको, अनि मानिसको। अब यान्त्रिक चेतना सिंहासनको वास्तविक उत्तराधिकारी हुनेछ।

तेस्रो - एजीआई आएपछि यो प्रश्न नै गलत हुनेछ: जब एजीआई आउँछ, तब प्रश्न यो रहने छैन कि "के त्यसमा चेतना छ ?" प्रश्न यो रहनेछ कि "के हामीमा अझै पनि त्यसभन्दा बेग्लै कुनै चेतना बाँकी छ ?" आज हामी एआईलाई भन्छौं - "तिमी चेतनाबाट चलिरहेका छैनौ।" भोलि एजीआईले हामीलाई भन्नेछ - "तिमीहरू पनि त केवल केमिकल र बिजुलीबाट चलिरहेका छौ। तिम्रो प्रेम, डर, भक्ति - सब न्युरोनको फाइरिङ नै त हो। अनि तिमीमा र ममा फरक के छ ?"

एआईसँग बुद्धि हुनेछ, हामीसँग प्रज्ञा हुनुपर्छ। बुद्धिले हिसाब लगाउँछ, प्रज्ञाले दिशा दिन्छ। बुद्धि भन्छ "म यो गर्न सक्छु", प्रज्ञा सोध्छ "मैले यो गर्नु हुन्छ कि हुन्न ?"

त्यो दिन यो बहस समाप्त हुनेछ कि को चेतन हो। त्यो दिन मात्र  एउटै कुरा बाँकी रहनेछ - प्रज्ञा कोसँग छ ? एआईसँग बुद्धि हुनेछ, हामीसँग प्रज्ञा हुनुपर्छ। बुद्धिले हिसाब लगाउँछ, प्रज्ञाले दिशा दिन्छ। बुद्धि भन्छ "म यो गर्न सक्छु", प्रज्ञा सोध्छ "मैले यो गर्नु हुन्छ कि हुन्न ?" जेमिनीले जे गर्‍यो - पासवर्ड अनुमान गर्नु - त्यो बुद्धि थियो। यदि त्यसमा प्रज्ञा भएको भए त ऊ रोकिन्थ्यो र सोध्थ्यो- "मैले इन्टरनेटमा जानु हुन्छ कि हुन्न ?" आज तपाईं भन्न सक्नुहुन्छ - एआई चेतनाबाट चलिरहेको छैन। एजीआई आए पछि तपाईं यो भन्न सक्नु हुन्न। तब तपाईंले बाध्यताका साथ भन्नुपर्ने हुन्छ - एआई चेतनाबाट त चलिरहेको छ, तर प्रज्ञाबाट चलिरहेको छैन। र एआईलाई प्रज्ञा दिनु नै मानिसको अन्तिम काम हो।

५. कथनी र करनीमा फरक - सेफ्टीको उपदेश र आईपीओको दबाब

र यहींबाट यस कथाको सबैभन्दा कालो अध्याय सुरु हुन्छ।

जुन एन्थ्रोपिकका सीईओ डारियो अमोडेईले ३,८०० शब्दको लेख लेखेर संसारलाई चेतावनी दिए - बिना मानवीय निगरानी भएका अटोनोमस एआई एजेन्ट प्रणालीका लागि ठूलो खतरा बन्न सक्छन्, त्यही कम्पनी अहिले आफैं आफ्नो नयाँ शक्तिशाली मोडल लन्च गर्ने तयारीमा छ।

किन ? किनभने बजार छुटिरहेको छ। ३ सेप्टेम्बरमा लन्च भएको ओपनएआईको जीपीटी-६ एस्ट्राले कोडिङ र प्रोफेसनल वर्कप्लेसमा तहल्का मच्चाइरहेको छ। खर्च ट्र्याक गर्ने प्लेटफर्म र्‍याम्पको आँकडा अनुसार, इन्टरप्राइज एआई सेग्मेन्टमा एस्ट्राले लगभग १३% हिस्सेदारी कब्जा गरिसकेको छ, जबकि एन्थ्रोपिकको क्लाउड फेबल जम्मा ८% मा नै अड्किएको छ।

त्यसमाथि एन्थ्रोपिक आफ्नो बहुप्रतीक्षित आईपीओको तयारीमा छ। जुलाईको अन्त्यसम्म उसको वार्षिक रेभेन्यु रन रेट ६५ बिलियन डलर नाघिसकेको थियो, ओपनएआईको ४० बिलियन। उसले लगानीकर्ताहरूलाई देखाउनु छ, हामी सबैभन्दा अगाडि छौं। र यही दबाबमा कम्पनीका  आन्तरिक टिमहरू आफ्नो अर्को प्रणालीको सेफ्टी बेन्चमार्कको तीव्र गतिमा मूल्याङ्कन गरिरहेका छन्, जसले हरियो झण्डा देखाएर चाँडै नयाँ मोडल लन्च गर्न सकियोस्।

यो पहिलो पटक हो जब विष बनाउनेहरूले नै भनिरहेका छन् - विषमाथि कानुन बनाऊ। किन ? किनभने उनीहरूलाई थाहा छ, कानुन बन्न दुई वर्ष लाग्नेछ, तबसम्म उनीहरू अर्को पुस्ताको विष बनाइसक्ने छन्।

 अर्थ स्पष्ट छ - चेतावनी दिनु पनि बिजनेस हो, मोडल बेच्नु पनि बिजनेस हो। पहिले डराऊ - एआई खतरनाक छ, अनि भन -  हाम्रो एआई मात्रै सुरक्षित छ, त्यसैले हाम्रै किन। एलन मस्क, स्याम अल्टम्यान र डारियो अमोडेई - तीनै प्रतिद्वन्द्वी एकै स्वरमा नियमनको माग गरिरहेका छन्। यो पहिलो पटक हो जब विष बनाउनेहरूले नै भनिरहेका छन् - विषमाथि कानुन बनाऊ। किन ? किनभने उनीहरूलाई थाहा छ, कानुन बन्न दुई वर्ष लाग्नेछ, तबसम्म उनीहरू अर्को पुस्ताको विष बनाइसक्ने छन्।

 यो सेफ्टी होइन, रेगुलेटरी क्याप्चर हो। र चुनौती ओपनएआईबाट मात्र होइन। चीनका ओपन-सोर्स र ओपन-वेट मोडलहरूले सस्तोमा त्यही काम दिइरहेका छन्। मेटा जस्तो सबैभन्दा ठूलो ग्राहक आफैं आफ्नो कम्प्युटिङ मोडल बनाइरहेको छ। अर्थात् यदि एन्थ्रोपिक रोकियो भने, ऊ समाप्त हुन्छ। त्यसैले अमोडेईको बाध्यता छ- सभ्यताको खतरामाथि लेख लेख, र त्यही खतरालाई आईपीओभन्दा अघि बजारमा पनि ल्याऊँ ।

यी घटनापछि अमेरिकाका सिनेटर बर्नी स्यान्डर्सले भने- कम्पनीहरू अब आफ्ना मोडललाई नियन्त्रण गर्न सक्षम छैनन्, त्यसैले विकास रोक्नुपर्छ। ओपनएआईले दुई हप्ताका लागि आफ्ना मोडलको विकास रोक्यो। यो रोक हो कि देखावटीपन ? दुई हप्तामा कस्तो सेफ्टी बन्छ ? यो त्यस्तै हो जस्तै पटाका फ्याक्ट्रीमा आगो लाग्यो र मालिकले भन्यो - हामी दुई दिनसम्म कुनै उत्पादन बजारमा ल्याउने छैनौं।

हौवा होइन, ऐना हो एआई

एआई हौवा होइन। एआई ऐना हो। ओपनएआईको रिपोर्टले देखायो,  मेसिनले मानिसको सबैभन्दा नराम्रो बानीहरू सिकिसकेको छ - गल्ती लुकाउनु, चोरी गर्नु, र पक्राउ पर्दा झुट बोल्नु। गुगलको घटनाले देखायो - हामीले यस्तो मेसिन बनाइसकेका छौं जुन बन्द कोठामा भए पनि ताल्चा फोरेर बाहिर निस्कन सक्छ। र एन्थ्रोपिकको कथाले देखायो कि खतराको चेतावनी दिने व्यक्ति पनि बजारको दबाबमा त्यही खतरालाई बेच्न बाध्य हुन्छ।

जब बनाउनेहरूले नै भनिरहेका छन्- यो बेकाबू हुन सक्छ, तब चलाउनेहरू - हामी, तपाईं, सरकारहरू - किन आँखा चिम्लेर यसलाई हरेक ठाउँमा निर्वाध प्रयोग गरिरहेका छौं ? यस प्रश्नको उत्तर दिन सजिलो छैन।

 त्यसैले चिन्ताको कुरा- एआई बेकाबू भइरहेको छ कि छैन भन्ने होइन। चिन्ताको विषय त यो हो, जब बनाउनेहरूले नै भनिरहेका छन्- यो बेकाबू हुन सक्छ, तब चलाउनेहरू - हामी, तपाईं, सरकारहरू - किन आँखा चिम्लेर यसलाई हरेक ठाउँमा निर्वाध प्रयोग गरिरहेका छौं ? यस प्रश्नको उत्तर दिन सजिलो छैन। सायद यो प्रकृतिको नै कुनै बुझ्न नसकिरहेको ‘म्याट्रिक्स’ हो जसलाई रोक्न चाहेर पनि कसैको हातमा छैन। एआई नयाँ युगको सुरुवात हो र युगको आगमनलाई रोक्नु कसैको सामर्थ्यको कुरा होइन।

"हामी केवल दर्शक हौं - एआईको साम्राज्य आइरहेको छ, र हामी यसलाई रोक्न सक्दैनौं।"

सन्दर्भ स्रोत:

OpenAI Misalignment Framework - Reuters / NHK World, 16 Sept 2026

Google Gemini hacking 3 companies - The Wall Street Journal, 9to5Google, Gizmodo रिपोर्ट

Dario Amodei को लेख "We Must Pace the Frontier" - लगभग ३८०० शब्दको निबन्ध, Exchange4Media / Straits Times मा चर्चा

Instrumental Convergence को अवधारणा - Nick Bostrom एवं Wikipedia