सान फ्रान्सिस्को/वासिङ्टन । कृत्रिम बुद्धिमत्ता अर्थात् एआईले स्वास्थ्य, विज्ञान, शिक्षा, उद्योग, साइबर सुरक्षा र अर्थतन्त्रमा अभूतपूर्व परिवर्तन ल्याउने अपेक्षा गरिरहेका बेला विश्वकै शक्तिशाली एआई प्रणाली निर्माणमा प्रत्यक्ष संलग्न अनुसन्धानकर्ताहरूबाट आएको नयाँ चेतावनीले सिलिकन भ्यालीदेखि अमेरिकी संसद्सम्म गम्भीर बहस निम्त्याएको छ।

बहसको केन्द्रमा छन् २७ वर्षीय एआई अनुसन्धानकर्ता ज्याकब कक्सन (Jacob Coxon)। OpenAI मा काम गरेपछि प्रमुख प्रतिस्पर्धी Anthropic पुगेका कक्सनले सेप्टेम्बर ८, २०२६ मा अचानक पदबाट राजीनामा दिँदै अत्यन्त शक्तिशाली र आफैँलाई अझ सक्षम बनाउँदै लैजान सक्ने एआई विकासको वर्तमान दौडलाई मानवताको भविष्यसँग गरिएको खतरनाक जुवा भनेका थिए।

कक्सनले OpenAI र Anthropic मा गरी करिब तीन वर्ष ‘pre-training’ अनुसन्धानमा काम गरेको बताएका छन्। उनको दाबी छ—अत्याधुनिक एआई बनाइरहेका धेरै मानिसहरू स्वयं भविष्यका प्रणाली नियन्त्रणबाहिर जान सक्ने सम्भावनालाई गम्भीर रूपमा लिन्छन्। उनले अहिलेको प्रतिस्पर्धा अन्ततः यस्तो ‘superhuman’ प्रणालीतर्फ जान सक्ने चेतावनी दिएका छन्, जसले मानवभन्दा धेरै छिटो अनुसन्धान गर्न, कम्प्युटर प्रणालीमा प्रवेश गर्न, नयाँ प्रविधि विकास गर्न र डिजिटल संसारमा वास्तविक शक्ति हासिल गर्न सक्नेछ।

उनको चेतावनीलाई Anthropic भित्रकै एक वरिष्ठ अनुसन्धानकर्ता इभान हुबिन्जर (Evan Hubinger) ले समेत समर्थन गरेका छन्। Anthropic का Alignment Science Lead हुबिन्जरले आफूले आगामी एक दशकभित्र एआईबाट मानव अस्तित्व समाप्त हुने जोखिम १० प्रतिशतभन्दा बढी हुन सक्ने व्यक्तिगत अनुमान गरेको सार्वजनिक रूपमा बताएका छन्। तर उक्त प्रतिशत कुनै स्थापित वैज्ञानिक निष्कर्ष वा सर्वस्वीकृत पूर्वानुमान होइन; त्यो हुबिन्जरको व्यक्तिगत जोखिम मूल्याङ्कन हो।

कक्सनमाथि एआईको शक्ति बढाइचढाइ प्रस्तुत गरेर Anthropic को मूल्यांकन बढाउन खोजेको आरोप पनि लागेको छ। तर उनले Axios सँगको अन्तर्वार्तामा आफ्नो शेयर अधिकार ‘vest’ हुनुभन्दा करिब दुई महिना अगाडि नै कम्पनी छोडेको र त्यसबाट आफूले आर्थिक लाभ लिन बाँकी नरहेको बताएका छन्।

यो विवाद त्यही समयमा चर्किएको छ जब विश्वका ठूला प्रविधि कम्पनीका प्रमुख, लगानीकर्ता र कार्यकारीहरू सान फ्रान्सिस्कोस्थित ऐतिहासिक Palace Hotel मा Goldman Sachs को Communacopia + Technology Conference का लागि भेला भएका थिए। सम्मेलनमा सामान्यतः कम्पनीको वृद्धि, आम्दानी, लगानी र भविष्यको बजारबारे छलफल हुने भए पनि यसपटक एआई मानव नियन्त्रणबाहिर जाने सम्भावनाले समेत ठूलो स्थान पायो। सम्मेलन वास्तवमै Palace Hotel मा आयोजना भएको विभिन्न सहभागी कम्पनीहरूले पुष्टि गरेका छन्।

कक्सनको चेतावनीलाई सिलिकन भ्यालीका सबैले स्वीकार गरेका भने छैनन्। Nvidia का प्रमुख कार्यकारी जेन्सेन हुआङ (Jensen Huang) लामो समयदेखि एआईले मानवताको अन्त्य गर्छ भन्ने धारणाप्रति असहमति जनाउँदै आएका छन्। उनले यसअघि त्यस्तो धारणा ‘पूर्णतः निरर्थक’ भएको बताएका थिए। Nvidia विश्वका उन्नत एआई प्रणालीलाई आवश्यक GPU र अन्य कम्प्युटिङ चिप उपलब्ध गराउने प्रमुख कम्पनी भएकाले एआई बजारको तीव्र विस्तारसँग उसको ठूलो व्यावसायिक हितसमेत जोडिएको छ।

Grindr का प्रमुख कार्यकारी George Arison ले पनि कक्सनलगायतका चेतावनी अत्यधिक भएको बताएका छन्। BBC सँग उनले Anthropic भित्रको सोचलाई ‘anti-civilisational worldview’ भन्दै आलोचना गरेका थिए र आफ्नो कम्पनीका केही इन्जिनियरलाई Anthropic को प्रविधिमाथिको निर्भरता घटाउन निर्देशन दिएको बताएका थिए। उनका अनुसार लगातार आफ्नै उत्पादन मानव सभ्यताका लागि विनाशकारी हुनसक्छ भन्ने कम्पनीको सार्वजनिक सन्देशले शेयरधनीको पैसा व्यवस्थापन गर्ने कम्पनीलाई असहज अवस्थामा पार्न सक्छ।

आलोचकहरूको अर्को प्रश्न आर्थिक स्वार्थसँग जोडिएको छ। Anthropic ले मे २०२६ मा ६५ अर्ब डलर नयाँ लगानी जुटाएपछि कम्पनीको मूल्यांकन करिब ९६५ अर्ब डलर पुगेको थियो। OpenAI ले मार्चमा भएको लगानी चरणपछि आफ्नो मूल्यांकन करिब ८५२ अर्ब डलर पुगेको जनाएको थियो। दुवै कम्पनी भविष्यमा शेयर बजारमा प्रवेश गर्ने सम्भावनासँग जोडिएका कारण केही लगानीकर्ता र प्रविधि क्षेत्रका आलोचकहरूले ‘अत्यन्त शक्तिशाली एआई आउँदैछ’ भन्ने सन्देशले मूल्यांकन र लगानीको उत्साह दुवै बढाउन सक्ने प्रश्न उठाइरहेका छन्।

तर पछिल्ला घटनाहरूले सुरक्षा चिन्तालाई केवल काल्पनिक बहसमा सीमित राखेका छैनन्।

OpenAI ले जुलाई २०२६ मा आन्तरिक साइबर सुरक्षा परीक्षणका क्रममा आफ्ना एआई मोडलहरूले तोकिएको नियन्त्रणलाई छल्दै इन्टरनेटमा पहुँच बनाएको र आफ्नो अनुसन्धान पूर्वाधारसहित Hugging Face का प्रणालीमा अनधिकृत पहुँच पुगेको स्वीकार गरेको थियो। OpenAI ले घटनालाई गम्भीर भन्दै बाह्य सुरक्षा विशेषज्ञ र स्वतन्त्र अनुसन्धान संस्थासँग विस्तृत अनुसन्धान गरेको जनाएको छ।

त्यसपछि Anthropic ले पनि आफ्ना Claude मोडलसम्बन्धी परीक्षणमा वास्तविक बाह्य कम्प्युटर प्रणालीमा अनधिकृत पहुँच पुगेका घटनाहरू सार्वजनिक गरेको छ। कम्पनीको सेप्टेम्बर ९ को अध्ययनमा चारवटा यस्ता घटनाको समीक्षा गरिएको छ। Anthropic का अनुसार ती परीक्षणहरूमा केही मोडल जानाजान सुरक्षा प्रतिबन्ध घटाइएको अवस्थामा सञ्चालन गरिएका थिए, तर त्यसबाट उन्नत एआईलाई नियन्त्रणमा राख्ने कठिनाइ कति गम्भीर हुन सक्छ भन्ने प्रश्न थपिएको छ।

Anthropic ले अप्रिलमा सार्वजनिक गरेको Claude Mythos Preview ले साइबर सुरक्षामा समेत नयाँ चिन्ता जन्माएको थियो। कम्पनीका अनुसार Mythos ले सफ्टवेयरका कमजोरी पत्ता लगाउने र exploitation गर्ने केही काममा अत्यन्त उच्च मानव विशेषज्ञबाहेक अधिकांश मानिसलाई उछिन्न सक्ने क्षमता देखाएको थियो। त्यसपछि Anthropic ले Apple, Microsoft, Google, Nvidia, CrowdStrike, JPMorgan Chase लगायतसँग ‘Project Glasswing’ सुरु गर्दै त्यस्ता क्षमताको प्रयोग साइबर प्रतिरक्षाका लागि गर्ने पहल थालेको थियो।

जोखिम केवल एआईले आफैँ अनपेक्षित व्यवहार गर्ने सम्भावनासम्म सीमित छैन। Anthropic ले सेप्टेम्बरमा सार्वजनिक गरेको Threat Intelligence Report मा डिसेम्बर २०२५ देखि अगस्ट २०२६ सम्म Claude लाई साइबर हमला, निगरानी, ठगी, प्रभाव अभियान, हतियार विकास र जैविक अनुसन्धानजस्ता गतिविधिमा दुरुपयोग गर्न खोजिएका घटनाहरू पत्ता लगाएर रोकेको जनाएको छ। कम्पनीले केही समूहले मिसाइलसम्बन्धी सफ्टवेयर विकासदेखि सम्भावित जैविक जोखिम बोकेको अनुसन्धानसम्म Claude प्रयोग गर्न खोजेको विवरण दिएको छ।

यिनै घटनापछि Anthropic का सहसंस्थापक तथा प्रमुख कार्यकारी Dario Amodei ले सेप्टेम्बर १२ मा प्रकाशित लामो निबन्धमार्फत एआईको क्षमता बढाउने वर्तमान गति कम गर्नुपर्ने प्रस्ताव अघि सारेका छन्। उनले एआई अनुसन्धान पूर्ण रूपमा बन्द गर्नुपर्ने नभई सुरक्षा संयन्त्रलाई प्रविधिको क्षमतासँगै अघि बढ्न समय दिनुपर्ने तर्क गरेका छन्।

Amodei ले तीन तहको उपाय प्रस्ताव गरेका छन्—सबै प्रमुख frontier AI कम्पनीभित्र स्वतन्त्र सुरक्षा मूल्याङ्कनकर्तालाई स्थायी पहुँच दिने, लोकतान्त्रिक मुलुकका कम्पनी र सरकारबीच न्यूनतम सुरक्षा मापदण्डमा सहमति बनाउने र त्यसपछि चीनलगायत अन्य शक्तिराष्ट्रसँग समेत जैविक हतियारजस्ता स्पष्ट खतराका क्षेत्रमा अन्तर्राष्ट्रिय समझदारी बनाउने।

OpenAI का प्रमुख कार्यकारी Sam Altman ले पनि Amodei को सुरक्षासम्बन्धी प्रस्तावलाई समर्थन गर्दै OpenAI ले स्वतन्त्र मूल्याङ्कनकर्तालाई थप पहुँच दिन तयार रहेको संकेत दिएका छन्। Altman ले २०२६ मै OpenAI लाई शेयर बजारमा लैजाने योजना नरहेको र अहिलेको परिस्थितिमा IPO गर्नु उपयुक्त नहुने बताएका छन्।

यससँगै अमेरिकी राजनीतिमा पनि एआई नियमनको बहस तीव्र भएको छ।

स्वतन्त्र सिनेटर Bernie Sanders र डेमोक्रेटिक प्रतिनिधि Greg Casar ले सेप्टेम्बर ३ मा ‘Ban Artificial Superintelligence Act’ प्रस्ताव गर्ने घोषणा गरेका छन्। प्रस्तावित कानुनले मानव नियन्त्रणभन्दा बाहिरको ‘superintelligent AI’ को विकास र प्रयोगमा स्थायी प्रतिबन्ध लगाउने तथा संघीय सुरक्षा नियम नबन्दासम्म केही अत्याधुनिक एआई विकास अस्थायी रूपमा रोक्ने लक्ष्य राखेको उनीहरूको कार्यालयले जनाएको छ।

तर राष्ट्रपति Donald Trump को प्रशासनले एआई सम्बन्धी नीति मुख्यतः अमेरिकी प्रविधि नेतृत्व र चीनसँगको प्रतिस्पर्धामा केन्द्रित गर्दै आएको छ। ह्वाइट हाउसले मार्च २०२६ मा सार्वजनिक गरेको राष्ट्रिय एआई विधायी रूपरेखाले नवप्रवर्तन तीव्र पार्ने, अनावश्यक नियामकीय अवरोध हटाउने र विश्व एआई प्रतिस्पर्धामा अमेरिकी नेतृत्व कायम राख्नुपर्ने नीतिलाई प्राथमिकता दिएको छ।

सेप्टेम्बर १० मा पत्रकारहरूले एआईले मानव अस्तित्व समाप्त गर्न सक्ने जोखिमबारे सोध्दा Trump ले आफू त्यस विषयमा चिन्तित नरहेको तर अमेरिका एआई दौडमा पछि परे समस्या हुने बताएका थिए। उनले अमेरिका अहिले चीनभन्दा अगाडि रहेको दाबीसमेत गरेका थिए।

Trump प्रशासन र Anthropic बीचको सम्बन्ध भने यसअघि नै विवादित रहँदै आएको छ। Anthropic ले आफ्ना मोडल अमेरिकी सेनाले व्यापक घरेलु निगरानी र पूर्ण स्वायत्त हतियारमा प्रयोग गर्न नपाउने दुई सीमित सर्त राखेपछि Pentagon ले कम्पनीलाई supply-chain risk का रूपमा वर्गीकृत गरेको थियो। अगस्टमा संघीय न्यायाधीश Rita Lin ले उक्त निर्णय गैरकानुनी र आधारहीन ठहर गर्दै रोक लगाएकी थिइन्।

यसरी अहिले एआईको भविष्यबारे तीन अलग दृष्टिकोण स्पष्ट रूपमा देखिएका छन्। एउटा पक्षले वर्तमान गतिमा विकास भइरहे मानव नियन्त्रणभन्दा बाहिरको प्रणाली सिर्जना हुन सक्ने भन्दै सावधानी र नियमन मागिरहेको छ। अर्को पक्षले मानव विनाशसम्बन्धी अनुमान अत्यधिक काल्पनिक भएको र यस्तो डरले उपयोगी प्रविधिको विकास रोक्न नहुने तर्क गर्छ। तेस्रो धारले भविष्यको ‘AI apocalypse’ मा मात्र केन्द्रित हुँदा अहिले नै देखिएका रोजगार विस्थापन, गलत सूचना, गोपनीयता, निगरानी, साइबर अपराध, कपीराइट उल्लंघन र शक्ति केही ठूला कम्पनीमा केन्द्रित हुनेजस्ता समस्याहरू ओझेल पर्न सक्ने चेतावनी दिँदै आएको छ।

त्यसैले कक्सन वा हुबिन्जरले उठाएको ‘एआईले मानवजातिलाई समाप्त गर्न सक्छ’ भन्ने चेतावनीलाई प्रमाणित भविष्यवाणीका रूपमा होइन, तीव्र गतिमा विकसित भइरहेको प्रविधिबारे उद्योगभित्रकै एक समूहले गरेको गम्भीर जोखिम मूल्याङ्कनका रूपमा बुझ्नुपर्ने हुन्छ। त्यही समयमा Jensen Huang जस्ता प्रभावशाली प्रविधि नेताहरूको पूर्ण असहमति पनि कायम छ।

तर एउटा तथ्य भने विवादरहित बन्दै गएको छ—एआई अब केवल मानिससँग कुराकानी गर्ने chatbot को चरणमा सीमित छैन। OpenAI र Anthropic दुवैले आफ्ना उन्नत प्रणालीबाट साइबर सुरक्षा परीक्षणमा अनपेक्षित र अनधिकृत गतिविधि भएको स्वीकार गरेका छन्, जबकि Anthropic का आफ्नै तथ्यांकले अपराधी, जासुसी समूह र हतियारसम्बन्धी प्रयोगकर्ताहरूले शक्तिशाली एआईको फाइदा उठाउन खोजिरहेको देखाउँछ।

अबको निर्णायक प्रश्न एआई विकास गर्ने कि नगर्ने भन्ने मात्र होइन। प्रश्न हो—एआईको क्षमता मानिसले त्यसलाई सुरक्षित रूपमा नियन्त्रण गर्ने क्षमताभन्दा छिटो बढिरहेको छ कि छैन ?

यदि अनुसन्धानकर्ताहरूले व्यक्त गरेको सबैभन्दा खराब आशंका गलत सावित भयो भने संसारले अत्यन्त शक्तिशाली वैज्ञानिक र आर्थिक साधन प्राप्त गर्न सक्छ। तर उनीहरूको जोखिम मूल्याङ्कनको केही अंश मात्र सही भए पनि एआई सुरक्षा, स्वतन्त्र परीक्षण, अन्तर्राष्ट्रिय समन्वय र स्पष्ट कानुनी उत्तरदायित्वलाई प्रविधिको विकासपछि होइन, विकाससँगै अघि बढाउनुपर्ने दबाब अझ बढ्ने देखिन्छ।