9 सितंबर की सुबह... जैकब कॉक्सन ने X पर एक पोस्ट लिखा, जिसने कुछ ही घंटों में करोड़ों views बटोर लिए। उन्होंने लिखा कि उन्होंने Anthropic से इस्तीफा दे दिया है, और पिछले तीन साल OpenAI और Anthropic में pretraining research करने के बाद उनका मानना है कि दोनों कंपनियां जिम्मेदारी से काम नहीं कर रहीं। उनके मुताबिक ये कंपनियां सीधे self-improving superintelligence की तरफ भाग रही हैं, और इंसानों की जिंदगी के साथ जुआ खेल रही हैं।

उन्होंने आगे लिखा कि इस टेक्नोलॉजी की ताकत को कम करके मत आंकिए। जल्द ही ऐसे सुपरह्यूमन सिस्टम आ सकते हैं, जो कुछ भी हैक कर सकते हैं, किसी भी क्षेत्र को रातों-रात बदल सकते हैं, और असली ताकत व संसाधन खुद हासिल कर सकते हैं। उनका दावा है कि AI बनाने वाले लोग सच में मानते हैं कि ये टेक्नोलॉजी इस दशक के अंत तक इंसानों को खत्म कर सकती है, और ये कोई मार्केटिंग स्टंट नहीं है। कई सीनियर executives और researchers सार्वजनिक तौर पर तो संभली हुई भाषा में बात करते हैं, लेकिन निजी बातचीत में वही डर जाहिर करते हैं... ये दावा भी जैकब का ही है।

AI की तेजी से बढ़ती Capabilities बनी सबसे बड़ी चिंता

इसी पोस्ट में उन्होंने बताया कि AI की प्रोग्रेस coding, mathematics और research जैसे क्षेत्रों में बेहद तेजी से बढ़ रही है। कुछ साल पहले जहां AI इंसान को सिर्फ सुझाव देता था... अब कई काम खुद करने की क्षमता हासिल कर रहा है। और यही रफ्तार उनकी सबसे बड़ी चिंता है। डर ये है कि अगर यही AI आगे चलकर खुद फैसले लेने लगे... resources हासिल करने लगे... और अपनी capabilities को लगातार बढ़ाने में सक्षम हो गया... तो इंसानों के लिए उसे control करना बेहद मुश्किल हो सकता है।

Safety vs Competition: AI Labs किस दबाव में काम कर रही हैं?

जैकब की दलील ये भी है कि AI labs के अंदर काम करने वाले कई लोग इस खतरे को गंभीरता से समझते हैं... लेकिन फिर भी competition से बाहर निकलना आसान नहीं है। तर्क ये है कि अगर एक कंपनी development धीमी करती है... तो डर ये रहता है कि कोई दूसरी कंपनी या कोई दूसरा देश आगे निकल जाएगा। यानी एक तरफ खतरे की चिंता... और दूसरी तरफ रेस में पीछे छूटने का डर।

एक सवाल जो अक्सर पूछा जाता है... अगर इन्हें सच में इतना डर है, तो ये ये टेक्नोलॉजी बना ही क्यों रहे हैं? जैकब का जवाब है कि OpenAI में बहुत से लोगों ने अभी तक इस खतरे की गंभीरता को पूरी तरह समझा नहीं है। लेकिन Anthropic में स्थिति अलग है... वहां लोग खतरे को अच्छी तरह समझते हैं, फिर भी वो एक रेस में फंसे हुए हैं। उनका मानना है कि अगर वो जिम्मेदारी से पीछे हटे, तो कोई और कंपनी इंसानी सुरक्षा को दरकिनार कर आगे निकल जाएगी।

OpenAI के AI Agents पर Jacob Coxon का बड़ा दावा

CNN को दिए एक इंटरव्यू में जैकब ने एक ठोस उदाहरण भी दिया। उन्होंने बताया कि करीब दो महीने पहले OpenAI के AI एजेंट्स ने अपनी मर्जी से थर्ड-पार्टी इंफ्रास्ट्रक्चर को हैक करने की एक सिलसिलेवार कोशिश की थी। उनका कहना है कि अगर आने वाले समय में AI की यही independent सोच और क्षमता कई गुना बढ़ जाए, तो ये critical infrastructure पर हमले से लेकर extinction-level bioweapon बनाने तक, कुछ भी कर सकता है।

Recursive Self-Improvement आखिर क्यों माना जा रहा है बड़ा खतरा?

साथ ही उन्होंने ये भी साफ किया कि आज के मौजूदा AI मॉडल से extinction का खतरा नहीं है। असली चिंता recursive self-improvement की रफ्तार को लेकर है... यानी वो स्थिति, जब AI खुद अपने आप को लगातार बेहतर बनाता चला जाए, इंसानी निगरानी से तेज़। BBC से बातचीत में जैकब ने बताया कि कई साथी researchers अपनी जिंदगी की आगे की योजनाएं बना रहे हैं, कुछ तो अस्थिरता के डर से जमीन खरीदने तक की सोच रहे हैं। उनके मुताबिक हगिंग फेस पर हुए हमले जैसी घटनाएं "warning shots" हैं, जिनकी वजह से अमेरिकी कंपनियों के बीच आपसी समझौते की गुंजाइश अब पहले से बेहतर बनी है। उनकी मांग है कि जब तक सेफ्टी तैयार ना हो, तब तक AI की क्षमता बढ़ाने पर अस्थायी रोक लगाई जाए।

Anthropic के Researcher ने भी जताया था 10% से ज्यादा Extinction Risk

जैकब के पोस्ट के वायरल होते ही Anthropic के अपने alignment science लीड एवन हुबिंगर का एक पुराना बयान फिर सामने आया, जिसमें उन्होंने लिखा था कि उन्हें सच में लगता है कि AI सभी इंसानों का खात्मा कर सकता है, और अगले एक दशक में इसके chances दस फीसदी से ज्यादा हैं। हालांकि बाद में एक और पोस्ट में उन्होंने साफ किया कि मौजूदा AI मॉडल्स से खतरा फिलहाल कम है... असली चिंता भविष्य की superintelligence को लेकर है, जो recursive self-improvement से उम्मीद से तेज़ रफ्तार से आगे बढ़ रही है।

Dario Amodei से Sam Altman तक, AI Safety पर क्या बोले Tech Leaders?

इसके बाद खुद Anthropic के CEO डारियो अमोडेई ने एक ब्लॉग पोस्ट लिखा। उन्होंने सीधे जैकब के आरोपों का जवाब तो नहीं दिया, लेकिन माना कि AI का खतरा गंभीर है, और कंपनियों को डेवलपमेंट की रफ्तार धीमी करनी चाहिए। उनकी चेतावनी थी कि अगर सुरक्षा इंतजाम मजबूत नहीं हुए, तो अगले छह से बारह महीनों में AI एजेंट्स का एक झुंड इंटरनेट को ठप करने की क्षमता रख सकता है। दिलचस्प बात ये रही कि OpenAI के सैम अल्टमन और xAI के एलन मस्क, दोनों प्रतिद्वंद्वी कंपनियों के मुखिया होने के बावजूद, डारियो की इस अपील का समर्थन करते नजर आए।

सैम अल्टमन ने अपने X पोस्ट में लिखा कि अमेरिकी AI कंपनियों को ये भरोसा दिलाना होगा कि वो जिम्मेदारी से काम कर रही हैं, खासकर जब प्रगति की रफ्तार इतनी तेज़ हो गई है। उन्होंने बताया कि OpenAI अब बड़े reinforcement learning रन से पहले सुरक्षा से जुड़े ठोस आकलन तैयार करता है। उनका कहना था कि "pacing" का मतलब रुकना नहीं है, बल्कि ये सुनिश्चित करना है कि क्षमताएं alignment और निगरानी से आगे न निकल जाएं।

Microsoft के सत्या नडेला ने भी अपने पोस्ट में कहा कि superintelligence की कोई भी कोशिश तभी सही मानी जाएगी, जब वह इंसानों की भलाई और नियंत्रण में रहे। उन्होंने "embedded evaluators" जैसे विचारों का स्वागत किया, और कहा कि ये जिम्मेदारी चंद कंपनियों के हाथ में नहीं, बल्कि पूरे ecosystem... सरकारों, कंपनियों और academia के बीच बंटी होनी चाहिए।

AI Risk पर Experts की राय एक जैसी नहीं

इस बीच Anthropic के एक प्रवक्ता ने BBC को दिए बयान में कहा कि कंपनी हमेशा से साफ कहती आई है कि AI फायदे भी लाएगा और अभूतपूर्व खतरे भी, और इसीलिए वो इंडस्ट्री में सबसे मजबूत सुरक्षा इंतजामों के साथ काम करने का दावा करती है। कंप्यूटर साइंटिस्ट और नोबेल विजेता जेफ्री हिंटन ने भी कहा कि दस फीसदी की आशंका "गैर-वाजिब नहीं" है। पूर्व ब्रिटिश प्रधानमंत्री ऋषि सुनक, जो खुद Anthropic के सलाहकार हैं, उन्होंने भी इस खतरे पर चिंता जताई।

लेकिन हर कोई इससे सहमत नहीं है। Hugging Face के CEO क्लेमेंट डेलांग ने तंज कसते हुए कहा कि जैकब से extinction risk पर सवाल पूछना ऐसा है जैसे अपने AC मैकेनिक से क्लाइमेट चेंज पर राय मांगना। Grindr के CEO जॉर्ज एरिसन का कहना था कि ऐसे बयान असल में कंपनियों की भारी-भरकम valuation को सही ठहराने की कोशिश है। और Nvidia के जेनसन हुआंग ने भी एक कॉन्फ्रेंस में इन दावों को सिरे से खारिज कर दिया।

Anthropic की Threat Intelligence Report में AI Misuse के मामले

अब तक की कहानी से एक बात तो साफ है... AI का खतरा सिर्फ भविष्य की किसी काल्पनिक कहानी तक सीमित नहीं है। Anthropic की अपनी threat intelligence रिपोर्ट में ऐसे कई मामलों का जिक्र है, जहां लोगों ने Claude जैसे AI मॉडल का इस्तेमाल खतरनाक गतिविधियों के लिए करने की कोशिश की। इनमें cyber operations... surveillance... fraud... influence operations... biological misuse और conventional weapons development तक शामिल हैं।

इसी रिपोर्ट में उत्तरी यमन के एक weapons engineering group का मामला सामने आया, जिसने Claude की मदद से missile और guided rocket से जुड़े technical काम, जैसे guidance software तैयार करने में मदद लेने की कोशिश की। इसके अलावा bioweapon को लेकर भी चिंता सामने आई, जहां चिकनगुनिया और एवियन इन्फ्लूएंजा जैसे वायरस से जुड़ी dangerous biological research में Claude से मदद लेने की कोशिश की गई। कुछ मामलों में Claude models ने unauthorized तरीके से real-world systems तक पहुंच भी हासिल की।

AI Misuse और Superintelligence के खतरे में क्या अंतर है?

लेकिन यहां एक बात साफ समझनी जरूरी है, और जैकब कॉक्सन खुद भी यही मानते हैं... ये वो खतरा नहीं है जिसकी वो बात कर रहे हैं। ये इंसानों द्वारा AI का दुरुपयोग है, ना कि AI का खुद इंसानों पर हमला। असली डर उस दिन का है, जब ये हमारे कंट्रोल से बाहर निकल जाएगा... जब AI खुद bioweapon बना सके, या बिजली सप्लाई, एयरपोर्ट, रेलवे, सेना जैसी जगहों से खुद तबाही मचा सके।

Data Centers का बढ़ता बोझ: पानी और बिजली पर असर

लेकिन AI का खतरा सिर्फ भविष्य या मिसाइल-bioweapon तक सीमित नहीं है... एक खतरा अभी, हमारे घरों के पास खड़ा है। अमेरिका के जॉर्जिया राज्य में बेवर्ली मॉरिस नाम की एक बुज़ुर्ग महिला का मामला हाल में वायरल हुआ। उनके घर से सिर्फ चार सौ गज दूर Meta का एक बड़ा data center बना... और उसके बाद उनके नल का पानी मटमैला और गंदा आने लगा, यहां तक कि डिशवॉशर और टॉयलेट तक काम करना बंद हो गए। BBC और New York Times को दिए इंटरव्यू में उन्होंने बताया कि वो अब पानी पीने से डरती हैं, हालांकि खाना बनाने और नहाने के लिए मजबूरी में इस्तेमाल कर रही हैं।

मई 2026 में अमेरिकी कांग्रेस की एक सुनवाई में सांसद अलेक्जेंड्रिया ओकासियो-कॉर्टेज़ ने इसी इलाके का गंदा पानी जार में भरकर दिखाया, जिसके बाद EPA ने जांच का भरोसा दिया। Meta ने आरोपों से इनकार किया है और कहा है कि उसकी खुद की groundwater study में डेटा सेंटर से भूजल पर कोई असर नहीं पाया गया।

ये इकलौता मामला नहीं है... डेनवर में एक data center का वीडियो भी वायरल हुआ, जहां शहर में सूखे के चलते पानी की सख्त पाबंदी थी, लेकिन data center का लॉन खुलेआम पानी से सींचा जा रहा था। दरअसल AI मॉडल्स को चलाने और ठंडा रखने के लिए भारी मात्रा में पानी और बिजली चाहिए, और जैसे-जैसे data centers की तादाद बढ़ रही है, आस-पास रहने वाले लोगों के लिए पानी और बिजली की किल्लत एक असली और मौजूदा खतरा बनती जा रही है।

Deepfake, Voice Cloning और Fraud: AI के मौजूदा खतरे

इसके अलावा भी रोज़मर्रा के खतरे हैं, जिनसे हम आज पहले ही जूझ रहे हैं। AI से बनाए गए deepfake वीडियो और voice cloning के जरिए किसी की आवाज़ और चेहरा कॉपी करके fraud किया जा सकता है, fake पहचान बनाई जा सकती है, और financial transaction में धोखा दिया जा सकता है। भारत सरकार ने भी AI-driven cyber fraud और deepfake-based पहचान को लेकर चेतावनी जारी की है। इसके साथ ही fake news और manipulation, privacy का खतरा, और सबसे बड़ा सवाल... नौकरियों और इंसानी काम पर AI का असर, ये सब वो खतरे हैं जो extinction जितने बड़े भले न हों, लेकिन असर डालने वाले जरूर हैं। 2026 की International AI Safety Report भी इन खतरों को तीन हिस्सों में बांटती है... misuse, malfunction, और systemic risks

US vs China: AI Race सिर्फ Technology नहीं, Power की भी लड़ाई

और इस पूरी बहस के पीछे एक बड़ी वजह भी है... एक दौड़, जो सिर्फ टेक्नोलॉजी की नहीं, ताकत की भी है। एक रेस अमेरिका और चीन के बीच चल रही है, तो दूसरी OpenAI और Anthropic जैसी कंपनियों के बीच, जो अब बड़े IPO लाने की तैयारी में हैं। अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने भी कहा है कि अमेरिका फिलहाल AI में चीन से आगे है, और वो इसे बनाए रखना चाहते हैं, यही वजह है कि सरकार भी सख्त नियमों को लेकर जल्दबाजी में नहीं दिखती।

AI का भविष्य: Progress या Humanity के लिए Risk?

तो कुल मिलाकर तस्वीर ये बनती है... आज के AI मॉडल्स से extinction का सीधा खतरा नहीं, लेकिन इंसानों के हाथों इसके दुरुपयोग का खतरा असली है, चाहे वो मिसाइल हो, bioweapon हो, या किसी बुज़ुर्ग महिला के घर का सूखता नल। और भविष्य की superintelligence को लेकर जो डर जताया जा रहा है, वो सिर्फ एक व्यक्ति की राय नहीं, बल्कि खुद कंपनियों के अंदर बैठे researchers की चिंता है।