कंपनियाँ

Safe Superintelligence

इसे भी कहा जाता है: SSI

Safe Superintelligence (SSI), Ilya Sutskever, Daniel Gross और Daniel Levy द्वारा 2024 में स्थापित AI research company है। Company का एक घोषित लक्ष्य और एक intended product है: ऐसा superintelligence जो safe हो। वह straight-shot strategy से इस लक्ष्य का पीछा करती है — काम पूरा होने तक कोई commercial product, revenue या public release नहीं।

यह क्यों मायने रखता है

SSI अब तक का सबसे शुद्ध दाँव है कि AI safety को बाद में जोड़ा नहीं जा सकता, बल्कि उसे शुरुआत से engineer करना होगा। OpenAI के former chief scientist ने वहाँ से जाने के कुछ हफ़्तों बाद इसे स्थापित किया, और 2025 में एक भी product के बिना इसकी reported valuation करीब $32 billion थी; इससे परखा जा रहा है कि क्या एक छोटी और अलग-थलग lab अपनी शर्तों पर frontier तक पहुँच सकती है। यह अंततः जो भी ship करे — या ship करने से इनकार करे — वह तय करेगा कि industry superintelligence risk के बारे में कैसे बात करती है।

गहन अध्ययन

Safe Superintelligence की घोषणा जून 2024 में हुई, Ilya Sutskever के OpenAI छोड़ने के मुश्किल से एक महीने बाद, जहाँ वे co-founder, chief scientist और deep learning era के सबसे प्रभावशाली researchers में से एक थे। Founding statement मूलतः एक sentence था: एक goal और एक product, safe superintelligence, जिसमें safety तथा capabilities को साथ-साथ आगे बढ़ाया जाएगा। बाकी सब — कोई product launch नहीं, revenue plan नहीं, public research नहीं — उसी sentence से निकलता है। Company ने Palo Alto और Tel Aviv में offices खोले, कुछ महीनों में लगभग $1 billion जुटाए और 2025 में उसकी reported valuation करीब $32 billion थी, वह भी कोई model release, paper publish या अपना technical approach public किए बिना। Sutskever ने company को Daniel Gross के साथ co-found किया, जिन्होंने पहले Apple में AI work lead किया और Y Combinator में partner रहे थे, तथा former OpenAI researcher Daniel Levy भी co-founder थे।

OpenAI से एक नई शुरुआत तक

Sutskever का SSI तक का रास्ता modern AI के अधिकतर milestones से होकर जाता है। उन्होंने 2012 में deep learning wave शुरू करने वाले AlexNet paper को co-author किया, 2015 में OpenAI को co-found किया और chief scientist के रूप में उस research arc की देखरेख की जो GPT series तथा ChatGPT तक पहुँचा। OpenAI के नवंबर 2023 board crisis में भी उनकी केंद्रीय भूमिका थी, जहाँ उन्होंने पहले CEO Sam Altman को हटाने के पक्ष में vote दिया और कुछ दिनों बाद अपना रुख पलट दिया। उस episode के बाद उन्होंने OpenAI की superalignment team को co-lead किया, जिसका charter humans से अधिक intelligent systems को control करने पर काम करना था, लेकिन मई 2024 में उनके और co-lead Jan Leike के जाने पर team समाप्त हो गई। SSI कुछ हफ़्तों बाद launch हुई और timing ने implied message साफ़ कर दिया: lab का बड़ा दाँव यह है कि अलाइनमेंट का काम ऐसी company के भीतर ठीक से नहीं हो सकता जो उसी technology को commercialize करने की दौड़ में हो जिसे वह control करने की कोशिश कर रही है।

Straight-Shot Strategy

अधिकतर frontier labs products — chatbots, APIs और enterprise contracts — ship करके अपने compute bills चुकाती हैं, और हर launch researchers को deadlines, release से बँधी safety reviews तथा feature races की ओर खींचता है। SSI का stated model यह सब हटा देता है: जब तक एक product पूरा न हो तब तक कोई product नहीं, और founders का तर्क है कि इससे safety work को कमज़ोर करने वाला commercial pressure समाप्त होता है। Investors असाधारण terms पर सहमत हुए हैं — 2024 के करीब $1 billion के पहले round ने reportedly company की valuation लगभग $5 billion रखी, और 2025 की funding reports ने यह figure करीब $32 billion बताया, ऐसी lab के लिए जिसमें अधिकतर accounts के अनुसार केवल कुछ दर्जन employees और zero revenue थे। दाँव मूलतः यह है कि आज के स्केलिंग नियम के बाद क्या आता है, इस पर Sutskever का judgment किसी product pipeline से अधिक मूल्यवान है। उनका तर्क है कि प्री-ट्रेनिंग data लगभग खत्म होने के कारण field फिर research के युग में लौट रही है, और SSI उसी thesis का company रूप है।

Safe का अर्थ क्या माना गया है

SSI का core claim है कि safety को बाद में fit नहीं किया जा सकता। इस view में industry का सामान्य approach — maximally capable model train करना, फिर उसे guardrails, fine-tuning तथा content filters से constrain करना — उलटा है, क्योंकि अपने operators से अधिक intelligent system अपने चारों ओर बने किसी भी cage की कमियाँ खोज लेगा। SSI कहती है कि इसके बजाय वह safety और capabilities साथ विकसित करती है तथा reliability व controllability को launch से पहले लगाए patches के बजाय पहले experiment से design targets मानती है। Technically इसका क्या अर्थ है, यह अज्ञात है क्योंकि company कुछ publish नहीं करती: न papers, न model cards, न eval results। Skeptics बताते हैं कि इससे safety claim को बाहर से falsify नहीं किया जा सकता — open evaluation से मेकैनिस्टिक इंटरप्रेटेबिलिटी तक field के सामान्य checking tools को inspect करने के लिए artifacts चाहिए, और SSI ने कोई release नहीं किया है। Company की position है कि Existential Risk के stakes public में race करने के बजाय चुपचाप काम करने को उचित ठहराते हैं।

यह Chatbot Ship करने की दौड़ में नहीं है

SSI के बारे में सबसे आम गलतफ़हमी है कि वह ChatGPT या Claude की stealth competitor है — कि एक दिन वह बेहतर manners वाला चैटबॉट पेश करेगी। Sign up करने के लिए कोई API, app या waitlist नहीं है, और company कहती है कि जब तक superintelligence को सुरक्षित रूप से solve नहीं किया जाता तब तक ऐसा कुछ नहीं होगा। इससे जुड़ी दूसरी गलतफ़हमी है कि SSI advocacy या policy shop है: ऐसा नहीं है। यह models train करने वाली research lab है, structurally think tank के बजाय शुरुआती DeepMind के अधिक करीब, और उसका दाँव है कि intermediate products ship करने की तुलना में पहले तथा safely ASI तक पहुँचना बेहतर है। यह देखते हुए कि तेज़ चलना और safety साबित करना विपरीत दिशाओं में खींचते हैं, क्या first और safely का मेल coherent भी है, यही वह सवाल है जिस पर पूरी company एक experiment है।

खुले सवाल

SSI के experiment में स्पष्ट weak points हैं। Frontier training runs में अरबों dollars का compute खर्च होता है और कुछ दर्जन researchers — चाहे वे कितने भी प्रतिष्ठित हों — hundred-thousand-GPU clusters वाली labs के सामने हैं, इसलिए company को या तो सचमुच बेहतर रास्ता खोजना होगा या अंततः इतने scale पर capital जुटाना होगा कि commercial pressures वापस आ जाएँ। जब तक कुछ publish नहीं होता safety claim भी unverifiable है, जिससे बाकी AI safety field से mission पर विश्वास करने को कहा जाता है। Straight shot का stress test पहले ही हो चुका है: 2025 में Meta AI ने reportedly company acquire करने और उसके founders को hire करने की संभावना टटोली, जिसे Sutskever ने public रूप से ठुकरा दिया, और जल्द ही Gross चले गए जबकि Sutskever ने CEO role संभाल लिया। इससे दाँव गलत साबित नहीं होता — यह रेखांकित करता है कि SSI एक छोटे group के judgment पर wager है, और lab के अपनी चुप्पी तोड़ने तक दुनिया नहीं जानेगी कि उसका परिणाम क्या है।