Safe Superintelligence
Por que isso importa
Em profundidade
A Safe Superintelligence foi anunciada em junho de 2024, pouco mais de um mês depois que Ilya Sutskever deixou a OpenAI, onde havia sido cofundador, cientista-chefe e um dos pesquisadores mais influentes da era do aprendizado profundo. A declaração de fundação era, essencialmente, uma frase: um objetivo e um produto, uma superinteligência segura, com segurança e capacidades avançando em conjunto. Todo o resto — nenhum lançamento de produto, nenhum plano de receita, nenhuma pesquisa pública — decorre dessa frase. A empresa abriu escritórios em Palo Alto e Tel Aviv, levantou cerca de US$ 1 bilhão em poucos meses e teria sido avaliada em torno de US$ 32 bilhões em 2025, tudo sem lançar um modelo, publicar um artigo ou descrever publicamente sua abordagem técnica. Sutskever cofundou a empresa com Daniel Gross, que anteriormente liderou trabalhos de IA na Apple e foi sócio da Y Combinator, e Daniel Levy, ex-pesquisador da OpenAI.
Da OpenAI a uma Folha em Branco
O caminho de Sutskever até a SSI passa pela maioria dos marcos da IA moderna. Ele foi coautor do artigo sobre a AlexNet que deu início à onda do aprendizado profundo em 2012, cofundou a OpenAI em 2015 e, como cientista-chefe, supervisionou o arco de pesquisa que levou à série GPT e ao ChatGPT. Também foi figura central na crise do conselho da OpenAI em novembro de 2023, quando inicialmente votou para remover o CEO Sam Altman antes de voltar atrás dias depois. Após o episódio, coliderou a equipe de superalinhamento da OpenAI, criada para trabalhar no controle de sistemas mais inteligentes que humanos, mas a equipe foi dissolvida em maio de 2024, quando ele e o colíder Jan Leike saíram. A SSI foi lançada semanas depois, e o momento deixou o subtexto difícil de ignorar: o laboratório é, em grande parte, uma aposta de que o trabalho de Alinhamento não pode ser feito adequadamente dentro de uma empresa correndo para comercializar a tecnologia que tenta controlar.
A Estratégia de Linha Reta
A maioria dos laboratórios de fronteira paga suas contas de computação lançando produtos — chatbots, APIs, contratos empresariais —, e cada lançamento puxa os pesquisadores para prazos, avaliações de segurança ligadas à data de estreia e corridas de recursos. O modelo declarado da SSI remove tudo isso: nenhum produto até que o único produto esteja pronto, o que, segundo os fundadores, elimina a pressão comercial que degrada o trabalho de segurança. Investidores aceitaram termos extraordinários — uma primeira rodada de cerca de US$ 1 bilhão em 2024 teria avaliado a empresa perto de US$ 5 bilhões, e reportagens sobre financiamento em 2025 colocaram o valor em torno de US$ 32 bilhões, para um laboratório com apenas algumas dezenas de funcionários e receita zero, segundo a maioria das fontes. A aposta é, em essência, que o julgamento de Sutskever sobre o que vem depois das atuais Leis de Escala vale mais que qualquer pipeline de produtos. Ele argumenta que o campo está voltando a uma era de pesquisa agora que os dados de Pré-treinamento estão perto de se esgotar, e a SSI é essa tese transformada em empresa.
O que "Segura" Deveria Significar
A afirmação central da SSI é que segurança não pode ser instalada depois. Nessa visão, a abordagem usual da indústria — treinar um modelo com a capacidade máxima e depois restringi-lo com salvaguardas, ajuste fino e filtros de conteúdo — está invertida, porque um sistema mais inteligente que seus operadores encontrará as brechas em qualquer jaula construída ao redor dele. A SSI diz desenvolver segurança e capacidades em conjunto, tratando confiabilidade e controlabilidade como metas de projeto desde o primeiro experimento, não como remendos aplicados antes do lançamento. O que isso significa tecnicamente é desconhecido, porque a empresa não publica nada: nem artigos, nem fichas de modelo, nem resultados de avaliações. Céticos observam que isso torna a alegação de segurança não falseável de fora — as ferramentas usuais de verificação do campo, da avaliação aberta à Interpretabilidade Mecanística, exigem artefatos para inspecionar, e a SSI não lançou nenhum. A posição da empresa é que o que está em jogo no Risco Existencial justifica trabalhar em silêncio, em vez de correr em público.
Ela Não Está Correndo para Lançar um Chatbot
O equívoco mais comum sobre a SSI é que ela seja uma concorrente secreta do ChatGPT ou do Claude — que um dia revelará um Chatbot mais bem-comportado. Não existe API para cadastro, nem aplicativo, nem lista de espera, e a empresa diz que não existirá até que a própria superinteligência seja resolvida com segurança. Outro equívoco relacionado é tratar a SSI como uma organização de advocacy ou políticas públicas: não é. É um laboratório de pesquisa que treina modelos, estruturalmente mais próximo da DeepMind inicial do que de um think tank, e sua aposta é que chegar primeiro e com segurança à ASI é melhor do que lançar produtos intermediários. Se "primeiro e com segurança" é sequer uma combinação coerente — dado que avançar depressa e provar segurança puxam em direções opostas — é a pergunta que a empresa inteira existe para testar.
As Perguntas em Aberto
O experimento da SSI tem pontos fracos óbvios. Rodadas de treinamento de fronteira custam bilhões de dólares em computação, e algumas dezenas de pesquisadores — por mais condecorados que sejam — enfrentam laboratórios com clusters de cem mil GPUs; portanto a empresa precisa encontrar um caminho realmente melhor ou acabar levantando capital em uma escala que traga de volta as pressões comerciais. A alegação de segurança também não pode ser verificada enquanto nada é publicado, o que pede ao restante do campo de Segurança em IA que aceite a missão com base na fé. A linha reta já foi submetida a pressão: em 2025, a Meta AI teria explorado a aquisição da empresa e a contratação de seus fundadores, abordagem que Sutskever rejeitou publicamente, e Gross saiu pouco depois, enquanto Sutskever assumiu o cargo de CEO. Nada disso torna a aposta errada — apenas ressalta que a SSI é uma aposta no julgamento de um grupo pequeno, e o mundo não saberá como ela se paga até o laboratório romper o silêncio.