Ir para o conteúdo principal
Zubnet AI › Aprender › Wiki › Política de escalonamento responsável
Segurança

Política de escalonamento responsável

Também conhecido como: Responsible Scaling Policy, RSP, Frontier Safety Framework, Preparedness Framework
Um compromisso público de um desenvolvedor de IA de testar seus modelos em busca de capacidades perigosas e de ter salvaguardas específicas prontas antes de desenvolver ou lançar modelos que cruzem limiares de risco definidos.

Por que isso importa

Esses frameworks são hoje a principal forma pela qual as empresas de IA de fronteira governam seus próprios riscos mais graves. Eles determinam por quais testes um modelo passa antes do lançamento, que segurança cerca seus pesos e, em princípio, quando uma empresa seguraria um modelo.

Eles também se tornaram o molde para a regulamentação. Na Cúpula de IA de Seul, em maio de 2024, dezesseis empresas se comprometeram a publicar frameworks desse tipo. Desde então, leis e códigos começaram a transformar a prática voluntária em obrigação.

Em profundidade

Uma política de escalonamento responsável é construída sobre compromissos condicionais do tipo "se… então": se o nosso modelo atingir a capacidade X, então teremos as salvaguardas Y em vigor. A política original da Anthropic também prometia pausar até ter essas salvaguardas, um compromisso abandonado na RSP v3.0 (2026). A ideia é amarrar as medidas de segurança ao que os modelos realmente conseguem fazer, em vez de discutir de antemão quando a IA perigosa vai chegar.

"Responsible Scaling Policy" (RSP) é o nome que a Anthropic dá ao seu framework, publicado pela primeira vez em setembro de 2023 e baseado em um conceito desenvolvido com a METR, uma organização sem fins lucrativos de avaliação. Outros laboratórios usam nomes diferentes para a mesma ideia básica. A OpenAI tem seu Preparedness Framework e o Google DeepMind seu Frontier Safety Framework, e o termo genérico é frontier safety framework (framework de segurança para modelos de fronteira).

A estrutura comum

  • Domínios de risco: os frameworks se concentram em danos graves e de larga escala. A lista habitual inclui ajuda com armas químicas, biológicas, radiológicas e nucleares (CBRN, na sigla em inglês), ciberataques avançados e uma IA capaz de acelerar de forma autônoma a pesquisa em IA ou de escapar do controle humano.
  • Limiares de capacidade: níveis definidos nos quais um modelo aumentaria o risco de forma significativa, por exemplo ao dar uma ajuda real a alguém que tenta construir uma arma biológica.
  • Avaliações: testes feitos antes e durante a implantação para verificar se um modelo está se aproximando de um limiar, incluindo red teaming e estudos com especialistas humanos.
  • Salvaguardas: de dois tipos. As salvaguardas de implantação limitam o uso indevido por meio de classificadores, monitoramento e controles de acesso. As salvaguardas de segurança protegem os pesos do modelo contra roubo.
  • Governança: quem decide, como as exceções são tratadas, que supervisão interna existe e o que é publicado.

O sistema ASL da Anthropic

A RSP da Anthropic definia os AI Safety Levels (ASL, níveis de segurança de IA), inspirados livremente nos níveis de biossegurança usados em laboratórios que lidam com patógenos perigosos. O ASL-2 cobre modelos que não representam risco catastrófico significativo. O ASL-3 se aplica a modelos que poderiam ajudar substancialmente pessoas com formação técnica básica a criar armas CBRN, e exige segurança mais forte e proteções de implantação direcionadas. A Anthropic ativou as proteções ASL-3 pela primeira vez em maio de 2025, com o lançamento do Claude Opus 4. A RSP v3.0 (24 de fevereiro de 2026) reescreveu a política: ela não define mais níveis ASL escalonados nem o compromisso de pausa, mas mantém as salvaguardas ASL-3 e acrescenta os Risk Reports (relatórios de risco).

Outros frameworks

O Preparedness Framework da OpenAI (publicado pela primeira vez em dezembro de 2023 e revisado em 2025) acompanha categorias como capacidade biológica e química, cibersegurança e autoaperfeiçoamento de IA, com limiares "High" e "Critical". O Frontier Safety Framework do Google DeepMind (maio de 2024, atualizado desde então) define os Critical Capability Levels e acrescentou riscos como manipulação nociva e desalinhamento. Meta, xAI, Microsoft, Amazon e outras publicaram suas próprias versões.

De voluntário a obrigatório

  • O Código de Prática do AI Act da União Europeia para IA de propósito geral (2025) pede que os provedores dos modelos mais capazes mantenham um framework de segurança e proteção, avaliem riscos sistêmicos e relatem incidentes graves.
  • A SB 53 da Califórnia, sancionada em setembro de 2025, exige que grandes desenvolvedores de modelos de fronteira publiquem seus frameworks de segurança e relatem incidentes críticos de segurança, e protege denunciantes.
  • O RAISE Act de Nova York, sancionado em dezembro de 2025 e emendado em março de 2026, estabelece exigências parecidas, que entram em vigor em 2027.

Críticas

  • Autopoliciamento: as empresas escrevem as regras, fazem os testes e julgam os resultados, sob forte pressão comercial para lançar.
  • Limiares vagos: termos como "ajuda significativa" (significant uplift) deixam ampla margem para interpretação.
  • Compromissos que mudam: as empresas revisaram seus frameworks de maneiras que, segundo os críticos, afrouxaram promessas anteriores, e alguns frameworks permitem ajustar as salvaguardas se concorrentes avançarem sem proteções semelhantes.
  • Avaliações frágeis: os testes podem subestimar um modelo por causa de uma elicitação ruim ou, potencialmente, porque o modelo faz sandbagging.
  • Escopo estreito: por definição, eles miram riscos catastróficos, não danos do dia a dia como viés, violações de privacidade ou desinformação.

Os defensores respondem que compromissos concretos e públicos são melhores do que nenhum, que eles criam pressão interna para investir em segurança e que deram aos reguladores um modelo já testado sobre o qual construir.

← Todos os termos
ESC