Segurança da IA no centro do tabuleiro geopolítico

A segurança da inteligência artificial deixou os laboratórios privados para ocupar o Conselho de Segurança da ONU. Pela primeira vez, Sam Altman (OpenAI) e Dario Amodei (Anthropic) apresentaram riscos sistêmicos à mesa das potências mundiais, sinalizando que a tecnologia não é mais apenas uma questão de inovação, mas de estabilidade global.

O foco central da discussão recai sobre a necessidade urgente de estabelecer mecanismos de governança da IA que transcendam fronteiras nacionais. Os executivos argumentam que nenhum ator isolado — seja empresa ou estado — possui capacidade técnica ou política para gerenciar sozinho os impactos desses sistemas autônomos.

Dualidade: Controle vs. Concentração de Poder

Altman estruturou seu alerta em dois pilares críticos. O primeiro é o risco de perda de controle operacional, especialmente com o avanço do autoaperfeiçoamento recursivo, onde modelos criam versões superiores sem intervenção humana direta. O segundo perigo é a concentração de poder: o temor de que uma única entidade imponha sua visão de mundo à sociedade através de algoritmos dominantes.

A solução proposta por Altman envolve padrões complementares entre níveis nacional e internacional, com métricas claras para avaliar capacidades e garantir supervisão humana significativa antes do lançamento de modelos de fronteira.

Propostas concretas e contradições práticas

Dario Amodei elevou a urgência, classificando a governança como o problema de segurança mais crítico da atualidade. Suas propostas incluem acordos imediatos, como a proibição universal de IA para armas biológicas, além de sistemas de inspeção estatal para verificar compromissos mútuos e notificação unificada de incidentes.

Há, contudo, uma tensão evidente entre o discurso de desaceleração e a prática de mercado. No mesmo dia das declarações, ambas as empresas lançaram novos modelos (GPT-6 Luna/Sol e Claude Opus 5.5), rebatendo a ideia de estarem presas em uma corrida incontrolável, embora mantenham pressão por liderança americana nas normas técnicas.

Ciência crítica: A corrida é uma escolha

Yoshua Bengio, copresidente do Painel Científico Independente da ONU, ofereceu uma perspectiva mais dura. Ele afirmou que a aceleração tecnológica não é uma lei da natureza, mas fruto de escolhas corporativas que resultam em perdas coletivas. Bengio comparou a IA a setores de alto risco como aviação e energia nuclear, exigindo licenciamento rígido e seguros obrigatórios.

O cientista criticou a concentração decisória em poucos países e defendeu um regime multilateral focado no bem público, com arquiteturas seguras por concepção e tratados internacionais vinculantes.

Liderança dos EUA e tensões com a China

Apesar do apelo à cooperação universal, há um alinhamento estratégico claro com Washington. Tanto a OpenAI quanto a Anthropic reforçam que os Estados Unidos devem liderar a criação de padrões globais. Amodei chegou a citar o bloqueio de chips para a China como medida necessária contra riscos de segurança, evidenciando como a governança técnica está intrinsecamente ligada à rivalidade geopolítica atual.