Um pesquisador da Anthropic pediu demissão publicamente alegando que a corrida por sistemas de IA cada vez mais capazes está sendo conduzida rápido demais. O caso ganhou peso porque o responsável pela área de alinhamento da própria empresa concordou publicamente com parte do diagnóstico.
O que foi dito
Jacob Coxon deixou a empresa afirmando que o setor está apostando com nossas vidas ao avançar em direção a sistemas capazes de se aprimorar sozinhos sem que existam métodos confiáveis de controle. A declaração foi noticiada por TechCrunch, Fortune e Washington Post, entre outros.
O detalhe mais incomum veio depois: Evan Hubinger, que lidera o trabalho de alinhamento na Anthropic, afirmou que sua própria estimativa de risco de extinção associada ao desenvolvimento de IA supera 10% nesta década. Não é a fala de um crítico externo, e sim de quem ocupa o cargo criado para lidar com o problema.
Como interpretar números como esse
Vale contexto. Estimativas de risco existencial em IA não são medições: são julgamentos subjetivos, e variam enormemente entre pesquisadores igualmente qualificados. Há quem trabalhe com frações de 1%, e há quem fique acima de 25%. Nenhum desses números vem de um modelo estatístico validável.
Isso não os torna irrelevantes. A informação jornalística aqui não é a probabilidade em si, mas o fato de que profissionais dentro dos laboratórios de fronteira, com acesso a sistemas ainda não lançados, consideram o risco alto o suficiente para abandonar cargos disputados.
Um padrão que se repete
Saídas motivadas por discordância sobre ritmo e segurança já ocorreram em mais de um laboratório nos últimos anos, quase sempre com o mesmo argumento: a capacidade dos modelos cresce mais rápido que a capacidade de auditá-los. Do outro lado, os laboratórios sustentam que parar unilateralmente apenas transferiria a liderança para quem se preocupa menos.
É um impasse sem solução técnica óbvia, e que tende a se resolver — se resolver — no terreno regulatório.