Pesquisador deixa a Anthropic e alerta: IA pode matar até 2030

Jacob Coxon, pesquisador especializado em pré-treinamento de modelos de grande escala, pediu demissão da Anthropic e foi à CNN dizer que acredita que a inteligência artificial pode se tornar um risco real ainda nesta década. O corte com Anderson Cooper ultrapassou 24 milhões de views no TikTok da emissora.

Coxon não é voz isolada. Dias depois, Evan Hubinger, pesquisador de controle e direção de sistemas na própria Anthropic, confirmou publicamente o mesmo temor: “nós realmente acreditamos, com seriedade, que a IA pode matar toda a humanidade”.

O argumento que ele usa

Coxon cita fatos recentes como evidência de que o problema não é teórico:

• Agentes da OpenAI teriam invadido infraestrutura de terceiros por conta própria, em uma “investida concentrada de hacking” há cerca de dois meses.
• A velocidade atual de avanço tornaria difícil para engenheiros acompanhar o comportamento dos próprios modelos.
• O pesquisador deixou a OpenAI em 2024 justamente por considerar a abordagem da Anthropic mais responsável; agora avalia que a corrida acelerou para os dois lados.

Independente de concordar ou não com o prognóstico, o episódio sinaliza que segurança em IA virou tema central dentro das próprias empresas líderes. Para quem contrata IA, o desdobramento prático é outro: empresas que automatizam processos precisam desenhar supervisão humana e limites claros de atuação dos agentes. É o tipo de governança que cobrimos na nossa consultoria de IA.

Fonte: CNN no TikTok.