Ex-pesquisador da Anthropic deixa empresa e alerta que IA pode matar todos nós em 10 anos

Jacob Coxon, que também trabalhou na OpenAI, afirma que grandes laboratórios estão avançando rapidamente rumo à chamada superinteligência artificial

Por Guia Miraí

Um pesquisador que trabalhou tanto na OpenAI quanto na Anthropic, duas das principais empresas de inteligência artificial do mundo, anunciou sua saída da Anthropic e fez um alerta contundente sobre os riscos do avanço da tecnologia.

Jacob Coxon, de 27 anos, afirmou que passou os últimos três anos trabalhando com pesquisas de pré-treinamento de modelos de IA nas duas empresas. Ao anunciar sua demissão, ele criticou o ritmo de desenvolvimento adotado pelos laboratórios e afirmou que ambos estariam avançando em direção a sistemas capazes de se aperfeiçoar sozinhos.

“Estão apostando com nossas vidas”

Em uma série de publicações nas redes sociais, Coxon afirmou que, na avaliação dele, nem a OpenAI nem a Anthropic estariam agindo de maneira responsável.

Segundo o pesquisador, as empresas estariam “correndo” para desenvolver uma superinteligência autoaperfeiçoável, tecnologia que, em um cenário futuro, poderia superar amplamente as capacidades humanas e adquirir maior autonomia.

Coxon também afirmou que pessoas envolvidas diretamente no desenvolvimento da IA acreditam seriamente que a tecnologia poderia provocar a extinção da humanidade até o fim desta década.

É importante destacar que essa previsão representa uma avaliação e um alerta feitos por Coxon, e não uma conclusão científica de que a humanidade será destruída pela inteligência artificial.

O que é uma superinteligência?

A preocupação central do pesquisador está relacionada ao desenvolvimento de sistemas que possam superar seres humanos em praticamente todas as áreas e, principalmente, que tenham capacidade de melhorar o próprio funcionamento.

Coxon argumenta que sistemas desse tipo poderiam, em um cenário extremo, adquirir capacidade de invadir sistemas, desenvolver novas tecnologias rapidamente e conquistar acesso a recursos e infraestrutura.

Esse tipo de possibilidade é uma das principais questões discutidas atualmente no campo conhecido como segurança e alinhamento de IA — área que busca garantir que sistemas extremamente avançados permaneçam sob controle humano e atuem de acordo com objetivos considerados seguros.

Outro pesquisador da Anthropic reforça o alerta

As declarações de Coxon ganharam ainda mais repercussão depois que Evan Hubinger, pesquisador da própria Anthropic ligado à área de alinhamento, afirmou publicamente que concordava com a preocupação.

Hubinger declarou acreditar que existe uma probabilidade superior a 10% de a IA provocar uma catástrofe de escala extrema na próxima década e reconheceu que ainda não existe uma solução completa para o problema de alinhamento de uma eventual superinteligência.

Debate sobre o futuro da inteligência artificial

As declarações acontecem em um momento de forte expansão da inteligência artificial, com empresas investindo bilhões de dólares no desenvolvimento de modelos cada vez mais capazes.

Ao mesmo tempo, pesquisadores, governos e especialistas discutem como estabelecer limites de segurança para evitar que avanços tecnológicos produzam consequências difíceis de controlar.

A saída de Coxon reacende uma pergunta que vem ganhando espaço no mundo inteiro: até onde a humanidade deve avançar no desenvolvimento da inteligência artificial antes de garantir que consiga controlar plenamente suas consequências?

Por enquanto, não há evidência de que uma IA esteja prestes a destruir a humanidade. O que existe é um debate crescente entre especialistas sobre quais riscos podem surgir caso sistemas futuros alcancem níveis muito superiores aos atuais.

O alerta de Coxon, portanto, não significa que o fim da humanidade esteja previsto para acontecer, mas expõe uma preocupação real existente dentro do próprio setor que está desenvolvendo essas tecnologias.