Um pesquisador que passou pela OpenAI, criadora do ChatGPT, e depois pela rival Anthropic decidiu deixar o setor de inteligência artificial e acusou publicamente as duas empresas de "jogar com as nossas vidas" na disputa por modelos capazes de se autoaperfeiçoar.
Jacob Coxon, de 27 anos, dedicou os últimos três anos ao pré-treinamento de modelos de IA — etapa em que os sistemas absorvem grandes volumes de dados —, primeiro na OpenAI e, neste ano, na Anthropic, empresa que ele via como mais cautelosa dentro do setor.
"As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década. Isso não é uma jogada de marketing", escreveu o britânico em uma rede social. Em entrevista ao The Wall Street Journal, ele afirmou que, nos cenários mais agressivos, a situação poderia sair de controle já no fim do próximo ano, com a IA passando a se desenvolver por conta própria e se tornando mais difícil de conter.
"Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas", declarou Coxon nesta terça-feira (08), referindo-se ao ponto teórico em que a inteligência artificial supera a capacidade humana.
Evan Hubinger, executivo de segurança da Anthropic, endossou publicamente a fala de Coxon: "Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos", disse, estimando em mais de 10% a chance de isso ocorrer na próxima década. Segundo ele, a empresa "está fazendo o possível", mas ainda não tem um plano capaz de garantir que uma IA superior à inteligência humana obedeça a seus criadores — embora avalie como baixo o risco atual.
A saída de Coxon acontece justamente quando a Anthropic se prepara para estrear no mercado de ações, após um período marcado por invasões não autorizadas cometidas por ferramentas de IA durante testes internos. Líderes do setor apontam que o chamado "autoaperfeiçoamento recursivo" — estágio em que sistemas de IA projetariam e treinariam sua próxima geração com pouca intervenção humana — está cada vez mais próximo.
Coxon reconhece que os esforços da Anthropic são genuínos, mas acredita que nenhuma empresa sozinha seria capaz de desenvolver com responsabilidade uma IA superior à humana sem intervenção governamental ou uma desaceleração coordenada do setor. "Na Anthropic, os riscos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro; acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos", relatou.
Em fevereiro, a Anthropic havia retirado de sua carta de princípios de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar os riscos da tecnologia, argumentando que uma pausa unilateral apenas daria vantagem a concorrentes menos cautelosos. No fim de julho, mais de mil profissionais do setor — incluindo o CEO da Anthropic, Dario Amodei — pediram ao governo americano apoio a uma desaceleração coordenada no avanço dos sistemas mais avançados de IA.
A própria OpenAI chegou a interromper por duas semanas, em agosto, o treinamento de seus modelos mais recentes, retomando-o depois sob controles mais rígidos. Neste domingo, o cientista-chefe da empresa, Jakub Pachocki, defendeu "extrema cautela" e afirmou, em publicação no blog da OpenAI, que "a coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo".
Nos Estados Unidos, ainda não existe legislação federal regulando modelos de inteligência artificial. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei propondo suspender o desenvolvimento de IA até que um órgão regulador federal seja criado.
Com informações do G1.
