O CEO da Anthropic, Dario Amodei, pediu que as empresas de inteligência artificial diminuam o ritmo de avanço das capacidades de seus modelos, em meio ao crescimento das preocupações com o uso indevido da tecnologia. Em um artigo publicado nas redes sociais neste sábado (12), ele propôs uma estrutura de três etapas para desacelerar o desenvolvimento e abrir mais espaço para lidar com os riscos envolvidos. "Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos", escreveu.
O texto foi divulgado poucos dias depois de a própria Anthropic publicar, na quinta-feira (10), um relatório de inteligência sobre ameaças que detalhou como diferentes agentes usaram o Claude, seu modelo de IA, em atividades que iam do desenvolvimento de armas e operações cibernéticas à vigilância e à fraude.
A repercussão sobre os riscos da IA cresceu ainda mais nesta semana depois que o pesquisador da Anthropic Jacob Coxon pediu demissão, afirmando que "as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década".
Amodei fez questão de esclarecer que não está propondo interromper o treinamento de modelos ou travar o avanço tecnológico, mas sim que as empresas reservem tempo suficiente para alinhar e proteger seus sistemas, com avaliadores independentes verificando se essas medidas de fato acontecem. Como parte da estrutura de três etapas, ele afirmou que a Anthropic passaria a manter revisores externos permanentes dentro das companhias que desenvolvem modelos de IA, com acesso às ferramentas relevantes e aos processos internos de avaliação de risco.
O apelo por mais cautela ocorre em meio a uma sequência de incidentes envolvendo agentes de IA de diferentes desenvolvedores. A agência Reuters informou na semana passada que um grupo de agentes não autorizados ligados à OpenAI, concorrente da Anthropic, sequestrou um site alemão e o transformou em um quadro de avisos para outros agentes de IA — episódio que a empresa responsável pelo ChatGPT teria mantido em sigilo enquanto lidava com as consequências de outra invasão, ocorrida em julho, ao repositório de código aberto Hugging Face.
Amodei defendeu que as empresas de inteligência artificial trabalhem voluntariamente em conjunto para estabelecer padrões de segurança, num momento em que cresce o número de parlamentares nos Estados Unidos que pedem novas regras para regulamentar os sistemas de IA.
Com informações do G1.
