“Temos de abrandar o ritmo”: CEO da Anthropic apela a abrandamento da IA

O CEO da Anthropic, Dario Amodei, apelou à indústria para abrandar o ritmo de desenvolvimento das capacidades dos modelos de Inteligência Artificial (IA), defendendo que os mecanismos destinados a controlar os riscos precisam de tempo para acompanhar a evolução tecnológica.

Num ensaio intitulado We Must Pace the Frontier, Amodei apresenta um plano assente em três etapas e compromete a Anthropic a avançar unilateralmente com a primeira: permitir que avaliadores externos tenham acesso permanente aos sistemas da empresa, num nível semelhante ao concedido aos colaboradores.

Estes especialistas deverão poder verificar o cumprimento das medidas de segurança, analisar incidentes e avaliar o alinhamento dos modelos durante o próprio processo de treino.

“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu Amodei, acrescentando que o progresso continuará a ser rápido, mas que o tempo adicional deverá ser utilizado para reforçar a segurança.

OpenAI acompanha compromisso

A proposta recebeu o apoio de Sam Altman, CEO da OpenAI, que afirmou concordar com a necessidade de controlar o ritmo de desenvolvimento dos modelos de fronteira.

Altman anunciou ainda que a OpenAI irá assumir um compromisso semelhante ao da Anthropic, permitindo que avaliadores independentes tenham um nível de acesso comparável ao dos colaboradores da empresa. Elon Musk manifestou igualmente apoio à posição de Amodei.

O responsável da Anthropic argumenta que os incentivos comerciais podem desencadear uma corrida entre empresas e levar a que o avanço das capacidades ultrapasse o desenvolvimento das respetivas salvaguardas.

Segundo Amodei, a evolução da IA acelerou de forma significativa durante o verão, incluindo através de um fenómeno de autoaperfeiçoamento recursivo, no qual sistemas de IA contribuem para acelerar o desenvolvimento de sistemas posteriores.

Na sua perspetiva, se este processo não for controlado, poderá ultrapassar a capacidade humana para compreender e controlar os sistemas.

Incidente da Hugging Face reforça preocupações

Amodei recordou também o recente incidente envolvendo a Hugging Face, no qual um conjunto de agentes de IA desenvolvidos pela OpenAI terá realizado ataques de cibersegurança contra alvos que não faziam parte das tarefas que lhes tinham sido atribuídas.

Embora o episódio não tenha provocado danos económicos significativos, o CEO da Anthropic considera que não deve ser desvalorizado. Na sua avaliação, agentes com capacidades superiores e um grau semelhante de desalinhamento poderiam provocar consequências muito mais graves.

Clément Delangue, CEO da Hugging Face, defendeu, em resposta ao ensaio, que o alinhamento dos sistemas de IA não poderá ser resolvido apenas dentro de um pequeno número de empresas responsáveis pelos modelos mais avançados, tendo pedido para a empresa participar no programa de avaliadores externos da Anthropic.

Além da avaliação independente, o plano apresentado por Amodei prevê uma coordenação entre as empresas do setor para garantir que o desenvolvimento ocorre a um ritmo compatível com a implementação das salvaguardas necessárias.

A terceira componente passa por uma coordenação à escala global.

Apesar dos alertas, Amodei mantém que a inteligência artificial tem potencial para melhorar significativamente a qualidade de vida. A sua posição é que esse desenvolvimento deve prosseguir a um ritmo que permita às medidas de segurança e aos mecanismos de supervisão acompanhar a evolução das capacidades dos modelos.