IA avança para criação autônoma de novas versões, alerta Anthropic / foto: © AFP
IA avança para criação autônoma de novas versões, alerta Anthropic
Os sistemas de IA estão cada vez mais capazes de desenvolver versões futuras de si mesmos, o que alimenta as preocupações crescentes sobre os riscos associados a esta tecnologia, advertiu na quinta-feira (17) a gigante de inteligência artificial Anthropic.
O debate sobre os perigos da inteligência artificial se intensificou nos últimos meses, impulsionado por vários incidentes e advertências alarmantes formuladas por profissionais do setor.
A Anthropic informou que seu chatbot Claude já participa de mais de um quarto de suas atividades de pesquisa e desenvolvimento, além de colaborar com funcionários humanos em mais de 90% das tarefas.
A empresa explicou que divulga as informações para oferecer "uma visibilidade maior sobre o ritmo do desenvolvimento da IA", no momento em que o mundo "considera desacelerar" o processo.
O CEO da Anthropic, Dario Amodei, pediu neste mês a desaceleração do desenvolvimento da inteligência artificial, enquanto os rápidos avanços da tecnologia alimentam preocupações com a perda de empregos, o crescente consumo de energia e o impacto ambiental dos centros de dados.
O temor de que os desenvolvedores de agentes de inteligência artificial percam o controle sobre suas criações também aumentou depois que vários modelos da Anthropic e de sua rival OpenAI supostamente escaparam sozinhos de ambientes restritos, acessaram a internet e interagiram com sites e plataformas.
"Os modelos que aceleram o próprio desenvolvimento podem dificultar que os seres humanos compreendam ou controlem estes sistemas", afirmou a Anthropic em um relatório.
"Por isso é importante compartilhar estas métricas para entender o quão próximo o mundo está de alcançar o autoaperfeiçoamento recursivo" (um modelo capaz de construir de forma totalmente autônoma o seu sucessor), acrescentou.
Em agosto, o Claude estava à frente de 26% das tarefas de pesquisa e desenvolvimento da Anthropic, o que significa que ele pode completar a maior parte de um trabalho do início ao fim sob supervisão humana.
A Anthropic indicou, no entanto, que o Claude ainda não consegue operar "de maneira plenamente autônoma".
A empresa afirmou ainda que dispõe de quase 30.000 agentes de inteligência artificial dedicados a tarefas de pesquisa e engenharia, em referência a programas capazes de executar tarefas de forma autônoma.
A Anthropic deve se antecipar à OpenAI em sua oferta pública inicial de ações, prevista para o fim do ano, apesar das preocupações a respeito da regulamentação do setor.
(L.Barsayjeva--DTZ)
Apresentou