A Anthropic, empresa focada em inteligência artificial, apresentou uma proposta inovadora que visa a criação de um mecanismo setorial para pausar o desenvolvimento da inteligência artificial. A ideia é proporcionar à sociedade tempo suficiente para lidar com as imensas implicações dessa tecnologia em rápida evolução. O co-fundador Jack Clark e a líder do Anthropic Institute, Marina Favaro, assinaram um post detalhando a proposta.
Riscos da IA em Evolução
No texto, os autores destacam que o avanço da IA pode tornar o trabalho humano significativamente mais eficiente ou até mesmo substituí-lo. Essa transformação gera um novo conjunto de riscos, pois a inteligência artificial pode começar a se aprimorar de forma autônoma e desenvolver seus próprios sucessores, reduzindo a participação humana. Clark e Favaro alertaram para a colisão entre a inteligência recursiva e o mundo humano, um futuro que apresenta desafios difíceis de prever.
Comparação com Regulação de Armas Nucleares
A proposta de pausa é comparada à regulação internacional de armas nucleares, onde qualquer mecanismo precisa garantir que laboratórios de IA menos éticos não continuem seus trabalhos em segredo durante a suspensão. Para isso, seria necessário estabelecer verificações entre laboratórios.
Diálogo com Policymakers e Pesquisadores
A Anthropic planeja iniciar diálogos com formuladores de políticas, pesquisadores e outras empresas do setor de IA para discutir uma estrutura de coordenação. O objetivo é divulgar os resultados dessas conversas, promovendo um entendimento mais amplo sobre a questão.
Histórico de Pedidos por Pausas
Essa não é a primeira vez que especialistas em IA solicitam uma interrupção no desenvolvimento. Em 2023, o Future of Life Institute pediu uma pausa de pelo menos seis meses para a implementação de salvaguardas, uma proposta que recebeu apoio de figuras como o bilionário Elon Musk e mais de mil pesquisadores. No entanto, críticos argumentaram que isso poderia prejudicar a inovação e favorecer concorrentes, especialmente na China.
Desafios no Controle da IA
Os autores do post também reconheceram as dificuldades em controlar o avanço da IA. Eles observaram que os processos de treinamento são mais difíceis de ocultar em comparação com silos de mísseis, e o incentivo para que alguns continuem trabalhando enquanto outros fazem uma pausa é considerável. Apesar de exemplos históricos de regulação, os autores afirmaram que o tempo é um fator crítico e não há garantias de que a infraestrutura necessária será estabelecida rapidamente.