As preocupações dentro da Anthropic sobre os riscos da inteligência artificial estão a ganhar força. Um dia depois de um antigo investigador da empresa ter abandonado o cargo com um alerta sombrio, outros investigadores e trabalhadores vieram a público para dizer que partilham das mesmas inquietações, enquanto Elon Musk e outras figuras classificam a onda de críticas como uma “operação”.
Jacob Coxon, antigo investigador da Anthropic, anunciou na quarta-feira a saída da empresa por considerar que nem a Anthropic nem a OpenAI, onde também trabalhou, estão a desenvolver modelos de inteligência artificial de forma responsável. Segundo Coxon, as duas empresas estão a “jogar com as nossas vidas”.
Os investigadores que entretanto se manifestaram receiam que a tecnologia possa tornar-se tão avançada e perigosa que provoque a extinção da humanidade na próxima década, defendendo que muitos dos seus colegas partilham estas preocupações, embora não as expressem publicamente.
Exemplo disso é Anna Wang, funcionária na área de segurança da Inteligência Artificial Geral na Anthropic e antiga trabalhadora da DeepMind, da Google, que afirmou na quinta-feira que muitas pessoas dentro da empresa querem abrandar o desenvolvimento para criar um plano capaz de reduzir os riscos associados a estes modelos.
“Ainda não existe um plano científico viável para resolver os riscos da IA que se autoaperfeiçoa recursivamente”, escreveu na rede social X.
Outro trabalhador da Anthropic, Drake Thomas, afirmou respeitar a decisão de Coxon de não participar no desenvolvimento destes modelos perante a possibilidade de representarem riscos à escala planetária.
“As coisas estão a avançar demasiado depressa, não temos de todo o nível de garantias que vamos querer para a ASI [superinteligência artificial]”, escreveu.
Mas a tese, no entanto, não é partilhada por todos. Elon Musk, por outro lado, adotou uma posição mais de confronto perante os alertas. “Parece uma armadilha”, escreveu na rede social X.
Horas depois, Jacob Coxon respondeu ao empresário com uma fotografia sua, acompanhada da mensagem: “Eu sou real e estas são as minhas crenças reais. Poderias perguntar aos teus investigadores da xAI sobre mim se não os tivesses despedido.”
Entretanto, e em declarações ao The Guardian, um porta-voz da Anthropic defendeu a estratégia da empresa. “Sempre fomos transparentes ao dizer que a IA trará benefícios enormes e riscos sem precedentes. Para responder a esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais fortes da indústria”, afirmou.
Não é, contudo, totalmente claro de que forma Coxon e os outros investigadores esperam que os modelos de IA possam conduzir ao desaparecimento da humanidade. Alguns especialistas duvidam que a tecnologia venha a atingir um nível de inteligência capaz de provocar um apocalipse. Gary Marcus, cientista e uma das vozes mais conhecidas no debate sobre inteligência artificial, afirmou que é altura de boicotar a IA, mas por considerar que esta já está a causar danos.
Mais do que a extinção da humanidade, Marcus disse estar preocupado com o “risco de catástrofe” provocado por “agentes patogénicos gerados por IA, guerras iniciadas ou agravadas por desinformação gerada por IA, ataques informáticos que destruam infraestruturas críticas, entre outras coisas". "Nada do que vi indica que alguma destas questões esteja sob controlo”, acrescentou.
No mesmo dia, a Anthropic divulgou um relatório no qual documentou a forma como desmantelou uma operação que tentava desenvolver uma arma biológica utilizando os seus modelos de inteligência artificial.
Sem comentários:
Enviar um comentário