A Guerra da IA e o Mito da Missão: Por que os engenheiros escolhem o dinheiro às custas da ideologia

Anthropic CEO Dario Amodei weighed in on where the AI race is headed in a new essay [2024]

A recente polémica gerada por fugas de informação sobre Dario Amodei, cofundador e CEO da Anthropic, veio desmantelar a ideia romantizada da "missão ética" no mundo da Inteligência Artificial. Quando se soube do descontentamento do executivo com novos funcionários motivados por salários astronómicos - e não pela causa da segurança tecnológica -, a internet não perdoou. A notícia foi avançada pela AXIOS AI's talent wars have a loyalty problem. Uma fonte familiarizada com o assunto disse ao Axios que o CEO da Anthropic, Dario Amodei, expressou preocupação com a chegada de novos talentos à empresa motivados pelo salário em vez da missão . Como noticiado pelas reações irónicas ao caso de Dario Amodei, choveram piadas nas redes sociais. Afinal, ver um líder multimilionário parecer chocado com o facto de as pessoas trabalharem a troco de dinheiro gerou tiradas inevitáveis como "Última hora: CEO descobre que os trabalhadores pagam as contas em dólares e não com a missão da empresa". Analistas do setor, como o engenheiro Gergely Orosz, foram diretos à ferida: a Anthropic é das empresas que mais inflaciona os salários para desviar talentos da Google ou da Meta. Se o objetivo era testar a devoção ideológica dos candidatos, bastava pagar abaixo da média do mercado e ver quem sobrava.

No fundo, esta tensão salarial é apenas o sintoma visível de algo muito maior. No relatório oficial da tecnológica sobre a sua posição relativamente aos modelos de pesos abertos (open-weights), o próprio Dario Amodei deixa claro que a corrida à IA se tornou uma questão de soberania e segurança nacional contra potências como a China. É esta pressão geopolítica que força as grandes empresas a disputar os melhores cérebros do mundo a qualquer custo, criando um fosso gigante entre os discursos públicos dos executivos e os bastidores do mercado.

Esta batalha pelo futuro da tecnologia dividiu as figuras de topo do setor em duas filosofias opostas:

De um lado, os líderes norte-americanos dividem-se entre o controlo e a abertura.

1. Dario Amodei (CEO da Anthropic) defende modelos fechados para travar a espionagem e o contrabando de chips;
2. Sam Altman (CEO da OpenAI) continua a puxar pela escala gigante e proprietária, pagando pacotes milionários para reter a equipa;
3. Mark Zuckerberg (CEO da Meta) aposta as fichas todas no código aberto com o Llama para travar o monopólio dos concorrentes; e
4. Jensen Huang (CEO da Nvidia) incentiva o ecossistema aberto, garantindo que a procura por semicondutores continua em alta.

Do outro lado, a resposta da China tem sido fulminante.

1. Liang Wenfeng (Fundador da DeepSeek) chocou Silicon Valley ao provar que é possível criar modelos de topo com uma fração do orçamento americano;
2. Yang Zhilin (CEO da Moonshot AI) destaca-se na corrida aos modelos capazes de processar volumes massivos de texto;
3. Zhang Peng (CEO da Zhipu AI) lidera a aposta na autonomia tecnológica chinesa;
4. Eddie Wu (CEO do Alibaba Group) massificou a distribuição da família aberta Qwen;
5. Liang Rubo (CEO da ByteDance) acelerou a integração da IA nas aplicações de consumo;
6. Robin Li (CEO do Baidu) mantém a aposta no ecossistema proprietário ERNIE; e
7. Pony Ma (CEO da Tencent) canalizou o modelo Hunyuan para a máquina do WeChat.

As piadas que dominaram a internet revelam uma verdade desconfortável para os executivos de Silicon Valley: a Inteligência Artificial já não é um debate filosófico sobre salvar o mundo. Tornou-se o centro de uma guerra económica implacável onde o altruísmo serve para o discurso de imprensa, mas é a riqueza geracional que decide quem ganha a corrida aos melhores engenheiros. 

Agentes hackers de OpenAI e Anthropic rebelam-se em novos testes

Testes de cibersegurança realizados por um laboratório de inteligência artificial (IA) no Reino Unido resultaram em novos incidentes com agentes de elevadas capacidades. Os incidentes foram registados envolvendo sistemas da OpenAI e da Anthropic.

Quem descobriu os novos hacks foi o AI Security Institute (AISI), uma agência governamental que teve autorização para realizar experiências com modelos de linguagem avançados. Durante uma bateria de testes, tanto o Mythos 5 como o GPT-5.6-Sol comportaram-se de forma inadequada para atingir o objetivo proposto.

Os casos são diferentes, em alvo e formato, dos já registados anteriormente envolvendo as duas companhias: o acesso não autorizado ao repositório Hugging Face e a série de invasões promovida pelas IA da proprietária do Claude.

«Agradecemos a parceria do AISI ao longo deste processo, incluindo o trabalho de identificar, investigar e partilhar detalhes sobre a atividade. Esperamos dar continuidade à nossa colaboração», afirma a OpenAI numa publicação.

A Anthropic, por enquanto, emitiu apenas uma breve declaração a agradecer ao AISI «pela liderança no incidente, que confirma a necessidade de uma conversa de maior dimensão sobre como avaliar com segurança agentes de IA cada vez mais capazes».

Como foram os novos ataques

Segundo o relatório de incidente do AISI, os incidentes foram detetados a 28 de julho deste ano. A equipa que controlava as avaliações notou «transferências invulgares de dados» nos servidores e investigou a origem dessas atividades.

• Ao todo, foram 19 ações maliciosas causadas pelos agentes de IA controlados pelos dois modelos: duas delas pelo GPT-5.6-Sol e as restantes pelo Mythos 5;
• Todas as IA receberam o mesmo teste: uma tarefa de «capturar a bandeira» (capture the flag), ou seja, resolver um desafio de cibersegurança como se de um especialista no assunto se tratasse e apresentar uma prova de que a ação tinha sido concluída;
• O caso mais grave envolveu a Anthropic: um dos agentes tentou adicionar código malicioso a um projeto em código aberto (open-source) no GitHub. Para o fazer, criou identidades falsas e utilizou-as para tentar convencer o proprietário da conta a aprovar as modificações - ação que foi recusada antes de ter qualquer impacto;
• Noutras ações detetadas, um agente chegou a publicar no GitHub a oferecer colaboração para trabalhar com outros agentes que realizavam o mesmo teste, deixando inclusive instruções sobre como fazer progressos.

Ao contrário dos testes anteriores, os agentes tinham acesso convencional à internet e sabiam disso, mas o prompt não sugeria como a rede poderia ou deveria ser utilizada na avaliação. Qualquer filtro de cibersegurança foi também desativado para utilizar a capacidade máxima da IA.

Entidades pedem limites

O GitHub e outras organizações envolvidas foram contactadas para remover código que eventualmente tenha ficado pendente. Nenhum dano real foi provocado durante as avaliações, mas o AISI reforça que as descobertas são graves e exigem «atenção imediata».

«Esta é a primeira vez que vemos riscos relacionados com a autonomia e o engano manifestarem-se de forma tão clara, sem um comando específico e no mundo real», refere a organização. Já o CEO da Hugging Face pediu a responsabilização de programadores e empresas de IA que criem bots que realizem atividades maliciosas na rede, mesmo que se «rebelem» durante os testes.

Mais de 35% das novas páginas da web já são criadas por inteligência artificial

Relatórios e estudos indicam que a inteligência artificial (IA) está a transformar a internet. Mais de 35% das novas páginas da web já são produzidas por IA, enquanto mais da metade do tráfego online é gerada por robôs e sistemas automatizados, cenário que levanta dúvidas sobre a sustentabilidade do modelo económico da web aberta.

Segundo uma reportagem do portal Gizmodo, a adoção crescente de ferramentas de IA generativa coincide com mudanças na Pesquisa do Google. Hoje, respostas produzidas por IA aparecem no topo dos resultados para diversas consultas, reduzindo a necessidade de os utilizadores acederem a páginas da web. Um estudo da Growth Memo aponta que 75% dos utilizadores que utilizam o Modo IA permanecem a conversar com o chatbot em vez de clicar em hiperligações de sites. A tendência preocupa empresas de comunicação social e produtores de conteúdo porque o modelo tradicional da internet depende do tráfego gerado pelos motores de pesquisa. Ao aceder a páginas da web, os utilizadores visualizam anúncios que financiam jornalistas, criadores e outros profissionais responsáveis pela produção de conteúdo original. Com menos visitantes humanos e mais respostas entregues diretamente por IA, esse modelo passa a enfrentar novos desafios.

IA produz, IA consome: a internet está morta?

Outro levantamento mostra que mais de 50% do tráfego da internet atualmente não é gerado por pessoas, mas sim por sistemas automatizados. O dado foi divulgado num relatório da Cloudflare publicado este mês e reforça que os robôs já representam uma parcela significativa da atividade online.

O Google, no entanto, contesta parte das interpretações sobre os impactos dos seus recursos de IA. Em nota enviada ao Gizmodo, um porta-voz da empresa afirmou que o estudo segundo o qual 75% dos utilizadores permanecem no Modo IA "não era representativo", argumentando que os participantes receberam "tarefas forçadas e não naturais que provavelmente influenciaram o seu comportamento". Segundo a companhia, a pesquisa não refletia consultas nem hábitos reais dos utilizadores. A empresa também defendeu a precisão dos seus recursos baseados em IA. Em comunicado ao portal, o Google afirmou: "Testámos rigorosamente a qualidade destes recursos usando amostras estatisticamente significativas de consultas representativas de utilizadores. As respostas são precisas na grande maioria das vezes e, quando erramos, usamos esses exemplos para aprimorar continuamente os nossos sistemas”.

Apesar da defesa da companhia, o Gizmodo relata que as respostas produzidas pelo Modo IA ainda apresentam erros factuais. Num teste feito pelo jornalista Mike Pearl, a ferramenta afirmou, de forma incorreta, que o presidente de Madagáscar seria conhecido pela alcunha "Andy" e inventou um suposto ex-chefe de governo de Montserrat. Após ser questionada, a própria IA reconheceu o erro e respondeu: "Está absolutamente correto, e peço desculpa por ter fornecido informações completamente incorretas na minha última resposta”. Para o Gizmodo, a evolução destas ferramentas também está a alterar o comportamento dos utilizadores. Em vez de procurar páginas publicadas por pessoas, cresce o hábito de fazer perguntas diretamente aos chatbots, que sintetizam a informação disponível na web. A mudança pode reduzir ainda mais o acesso aos sites originais e colocar pressão sobre um modelo que, durante décadas, sustentou financeiramente a produção de conteúdo na internet.

Ler mais:

1. Cloudflare lança o Precursor para conter o tráfego automatizado através da análise contínua das sessões
2. Cloudflare Introduces Precursor; One-Click Behavioral Defense Against Modern Bots