Estão a meio de uma das competições mais agressivas da história do desenvolvimento tecnológico, mas mesmo assim foram capazes de concordar. Dario Amodei, presidente-executivo da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da xAI, vieram a público admitir que o avanço descontrolado da Inteligência Artificial de fronteira (IA) acarreta riscos reais e exige um abrandamento concertado no ritmo de desenvolvimento. Um alinhamento quase sem precedentes entre os três maiores rivais de Silicon Valley, mas que, para os especialistas em cibersegurança ouvidos pela CNN Portugal, esconde motivações bem mais pragmáticas e calculadas do que um súbito despertar de consciência.
"Olho para isto como uma espécie de tentativa de colocar um muro à entrada de novos players. Com esta regulação, os pequenos concorrentes não têm capacidade de capital para conseguir estar ao alcance destes grandes grupos. No fundo, é tentar fazer uma espécie de cartel", resume Vítor Hugo Silva, especialista em cibersegurança, mestre em Segurança da Informação e arquiteto de cibersegurança da Galp.
Ao contrário dos alertas dos líderes destas empresas, que apontaram para o perigo iminente de os sistemas ultrapassarem as salvaguardas humanas e exigirem travões de emergência, os especialistas descartam essa ideia quase cinematográfica de uma IA a ganhar consciência, a contornar os criadores e a ameaçar fugir ao controlo dos humanos. Longe dos cenários de ficção científica, os documentos internos e relatórios de segurança apontam para um problema bem mais antigo: uma nova ferramenta que acelera o desenvolvimento tecnológico que, ao mesmo tempo, pode ser explorada para o crime.
Quando a Anthropic publicou um relatório a avaliar se os seus modelos poderiam ajudar na criação de armas biológicas, o alarme soou de imediato. Mas, na verdade, não houve qualquer algoritmo a tentar produzir vírus de forma autónoma, nem planos terroristas explícitos, mas sim utilizadores e cientistas a explorar a capacidade computacional do modelo para recolher dados sensíveis. Tratou-se de um problema clássico das tecnologias de duplo uso, onde a mesma informação que acelera o desenvolvimento de uma vacina pode, nas mãos erradas, ser desviada para conceber ameaças biológicas.
"O que existia naquela investigação era um potencial de duplo uso: a moeda que tem duas faces, o mal e o bem. A tecnologia sempre foi assim", explica Vítor Hugo Silva, para quem a insistência no mito da "máquina rebelde" apenas desvia as atenções da verdadeira falibilidade técnica destes sistemas. "Estes modelos são modelos probabilísticos. Há sempre uma chance de fazer alguma coisa que não era suposto. Não é intencional, é mesmo probabilidade, só isso".
O perigo mais próximo, defende o especialista, não é o de um ataque autónomo de um modelo de IA, mas sim o de uma precipitação humana em transferir poder de decisão para sistemas estatísticos sem a devida validação. Ao contrário da automação tradicional, como os pilotos automáticos da aviação comercial, desenhados para responder de forma determinística e previsível a regras muito restritas, os grandes modelos de linguagem operam sob lógicas probabilísticas, gerando respostas que parecem coerentes, mas que comportam sempre uma margem inevitável de erro e alucinação.
Para os especialistas, confiar cegamente nestes sistemas para gerir infraestruturas críticas, como redes elétricas, abastecimento de água ou refinarias, pode resultar em erros demasiado graves. Mesmo quando a probabilidade é baixa. "Temos de estar preocupados, não propriamente com a tecnologia em si, mas com a forma como se tem usado a tecnologia. Tem sempre duas faces na mesma moeda, para o bem e para o mal. Não focava muito na questão do controlo, porque estamos sempre no controlo. Nós é que temos de ter os pés na terra, perceber quais são as potencialidades da ferramenta e definir grades de segurança", afirma Bernardo Forbes Costa, especialista em Inteligência Artificial e professor na Nova School of Business and Economics.
Para os especialistas, este continua mesmo a ser o principal perigo, com utilizadores com más intenções a conseguir utilizar estas ferramentas para causar danos de larga escala. É por isso que Bernardo Forbes Costa olha para a proposta de Dario Amodei, que defendeu a criação de um sistema de fiscalização e auditorias permanentes, capaz de ditar o ritmo de treino e de lançamento dos modelos mais avançados, como algo que obedece mais às regras de mercado do que a questões éticas.
"Vamos supor, num cenário catastrófico máximo, que efetivamente um grupo terrorista consegue desenvolver um vírus que gera uma crise pandémica global ao estilo da Covid, e descobre-se que foi através de um modelo da Anthropic ou da OpenAI. Isso é uma sentença de morte para uma empresa. Não é só algo perfeitamente altruísta e responsável; há sempre também uma preocupação económica em última instância", nota Bernardo Forbes Costa.
Os especialistas apontam também para um outro motivo financeiro que pode estar a levar a uma mudança na postura destas empresas tecnológicas. A fatura da corrida aos modelos de fronteira tornou-se demasiado grande face ao atual retorno comercial. De acordo com projeções financeiras públicas da OpenAI, a criadora do ChatGPT estimava prejuízos na ordem dos 5 mil milhões de dólares para 2024, apesar de receitas de cerca de 3,7 mil milhões, absorvendo faturas de computação que crescem a ritmos difíceis de sustentar. No mesmo sentido, gigantes do capital de risco como a Sequoia Capital chegaram a alertar para um "buraco de 600 mil milhões de dólares" entre aquilo que a indústria gasta em infraestrutura, com centros de dados, eletricidade e processadores gráficos da Nvidia, e as receitas reais que o ecossistema de inteligência artificial consegue gerar no mercado.
"Há aqui uma questão económica que não se consegue ignorar: até que ponto os incrementos dos modelos em termos de eficiência já não são lineares àquilo que é o investimento? Para tornar o modelo duas vezes melhor, eu tenho de gastar quatro vezes mais, por exemplo. Estamos a chegar a um plateau, a um achatamento da curva em termos de eficiência. Os limites da física começam a pregar partidas pelo tamanho dos transístores", explica Vítor Hugo Silva.
Em vez de criar legislação que trave o progresso tecnológico e que sirva apenas para salvar as contas das principais empresas do setor, a resposta para garantir uma maior segurança destes modelos pode passar por uma abordagem segmentada. Para Bernardo Forbes Costa, a regulação deve focar-se na forma como a tecnologia chega ao público, com uma arquitetura segmentada em níveis de acesso. Nesta solução, as empresas ofereceriam modelos de linguagem "mais libertos de resguardas de segurança para a investigação, para governos, para instâncias militares e outros modelos menos capazes para o uso civil". Ao mesmo tempo isso poderia permitir que "novos modelos continuem a ser desenvolvidos", mas que não sejam necessariamente lançados ao público. "Uma coisa é o desenvolvimento do modelo, outra coisa é a sua comercialização", defende.
Os especialistas alertam também para o facto de os países ocidentais correrem o risco de ficar para trás face à concorrência tecnológica de países com menos restrições éticas. Particularmente por parte do maior rival geopolítico norte-americano, a China, que tem focado os seus esforços em copiar e aperfeiçoar modelos de baixo custo.
O próprio relatório da Anthropic apontou o dedo a laboratórios chineses que tentaram replicar as capacidades dos modelos Claude através desse método, evitando gastar milhares de milhões de dólares e os anos de investigação que sustentaram o seu desenvolvimento. Vários laboratórios em Pequim e Hangzhou, como a DeepSeek ou a Alibaba com a Qwen, conseguiram colocar modelos de código aberto no topo dos benchmarks mundiais recorrendo a modelos ocidentais como "professores" para treinar arquiteturas muito mais compactas e baratas.
"O que a China tende a fazer no fundo é o que se chama destilação de modelos. Agarram num modelo de topo e tentam, de certa forma, copiá-lo. A única coisa de que preciso e o meu constrangimento passa a ser a necessidade de ter uma boa máquina", alerta Bernardo Forbes Costa.
Quase fora desta corrida está a Europa. Segundo os dados do relatório AI Index 2026, da Universidade de Stanford, em 2025, dos modelos de IA notáveis produzidos no mundo, 59 tiveram origem nos Estados Unidos e 35 na China. Em toda a Europa, somaram-se apenas dois. O fosso repete-se na capacidade instalada e na propriedade intelectual, com 5.427 centros de dados nos Estados Unidos, dez vezes o registado em qualquer outro país. O fosso de infraestrutura é ainda mais gritante: o continente europeu não tem um único grande fornecedor de computação em nuvem e depende quase a 100% de semicondutores e servidores norte-americanos.
"Estamos em maus lençóis a esse nível, porque tudo o que é inteligência artificial de ponta, na vanguarda, é tudo americano e chinês. Não temos quase nada na Europa", adverte o professor da Nova SBE
Saber mais:
1. Sequoia Capital. (2024). AI's $600B Question. Sequoia Capital Research
Sem comentários:
Enviar um comentário