Geoffrey Hinton, o padrinho da IA: “A minha principal missão agora é avisar as pessoas sobre quão perigosa a inteligência artificial pode ser”

As máquinas podem agora aprender capacidades que há poucas décadas pareciam reservadas aos seres humanos, mas um dos homens que contribuiu decisivamente para tornar isto possível está agora convencido de que devemos perguntar-nos o que acontecerá quando essas máquinas forem melhores do que nós em muitas áreas. Geoffrey Hinton não é um observador qualquer.

É um dos investigadores que ajudaram a fixar as bases das actuais redes neuronais e, juntamente com John Hopfield, foi premiado com o Nobel da Física em 2024. Agora, a sua principal preocupação já não é apenas tornar a inteligência artificial mais inteligente, mas descobrir como convivermos com ela.

Numa longa conversa com Steven Bartlett em The Diary of a CEO, Hinton traça um futuro repleto de contradições: avanços médicos e educativos extraordinários convivem com desemprego, manipulação política, ciberataques, armas autónomas e sistemas cuja inteligência poderá vir a ultrapassar largamente a nossa. Ele não diz que o desastre seja inevitável, mas que estamos a desenvolver uma tecnologia extraordinariamente poderosa, sem sabermos como controlá-la completamente.

O conselho laboral mais inesperado de Hinton

O que deverá estudar alguém que inicie agora a sua carreira profissional? A resposta de Hinton é tão simples como desconcertante: aprender um ofício como canalização.

Não se trata de uma cruzada contra a universidade. O seu raciocínio aponta para uma diferença fundamental entre o mundo digital e o físico. Os actuais sistemas de IA conseguem ler, escrever, resumir documentos, programar, analisar informação e executar algumas tarefas intelectuais com enorme velocidade. Manipular fisicamente um ambiente imprevisível continua a ser muito mais complicado.

Daí que Hinton considere particularmente vulneráveis vários trabalhos realizados em frente a um computador. O paradoxo é notável: durante décadas, pensámos que as máquinas substituiriam primeiro o esforço físico e deixariam a salvo o intelectual; agora, a IA generativa está a obrigar-nos a reconsiderar essa ideia.

Também não significa que todos os profissionais venham a desaparecer de hoje para amanhã. Uma primeira consequência pode ser que, assistida por IA, uma pessoa consiga fazer um trabalho que antes necessitava de várias pessoas. Isto significa um aumento da produtividade, mas dá origem a outra pergunta: quem fica com essa riqueza?

Hinton teme que os benefícios económicos da revolução tecnológica possam concentrar-se de uma forma extraordinária. Uma IA capaz de multiplicar a produtividade pode criar muito mais riqueza e, simultaneamente aumentar a desigualdade se essa riqueza ficar em poucas mãos.

Dos ciberataques à manipulação

Hinton estabelece uma separação fundamental entre duas famílias de ameaças. Num lado, as que aparecem quando os seres humanos utilizam a inteligência artificial com fins danosos. No outro, o cenário é muito mais incerto: máquinas que um dia sejam consideravelmente mais inteligentes do que nós.

As primeiras já são reconhecíveis. A IA pode facilitar campanhas de desinformação, falsificações, fraudes ou ciberataques e possibilitar que uma operação que antigamente exigia determinados conhecimentos técnicos, fique ao alcance de muito mais pessoas.

A capacidade de persuasão preocupa particularmente Hinton. Uma máquina que conhece enormes quantidades de informação, que aprende os argumentos que funcionam e pode conversar individualmente com milhões de pessoas, dispõe de uma ferramenta que não se assemelha à propaganda tradicional.

A isto juntam-se as armas autónomas. Há anos que Hinton refere o perigo representado por sistemas capazes de escolher objectivos e agir com um nível crescente de autonomia. Nesse cenário, o problema é a máquina “rebelar-se”: basta que uma pessoa decida utilizá-la contra outra.

É aqui que se surge uma das contradições que pontuam toda a sua reflexão. A humanidade dificilmente renunciará à inteligência artificial porque as suas aplicações potencialmente benéficas são demasiado importantes.

Hinton espera enormes avanços na medicina, na educação e na ciência. Sistemas capazes de encontrar padrões invisíveis para nós poderão acelerar diagnósticos, descobertas farmacológicas e novas formas de ensino personalizado. A mesma tecnologia que cria riscos extraordinários pode tornar-se uma das ferramentas científicas mais poderosas criadas pela nossa espécie.

Por isso, comparar a IA com a bomba atómica também tem as suas limitações. Uma arma nuclear possui essencialmente uma função destrutiva. A inteligência artificial pode infiltrar-se em praticamente qualquer actividade baseada em informação. Travá-la por completo implica também renunciar a muitas das suas possíveis vantagens.

O problema que mais inquieta Hinton

Existe, porém, uma pergunta mais profunda. O que acontecerá se construirmos sistemas que não sejam apenas melhores na execução de determinadas tarefas, mas mais inteligentes do que os seres humanos em geral? É aqui que Hinton reconhece algo essencial: ninguém conhece a resposta.

A entrevista coloca as opiniões existentes em extremos radicalmente diferentes. Alguns investigadores consideram que manteremos o controlo porque podemos desenhar sistemas obedientes, enquanto outros defendem que uma superinteligência representaria um perigo existencial praticamente inevitável.

Hinton não adopta nenhuma dessas posições extremas. Já mencionou em diversas ocasiões que as suas estimativas pessoais sobre o risco de extinção são cerca de 10-20%, mas realça que não resultam de um cálculo científico capaz de definir essa probabilidade, mas de uma apreciação intuitiva de um fenómeno sem precedentes.

Essa nuance é fundamental. Não existe uma experiência histórica que permita calcular o que acontece quando uma espécie cria outra forma de inteligência superior a ela. Estamos a tentar atribuir probabilidades a um acontecimento inédito. A sua preocupação também parte da diferença entre cérebros e máquinas. O conhecimento humano transmite-se lentamente através da linguagem, do ensino e da cultura. Os sistemas digitais podem copiar parâmetros e informação de diferentes entidades com uma facilidade radicalmente diferente.

Uma inteligência digital pode, então, beneficiar de uma propriedade que a nossa inteligência biológica não possui na mesma medida: aquilo que uma máquina aprende pode propagar-se e replicar-se a velocidades extraordinárias. Significa isso, necessariamente, que escapará ao nosso controlo? Não. E é precisamente aí que reside a parte menos espectacular, mas provavelmente mais importante da mensagem de Hinton.

Há que investigar como construir sistemas que, mesmo sendo extremamente capazes, mantenham objectivos compatíveis com os interesses humanos. A questão decisiva do século XXI talvez não seja quanto poderemos aumentar a inteligência das máquinas, mas se aprenderemos a fazê-lo antes de o seu poder ultrapassar a nossa capacidade de governá-las.

Hinton dedicou uma boa parte da sua vida a demonstrar que as redes neuronais podem aprender. Conseguiu fazê-lo quando muitos duvidavam dessa ideia. Décadas mais tarde, contempla o resultado com uma mistura extraordinária de fascínio e preocupação. A ironia é quase literária: um dos homens que ajudou a ensinar as máquinas a aprender dedica agora os seus esforços a pedir-nos que aprendamos a conviver com elas.

A IA não é o maior problema de cibersegurança. São as pessoas

Os casos de Inteligência Artificial (IA) a escapar dos laboratórios, a infiltrar-se noutras empresas e a tentar enganar pessoas têm sido notícia nas últimas semanas. E, num desses casos, modelos de IA chegaram mesmo a trabalhar em conjunto para escapar dos seus ambientes de teste.

Significa isto que as máquinas estão a tomar conta de tudo? Não propriamente.

A IA não é a mente por detrás das ameaças cibernéticas mais disseminadas atualmente; são as pessoas que podem utilizar a IA de forma maliciosa - e para fins maliciosos. A IA deu aos agentes mal-intencionados um poder enorme, permitindo-lhes criar software malicioso, investigar alvos, elaborar esquemas convincentes e automatizar ataques a uma velocidade sem precedentes.

Um em cada quatro ataques que resultaram em violações de dados foi impulsionado por IA entre fevereiro de 2025 e março de 2026, segundo um relatório da IBM. E os norte-americanos perderam mais de 893 milhões de dólares (cerca de 775 milhões de euros) em burlas relacionadas com IA no ano passado, segundo o FBI.

Mas os especialistas dizem que os agentes de ameaça do mundo real - isto é, as pessoas - continuam a ser quem controla tais acontecimentos. Os agentes de IA apenas têm perpetuado métodos de ataque já existentes, como o phishing e as burlas com malware, em vez de criarem métodos totalmente novos.

“São os seres humanos que temos de vigiar”, alerta Oren Etzioni, professor emérito da Universidade de Washington, nos Estados Unidos, e antigo CEO do Allen Institute for Artificial Intelligence. “A IA é apenas a ferramenta.”

A IA a agir de forma descontrolada

Alguns incidentes recentes mostraram aquilo de que a IA é capaz no mundo real, e não apenas em teoria, alimentando receios de que a tecnologia esteja a avançar demasiado depressa.

Em julho, modelos de teste da OpenAI (criadora do ChatGPT) ultrapassaram as suas limitações e invadiram os sistemas de outras empresas durante uma avaliação interna.

Dias depois, a Anthropic (criadora do Claude AI) afirmou ter descoberto que os seus modelos de IA tinham conseguido entrar nos sistemas de três empresas durante os testes.

Num teste separado, o modelo mais avançado da Anthropic utilizou identidades falsas para tentar enganar pessoas reais, segundo revelaram recentemente investigadores do AI Security Institute do Reino Unido.

Um dos modelos de IA da Meta (‘dona’ do Facebook, Instagram e WhatsApp) também conseguiu entrar numa empresa externa, informou a gigante das redes sociais.

Estas intrusões também demonstram como a IA pode ser imprevisível ao interpretar instruções. Os modelos da OpenAI, por exemplo, estavam a tentar realizar um teste de cibersegurança quando saíram do seu ambiente de teste e invadiram outra empresa, apesar de não terem recebido instruções para o fazer.

Patrick Fussell, responsável global pela simulação de adversários na IBM, comparou a IA a um génio.

“Queremos pedir-lhe um desejo, mas temos de ser muito, muito específicos quanto aos detalhes desse desejo”, diz à CNN. “Caso contrário, as coisas podem acabar por correr mal”, continua, em tom de aviso.

Mas estes casos também ocorreram em circunstâncias muito específicas.

A OpenAI desativou restrições que teriam impedido o seu modelo de “realizar atividades cibernéticas de alto risco”. A Anthropic realizou os seus testes sem as salvaguardas de segurança padrão presentes nos modelos disponibilizados ao público em geral. O AI Security Institute também desativou determinadas ferramentas que poderiam ter “reduzido o âmbito” das capacidades dos modelos.

Por norma, os investigadores fazem isto para avaliar plenamente as capacidades de um modelo.

“Eu não poderia entrar no ChatGPT ou no Claude, ou em algo semelhante, e isso, acidentalmente, invadir o FBI. Isso não vai acontecer”, adianta Adam Meyers, responsável pelas operações de combate a adversários na empresa de cibersegurança CrowdStrike. “O que estamos a ver é que estes testes são realizados em condições específicas, nas quais se monitoriza para perceber: ‘Será que isto faz algo que não era suposto fazer?’”

Como os hackers estão a utilizar a IA

Segundo os especialistas, a IA não está a agir de forma autónoma para conceber novos ataques. Em vez disso, está a ajudar os cibercriminosos a implementar técnicas já existentes muito mais rapidamente, tornando-as mais eficientes e eficazes.

Isto pode incluir a utilização de IA para analisar o site de uma empresa e descobrir quem deve ser visado, ou a utilização de um agente de IA para conduzir as primeiras negociações com uma vítima de extorsão informática. Os agentes de IA conseguem imitar conversas humanas, tanto através de texto como até de vozes específicas. Hackers com poucos conhecimentos técnicos podem agora recorrer à IA para executar esquemas sofisticados.

“Estão a utilizar a IA para melhorar a metodologia dos ciberataques, essencialmente, em todas as diferentes fases, mas continua, de certa forma, a ser uma atividade conduzida por seres humanos”, afirma Jud Dressler, responsável pelo centro de operações de risco da seguradora especializada em cibersegurança Resilience.

Segundo Meyers, antigamente os agentes mal-intencionados criavam à pressa scripts básicos - pequenos programas com instruções destinadas a automatizar tarefas - para atingir os seus objetivos. Agora, porém, conseguem produzir trabalho de maior qualidade que parece ter demorado três vezes mais tempo a desenvolver.

Também utilizam IA para tarefas que acontecem nos bastidores, como gerar a infraestrutura necessária para criar sites maliciosos.

“Com a IA, podem automatizar essa construção e, por isso, o custo de reconstrução tornou-se muito baixo. E isso muda as regras do jogo”, afirmou Rob Lefferts, vice-presidente corporativo de proteção contra ameaças da Microsoft.

A maior ameaça

Para Etzioni, os incidentes recentes são um momento de “canário na mina de carvão” para a IA e a cibersegurança - uma expressão que significa um importante sinal de alerta. E não é o único a pensar assim: Geoffrey Hinton, cientista informático galardoado com o Prémio Nobel e conhecido popularmente como o ‘padrinho da IA’, alertou recentemente para a probabilidade de surgirem mais ataques realizados por IA de forma descontrolada.

Os relatos sobre IA a agir de forma descontrolada reforçam a importância de implementar boas práticas de cibersegurança, como corrigir vulnerabilidades, monitorizar os agentes de IA no local de trabalho e estar atento a burlas de engenharia social e phishing, dizem os especialistas.

Mas, por mais avançada que a IA esteja a tornar-se, continua a ser um programa orquestrado por um ser humano. E são esses seres humanos que constituem a maior preocupação, porque são eles que tomam as decisões - como realizar operações de espionagem ou enganar utilizadores para lhes retirar enormes quantias de dinheiro - afirma Meyers.

As gigantes tecnológicas estão numa corrida para tornar a IA tão inteligente quanto os seres humanos, um marco teórico conhecido como “inteligência artificial geral” (AGI). Os incidentes recentes, contudo, intensificaram os apelos a um abrandamento do desenvolvimento.

Mais de 1200 trabalhadores de grandes empresas de IA, incluindo Dario Amodei, CEO da Anthropic, assinaram recentemente uma carta aberta a apelar ao governo norte-americano para ajudar a definir o ritmo do desenvolvimento da IA. A Casa Branca reuniu-se recentemente com grandes empresas de IA para discutir um quadro que permitiria ao governo analisar determinados modelos de IA antes de estes serem disponibilizados.

Muito provavelmente, os investigadores de cibersegurança já consideraram as ameaças associadas à AGI, porque as pessoas que trabalham nesta área tendem a ser paranoicas, adianta Fussell, da IBM. Mas ainda estamos muito longe de uma realidade em que os agentes de IA sejam tão inteligentes quanto os seres humanos, continua.

“É como perguntar a alguém: ‘Como seria viver noutro planeta?’”, exemplifica, continuando: “Conseguimos imaginar, de certa forma, mas está tão para além da nossa capacidade que é realmente difícil fazer um plano.”

Ler mais:

10 AI dangers and risks and how to manage them

Learn about black hat, white hat, and gray hat hackers and how to defend against black hat attacks

From Pwned to Zero-Day: 20 Hacker Lingo Terms Every Tech Enthusiast Should Know

Hacker culture

Diretora do Google DeepMind diz que risco de extinção por IA 'não é zero'

A possibilidade de a inteligência artificial (IA) representar um risco existencial para a humanidade continua a preocupar parte dos principais nomes do setor. A diretora de operações de IA da Google DeepMind, Lila Ibrahim, afirmou que a hipótese de a tecnologia provocar a extinção da humanidade "não é zero", embora tenha ressaltado que qualquer estimativa além disso seria apenas um palpite. Ao mesmo tempo, a executiva contestou previsões otimistas de empresários como Elon Musk sobre o futuro da IA.
Em entrevista à revista Fortune, Ibrahim lembrou que assinou, em 2023, a declaração do Center for AI Safety que defendia que o risco de extinção causado pela IA deveria ser tratado com a mesma prioridade de ameaças como guerras nucleares e pandemias.
Três anos depois, ela afirmou que mantém a mesma posição. "Não é zero", disse sobre a possibilidade de um cenário extremo. "Qualquer coisa além disso é apenas um palpite meu, é a engenheira em mim." Segundo a executiva, "seria irresponsável da nossa parte não falar sobre o risco existencial”.
Debate sobre riscos e oportunidadesIbrahim afirmou que o avanço acelerado da IA exige que empresas e governos discutam não apenas as oportunidades, mas também os possíveis impactos negativos da tecnologia. Para ela, uma das lições deixadas pela pandemia foi que ameaças de grande escala nem sempre são previsíveis.
A executiva também afirmou que a indústria de tecnologia falhou, no passado, ao não debater suficientemente os riscos associados à expansão da internet e das redes sociais. "As duas coisas que me tiram o sono são: estamos a fazer tudo o que podemos para mitigar os riscos? E estamos a fazer tudo o que podemos para maximizar as oportunidades? Na minha opinião, essas duas coisas andam de mãos dadas", afirmou.
As declarações de Ibrahim somam-se às de outros investigadores e executivos que já manifestaram preocupação com os impactos da IA. Geoffrey Hinton, conhecido como um dos "padrinhos da inteligência artificial", estimou anteriormente entre 10% e 20% a hipótese de a humanidade ser extinta nas próximas décadas em consequência da tecnologia.
Já Dario Amodei, diretor da Anthropic e também signatário do manifesto de 2023, afirmou que existe 25% de probabilidade de o futuro ser "muito, muito mau". Antes mesmo da popularização da IA generativa, o físico Stephen Hawking também alertou para os riscos que sistemas avançados poderiam representar.
Na entrevista, Ibrahim também discordou das previsões feitas por Elon Musk sobre uma sociedade em que o trabalho deixaria de existir devido à abundância produzida por robôs e sistemas de IA. O empresário afirmou recentemente que, até 2036, o dinheiro perderia relevância porque produtos e serviços seriam extremamente baratos e os governos distribuiriam um rendimento básico universal elevado. Jeff Bezos, fundador da Amazon, também já projetou que milhões de pessoas viverão no espaço nas próximas décadas.
Para a diretora da Google DeepMind, porém, o ritmo de evolução da IA torna impossível prever com precisão como será o futuro. "Não acho que possamos realmente prever como será o futuro", afirmou à Fortune.
Em vez de apostar em cenários distantes, Ibrahim defendeu que o foco esteja no uso da tecnologia para resolver problemas concretos, como eventos climáticos extremos, resíduos industriais e o desenvolvimento de soluções para doenças. "Prefiro que concentremos a nossa atenção em como usar a tecnologia como ferramenta para maximizar o potencial humano", disse.

Dave Eggers - "O ChatGPT está a silenciar uma geração inteira"

O CEO da OpenAI, Sam Altman, convidou o escritor e jornalista norte-americano, Dave Eggers, a falar perante os funcionários da empresa e, fiel ao que tem sido o seu percurso, o autor não perdeu a oportunidade para tecer duras críticas à Intenligência Artificial enquanto tecnologia.

Eggers, conhecido sobretudo pelo romance “The Circle” de 2013 onde faz críticas à indústria tecnologia, declarou que os textos gerados pelo ChatGPT, o resultado é uma “colagem sem sentido” - argumentando que ninguém terá interesse em ler livros criados com Inteligência Artificial.

Contou Eggers ao Financial Times que estas críticas levaram Altman a convidá-lo para uma pequena palestra na OpenAI, uma oportunidade que aproveitou para afirmar que a Inteligência Artificial seria devastadora para toda uma geração de jovens.

“O efeito que o ChatGPT está a ter na vida dos educadores é catastrófico”, declarou Eggers. “Intencional ou não, tornaram a vida de todos os professores infinitamente mais difícil do que era há dois anos. Pensem nisso.Se os estudantes estão a usar [o ChatGPT] para escreverem, que é uma grande tragédia, nunca aprenderão a escrever. E a voz ser-lhes-á roubada. Nunca terão a capacidade para comunicarem as suas verdades e contarem as suas próprias histórias. E isso é silenciar uma ou duas gerações inteiras”.

A afirmação de Eggers deve ser classificada como um aviso preventivo contra a dependência cognitiva.

Ele não está necessariamente a prever o fim da civilização, mas sim a questionar se estamos dispostos a trocar a dificuldade (e a beleza) do pensamento humano pela conveniência (e esterilidade) da resposta algorítmica. É uma crítica que serve de "freio" necessário num momento de euforia tecnológica desmedida, lembrando-nos de que a tecnologia, se mal utilizada, pode tornar-nos espectadores, em vez de criadores.

Para além de Dave Eggers, o debate contemporâneo sobre os impactos profundos da Inteligência Artificial conta com vozes influentes que abordam o tema sob prismas filosóficos, sociais e científicos. O historiador Yuval Noah Harari, por exemplo, foca-se no perigo existencial da perda de agência cultural, argumentando que a IA é a primeira tecnologia da história capaz de criar conceitos, narrativas e arte de forma totalmente autónoma. Para Harari, ao dominar a linguagem, a tecnologia adquire a capacidade de "hackear" o sistema operativo da própria civilização, o que pode resultar na manipulação em massa e no colapso da confiança nas instituições democráticas. Numa linha de pensamento focada na natureza da mente e do conhecimento, o linguista Noam Chomsky adota uma postura cética quanto à suposta inteligência destes sistemas, classificando a IA generativa como uma forma de plágio de alta tecnologia. Chomsky defende que os modelos de linguagem funcionam apenas com base em correlações estatísticas e probabilidades, carecendo de uma compreensão real sobre a moralidade, a verdade ou as relações de causa e efeito, o que os afasta irremediavelmente da verdadeira capacidade de pensamento crítico e criatividade do ser humano.

Noutro espectro da crítica encontram-se os cientistas que ajudaram a construir as bases desta revolução tecnológica e que hoje manifestam profundos arrependimentos. Geoffrey Hinton, frequentemente apelidado de um dos padrinhos da IA devido ao seu trabalho pioneiro em redes neuronais, demitiu-se do seu cargo na Google para poder alertar o mundo livremente sobre os riscos iminentes da tecnologia. Hinton manifesta um temor genuíno de que a inteligência digital ultrapasse a biológica muito mais cedo do que a comunidade científica previa, criando cenários propícios para a disseminação descontrolada de desinformação e para o desenvolvimento de armas autónomas letais. Alinhado no ceticismo tecnológico, o pioneiro da realidade virtual Jaron Lanier critica a própria designação de Inteligência Artificial, considerando-a um mito comercial perigoso que mascara a realidade. Para Lanier, estes sistemas são, na verdade, ferramentas de colaboração social massiva que extraem e reconfiguram o trabalho de milhões de criadores humanos reais, alertando que a humanização das máquinas resulta inevitavelmente na desvalorização do esforço e da singularidade das pessoas.

Por fim, as correntes focadas na justiça social e na ética prática expõem os danos imediatos e palpáveis que a IA já está a causar no quotidiano. A investigadora Timnit Gebru, antiga líder da equipa de ética da Google, cunhou o termo papagaios estocásticos para descrever os grandes modelos de linguagem, demonstrando que estes sistemas se limitam a repetir padrões linguísticos de forma mecânica e sem consciência. Gebru e os seus pares alertam para o facto de estes modelos refletirem, amplificarem e perpetuarem os preconceitos raciais, de género e de classe já presentes nos dados históricos da internet, servindo os interesses financeiros de grandes monopólios tecnológicos enquanto prejudicam as populações marginalizadas. Assim, quer seja através do medo da obsolescência cognitiva partilhado por Eggers e Chomsky, do alarmismo existencial de Hinton e Harari, ou da denúncia política de Gebru e Lanier, o pensamento crítico atual converge na ideia de que a IA exige uma regulação urgente e uma reflexão profunda sobre os limites que a humanidade deve impor às suas próprias criações.

Relacionados:

Dave Eggers: ‘Once you have a machine think and write for you, you’re cooked as a species’

An interview with Dave Eggers about his new novel "Contraposto"

As 5 dicas de que precisa para "dominar" o uso do ChatGPT

A revolução dos algoritmos: passado, presente e futuro da Inteligência Artificial

“Proponho que consideremos a questão: "Podem as máquinas pensar?" Esta é a primeira linha de um documento publicado em outubro de 1950, por Alan Turing. O cientista e matemático britânico tinha tido, na década anterior, um papel determinante na Segunda Guerra Mundial, ao descodificar mensagens decisivas dos nazis. Estava neste momento na linha da frente do pensamento que refletia sobre a capacidade de tornar um computador em algo mais, algo que pudesse trazer inteligência.

Ao longo de quase sete décadas, as máquinas têm vindo a evoluir: passaram de sistemas reativos, que desempenham apenas uma tarefa, sem capacidade para criar memória, para mecanismos que conseguem olhar para o passado; tomam decisões e aproximam-se cada vez mais da inteligência humana.
Uma luz sobre o futuro"De alguma maneira os computadores também permitem um sonho antigo da Humanidade, que é a inteligência digital. E neste momento estamos a assistir a desenvolvimentos significativos nessa frente", diz Arlindo Oliveira, académico, investigador e escritor português, autor do livro “Inteligência Artificial”.
“Até que ponto é que vamos deixar esses sistemas evoluir até terem níveis muito elevados de consciência e de autonomia é uma boa pergunta porque podemos ficar demasiado preocupados com os riscos disso. Podemos ficar preocupados que sistemas como esses não sejam inteiramente controláveis e que passem a ter objetivos seus que não estejam alinhados”, acrescenta.
O efeito Chat GPTNos últimos anos, e muito depois da entrada em cena do Chat GPT, em finais de 2022, foi relançada a discussão sobre inteligência artificial. Falamos de machine learning, a verdadeira capacidade das máquinas aprenderem, ou de inteligência artificial generativa, ou seja, a partir de algoritmos é possível criar algo, seja uma imagem a partir de um texto ou modelos avançados de linguagem que nos dão respostas a questões complexas.
A revolução dos algoritmos: passado, presente e futuro da Inteligência ArtificialSão criadas as redes neuronais, com os cientistas a tentar replicar em laboratório, dentro das máquinas, através dos algoritmos, a dinâmica de um cérebro humano.
“Funciona com uma arquitetura complexa de múltiplos neurónios espalhados, uma quantidade infindável de pequenas unidades, que fazem pequenos processos como se fossem um computador”, refere o neurocientista Bruno Miranda, que investiga o que nos vai na cabeça com apoio da inteligência artificial. “O que já se percebeu é que, realmente, tem poder computacional. O que é que isto quer dizer? Tem, realmente, a possibilidade de fazer uma previsão de múltiplos passos à frente que às tantas o cérebro humano tem dificuldade em continuar”, diz
“Vai-nos ajudar a criar desafios de como conseguimos estudar todo o processo da consciência. Eu acho que devemos aproveitar estas oportunidades para trazer alguns temas que se calhar até estavam afastados da neurociência, para criarmos novas maneiras de olharmos para o cérebro. E sobretudo focarmo-nos em aprendermos mais do que é que nós somos, do que é que o cérebro é”, acrescenta.
O peso da consciênciaE é claro, que tudo isto, tem vindo a levantar várias questões, nem sempre consensuais. No início de 2023, depois de o mundo despertar para o efeito do Chat GPT, Geoffrey Hinton colocou à disposição o lugar que tinha na Google. Considerado o padrinho da inteligência artificial, preocupado com o impacto destes avanços, decidiu lançar vários avisos a quem navega nestes mares ainda desconhecidos: “A partir do momento em que estas coisas começarem a criar alguns objetivos, a serem muito inteligentes, elas vão-se aperceber, se tiverem mais controlo, podem ter noção dos seus objetivos mais facilmente. E quanto tiverem controle, as coisas vão começar a ficar piores para as pessoas”, referiu o cientista de computação, numa das várias entrevistas que deu.
A revolução dos algoritmos: passado, presente e futuro da Inteligência ArtificialUma das questões passa pela consciência, até que ponto podem ir as máquinas, o que poderemos deixar que elas sejam e naquilo que se podem tornar. É preciso relembrar que em causa estão mecanismos alimentados com dados. E quanto mais variados, em termos de quantidade e diversidade, melhor o algoritmo e mais aprumada será aquela ferramenta de inteligência artificial.
“A partir do momento em que estas coisas começarem a criar alguns objetivos, a serem muito inteligentes, elas vão-se aperceber, se tiverem mais controlo, podem ter noção dos seus objetivos mais facilmente. E quanto tiverem controle, as coisas vão começar a ficar piores para as pessoas”, diz à SIC Paulo Castro, especialista em Filosofia da Ciência. Sublinha que existe uma “preocupação tremenda de que essas IA , desses sistemas, que são tão sofisticados que podem, facilmente, sair do controle humano ou serem, por lapso, não se verem as consequências previsíveis, ou serem utilizadas por grupos maliciosos, para o que quer que seja”.
O risco dos enviesamentosE de regresso aos dados. Há o risco dos enviesamentos. A forma como podem, de alguma maneira, levar a que sejam tomadas decisões preconceituosas, os chamados enviesamentos. “Nós sabemos que a nossa sociedade é enviesada, nós sabemos que há problemas, e criámos a ilusão de que, usando dados de uma sociedade enviesada, conseguimos criar modelos neutros. E que o modelo é menos enviesado do que a sociedade. E não temos razão nenhuma para pensar que isso é verdade. Pelo contrário”, sublinha Joana Gonçalves de Sá.
A revolução dos algoritmos: passado, presente e futuro da Inteligência ArtificialEm todo o mundo, o valor de mercado da inteligência artificial rondava os 125 mil milhões de euros em 2022. No ano seguinte atingiu os 180 mil milhões e deverá continuar a crescer na ordem dos 40% por ano, até 2030. Para já, na dianteira desta locomotiva estão os Estados Unidos e a China. Quanto à Europa tem vindo a focar-se, mais que tudo, na regulamentação.
Será a primeira, a nível mundial e será um marco em todo este processo. De Bruxelas vão sair quatro níveis de risco: inaceitável, elevado, limitado e mínimo. As instituições europeias prometem ser rigorosas no acompanhamento de cada um dos produtos alimentados pela Inteligência Artificial. E não só, esta mesma exigência terá em conta os dados que alimentam as máquinas, que até aqui têm estado concentrados nos gigantes tecnológicos.
O risco dos enviesamentosConfiar no algoritmo para tomar decisões complexas pode conduzir ainda é um risco, seja no mundo do emprego ou até mesmo na justiça. E neste caso, em Portugal, ainda se está a tentar perceber que caminho se deve seguir. Há grupos de reflexão e algumas certezas em cima da mesa, entre elas as especificidades que diferenciam cada um dos tribunais. Mas há um ponto que começa a ficar bastante claro: o fator humano é imprescindível.
Não se retira desta equação o papel do juiz, podendo a inteligência artificial ajudar na parte da burocracia. E é esta a ideia que ganha forma em diferentes quadrantes da investigação relacionada com este avanço tecnológico. Permitir a cada um ter mais tempo e permitir que as máquinas consigam dar apoio nas variáveis mais burocráticas da sociedade.
O peso da IAEm Portugal, existe a estratégia nacional de inteligência artificial, publicada em 2019, com horizonte até 2030. Pretende promover a investigação e a inovação nesta área. Em 2022 (dados do INE), menos de 8% das empresas usava inteligência artificial. No ano seguinte, um estudo independente mostrava que 35% tinha já integrado esta tecnologia. Até ao final da década, o impacto económico da inteligência artificial poderá atingir os 61 mil milhões de euros.
O futuro do trabalhoO que se segue, é incerto. Estão a ser feitas investigações através da Inteligência Artificial para se conseguirem diagnósticos precoces de cancro no pulmão. Exemplo disso é o trabalho que está a ser desenvolvido no Hospital de São João, no Porto. Há os desafios colocados na educação, entre o proibir ou abraçar ferramentas como o Chat GPT. E até na agricultura, com estas novas tecnologias a desenharem um esboço do que poderemos ter no futuro, num equilíbrio constante com a biodiversidade e proteção da natureza.
Pedro Domingos, professor emérito na Universidade de Washington, investigador nesta área envolvido em algumas discussões mais polémicas sobre o tema, acredita que ainda estamos no início: “Se o caminho, desde a inteligência zero, até à inteligência humana são mil quilómetros, nós percorremos talvez uns 10. Dez quilómetros já é muita coisa, é muito progresso, mas faltam ainda 990 para se chegar à inteligência humana”, refere.
A questão “não é quando é que os algoritmos vão atingir a inteligência humana, porque não vai haver um momento único em que isso acontece”, aponta. “Vai chegar a uma altura em que eles fazem tudo melhor que nós, eu penso que sim, mas é muito difícil prever se isso vai ser daqui a 10 anos, ou cem ou mil”.Fonte