As máquinas podem agora aprender capacidades que há poucas décadas pareciam reservadas aos seres humanos, mas um dos homens que contribuiu decisivamente para tornar isto possível está agora convencido de que devemos perguntar-nos o que acontecerá quando essas máquinas forem melhores do que nós em muitas áreas. Geoffrey Hinton não é um observador qualquer.
É um dos investigadores que ajudaram a fixar as bases das actuais redes neuronais e, juntamente com John Hopfield, foi premiado com o Nobel da Física em 2024. Agora, a sua principal preocupação já não é apenas tornar a inteligência artificial mais inteligente, mas descobrir como convivermos com ela.
Numa longa conversa com Steven Bartlett em The Diary of a CEO, Hinton traça um futuro repleto de contradições: avanços médicos e educativos extraordinários convivem com desemprego, manipulação política, ciberataques, armas autónomas e sistemas cuja inteligência poderá vir a ultrapassar largamente a nossa. Ele não diz que o desastre seja inevitável, mas que estamos a desenvolver uma tecnologia extraordinariamente poderosa, sem sabermos como controlá-la completamente.
O conselho laboral mais inesperado de Hinton
O que deverá estudar alguém que inicie agora a sua carreira profissional? A resposta de Hinton é tão simples como desconcertante: aprender um ofício como canalização.
Não se trata de uma cruzada contra a universidade. O seu raciocínio aponta para uma diferença fundamental entre o mundo digital e o físico. Os actuais sistemas de IA conseguem ler, escrever, resumir documentos, programar, analisar informação e executar algumas tarefas intelectuais com enorme velocidade. Manipular fisicamente um ambiente imprevisível continua a ser muito mais complicado.
Daí que Hinton considere particularmente vulneráveis vários trabalhos realizados em frente a um computador. O paradoxo é notável: durante décadas, pensámos que as máquinas substituiriam primeiro o esforço físico e deixariam a salvo o intelectual; agora, a IA generativa está a obrigar-nos a reconsiderar essa ideia.
Também não significa que todos os profissionais venham a desaparecer de hoje para amanhã. Uma primeira consequência pode ser que, assistida por IA, uma pessoa consiga fazer um trabalho que antes necessitava de várias pessoas. Isto significa um aumento da produtividade, mas dá origem a outra pergunta: quem fica com essa riqueza?
Hinton teme que os benefícios económicos da revolução tecnológica possam concentrar-se de uma forma extraordinária. Uma IA capaz de multiplicar a produtividade pode criar muito mais riqueza e, simultaneamente aumentar a desigualdade se essa riqueza ficar em poucas mãos.
Dos ciberataques à manipulação
Hinton estabelece uma separação fundamental entre duas famílias de ameaças. Num lado, as que aparecem quando os seres humanos utilizam a inteligência artificial com fins danosos. No outro, o cenário é muito mais incerto: máquinas que um dia sejam consideravelmente mais inteligentes do que nós.
As primeiras já são reconhecíveis. A IA pode facilitar campanhas de desinformação, falsificações, fraudes ou ciberataques e possibilitar que uma operação que antigamente exigia determinados conhecimentos técnicos, fique ao alcance de muito mais pessoas.
A capacidade de persuasão preocupa particularmente Hinton. Uma máquina que conhece enormes quantidades de informação, que aprende os argumentos que funcionam e pode conversar individualmente com milhões de pessoas, dispõe de uma ferramenta que não se assemelha à propaganda tradicional.
A isto juntam-se as armas autónomas. Há anos que Hinton refere o perigo representado por sistemas capazes de escolher objectivos e agir com um nível crescente de autonomia. Nesse cenário, o problema é a máquina “rebelar-se”: basta que uma pessoa decida utilizá-la contra outra.
É aqui que se surge uma das contradições que pontuam toda a sua reflexão. A humanidade dificilmente renunciará à inteligência artificial porque as suas aplicações potencialmente benéficas são demasiado importantes.
Hinton espera enormes avanços na medicina, na educação e na ciência. Sistemas capazes de encontrar padrões invisíveis para nós poderão acelerar diagnósticos, descobertas farmacológicas e novas formas de ensino personalizado. A mesma tecnologia que cria riscos extraordinários pode tornar-se uma das ferramentas científicas mais poderosas criadas pela nossa espécie.
Por isso, comparar a IA com a bomba atómica também tem as suas limitações. Uma arma nuclear possui essencialmente uma função destrutiva. A inteligência artificial pode infiltrar-se em praticamente qualquer actividade baseada em informação. Travá-la por completo implica também renunciar a muitas das suas possíveis vantagens.
O problema que mais inquieta Hinton
Existe, porém, uma pergunta mais profunda. O que acontecerá se construirmos sistemas que não sejam apenas melhores na execução de determinadas tarefas, mas mais inteligentes do que os seres humanos em geral? É aqui que Hinton reconhece algo essencial: ninguém conhece a resposta.
A entrevista coloca as opiniões existentes em extremos radicalmente diferentes. Alguns investigadores consideram que manteremos o controlo porque podemos desenhar sistemas obedientes, enquanto outros defendem que uma superinteligência representaria um perigo existencial praticamente inevitável.
Hinton não adopta nenhuma dessas posições extremas. Já mencionou em diversas ocasiões que as suas estimativas pessoais sobre o risco de extinção são cerca de 10-20%, mas realça que não resultam de um cálculo científico capaz de definir essa probabilidade, mas de uma apreciação intuitiva de um fenómeno sem precedentes.
Essa nuance é fundamental. Não existe uma experiência histórica que permita calcular o que acontece quando uma espécie cria outra forma de inteligência superior a ela. Estamos a tentar atribuir probabilidades a um acontecimento inédito. A sua preocupação também parte da diferença entre cérebros e máquinas. O conhecimento humano transmite-se lentamente através da linguagem, do ensino e da cultura. Os sistemas digitais podem copiar parâmetros e informação de diferentes entidades com uma facilidade radicalmente diferente.
Uma inteligência digital pode, então, beneficiar de uma propriedade que a nossa inteligência biológica não possui na mesma medida: aquilo que uma máquina aprende pode propagar-se e replicar-se a velocidades extraordinárias. Significa isso, necessariamente, que escapará ao nosso controlo? Não. E é precisamente aí que reside a parte menos espectacular, mas provavelmente mais importante da mensagem de Hinton.
Há que investigar como construir sistemas que, mesmo sendo extremamente capazes, mantenham objectivos compatíveis com os interesses humanos. A questão decisiva do século XXI talvez não seja quanto poderemos aumentar a inteligência das máquinas, mas se aprenderemos a fazê-lo antes de o seu poder ultrapassar a nossa capacidade de governá-las.
Hinton dedicou uma boa parte da sua vida a demonstrar que as redes neuronais podem aprender. Conseguiu fazê-lo quando muitos duvidavam dessa ideia. Décadas mais tarde, contempla o resultado com uma mistura extraordinária de fascínio e preocupação. A ironia é quase literária: um dos homens que ajudou a ensinar as máquinas a aprender dedica agora os seus esforços a pedir-nos que aprendamos a conviver com elas.
Sem comentários:
Enviar um comentário