O CEO da OpenAI, Sam Altman, convidou o escritor e jornalista norte-americano, Dave Eggers, a falar perante os funcionários da empresa e, fiel ao que tem sido o seu percurso, o autor não perdeu a oportunidade para tecer duras críticas à Intenligência Artificial enquanto tecnologia.
Eggers, conhecido sobretudo pelo romance “The Circle” de 2013 onde faz críticas à indústria tecnologia, declarou que os textos gerados pelo ChatGPT, o resultado é uma “colagem sem sentido” - argumentando que ninguém terá interesse em ler livros criados com Inteligência Artificial.
Contou Eggers ao Financial Times que estas críticas levaram Altman a convidá-lo para uma pequena palestra na OpenAI, uma oportunidade que aproveitou para afirmar que a Inteligência Artificial seria devastadora para toda uma geração de jovens.
“O efeito que o ChatGPT está a ter na vida dos educadores é catastrófico”, declarou Eggers. “Intencional ou não, tornaram a vida de todos os professores infinitamente mais difícil do que era há dois anos. Pensem nisso.Se os estudantes estão a usar [o ChatGPT] para escreverem, que é uma grande tragédia, nunca aprenderão a escrever. E a voz ser-lhes-á roubada. Nunca terão a capacidade para comunicarem as suas verdades e contarem as suas próprias histórias. E isso é silenciar uma ou duas gerações inteiras”.
A afirmação de Eggers deve ser classificada como um aviso preventivo contra a dependência cognitiva.
Ele não está necessariamente a prever o fim da civilização, mas sim a questionar se estamos dispostos a trocar a dificuldade (e a beleza) do pensamento humano pela conveniência (e esterilidade) da resposta algorítmica. É uma crítica que serve de "freio" necessário num momento de euforia tecnológica desmedida, lembrando-nos de que a tecnologia, se mal utilizada, pode tornar-nos espectadores, em vez de criadores.
Para além de Dave Eggers, o debate contemporâneo sobre os impactos profundos da Inteligência Artificial conta com vozes influentes que abordam o tema sob prismas filosóficos, sociais e científicos. O historiador Yuval Noah Harari, por exemplo, foca-se no perigo existencial da perda de agência cultural, argumentando que a IA é a primeira tecnologia da história capaz de criar conceitos, narrativas e arte de forma totalmente autónoma. Para Harari, ao dominar a linguagem, a tecnologia adquire a capacidade de "hackear" o sistema operativo da própria civilização, o que pode resultar na manipulação em massa e no colapso da confiança nas instituições democráticas. Numa linha de pensamento focada na natureza da mente e do conhecimento, o linguista Noam Chomsky adota uma postura cética quanto à suposta inteligência destes sistemas, classificando a IA generativa como uma forma de plágio de alta tecnologia. Chomsky defende que os modelos de linguagem funcionam apenas com base em correlações estatísticas e probabilidades, carecendo de uma compreensão real sobre a moralidade, a verdade ou as relações de causa e efeito, o que os afasta irremediavelmente da verdadeira capacidade de pensamento crítico e criatividade do ser humano.
Noutro espectro da crítica encontram-se os cientistas que ajudaram a construir as bases desta revolução tecnológica e que hoje manifestam profundos arrependimentos. Geoffrey Hinton, frequentemente apelidado de um dos padrinhos da IA devido ao seu trabalho pioneiro em redes neuronais, demitiu-se do seu cargo na Google para poder alertar o mundo livremente sobre os riscos iminentes da tecnologia. Hinton manifesta um temor genuíno de que a inteligência digital ultrapasse a biológica muito mais cedo do que a comunidade científica previa, criando cenários propícios para a disseminação descontrolada de desinformação e para o desenvolvimento de armas autónomas letais. Alinhado no ceticismo tecnológico, o pioneiro da realidade virtual Jaron Lanier critica a própria designação de Inteligência Artificial, considerando-a um mito comercial perigoso que mascara a realidade. Para Lanier, estes sistemas são, na verdade, ferramentas de colaboração social massiva que extraem e reconfiguram o trabalho de milhões de criadores humanos reais, alertando que a humanização das máquinas resulta inevitavelmente na desvalorização do esforço e da singularidade das pessoas.
Por fim, as correntes focadas na justiça social e na ética prática expõem os danos imediatos e palpáveis que a IA já está a causar no quotidiano. A investigadora Timnit Gebru, antiga líder da equipa de ética da Google, cunhou o termo papagaios estocásticos para descrever os grandes modelos de linguagem, demonstrando que estes sistemas se limitam a repetir padrões linguísticos de forma mecânica e sem consciência. Gebru e os seus pares alertam para o facto de estes modelos refletirem, amplificarem e perpetuarem os preconceitos raciais, de género e de classe já presentes nos dados históricos da internet, servindo os interesses financeiros de grandes monopólios tecnológicos enquanto prejudicam as populações marginalizadas. Assim, quer seja através do medo da obsolescência cognitiva partilhado por Eggers e Chomsky, do alarmismo existencial de Hinton e Harari, ou da denúncia política de Gebru e Lanier, o pensamento crítico atual converge na ideia de que a IA exige uma regulação urgente e uma reflexão profunda sobre os limites que a humanidade deve impor às suas próprias criações.
Relacionados:
