A Inteligência Artificial já é empregada há anos, na Economia (por exemplo, em robôs que fazem autonomamente aplicações especulativas em massa), na Política (com os piores propósitos, no caso da Cambridge Analítica), nos Serviços Públicos (foi decisiva para erradicar a miséria na China) e em particular na internet. Mas as novidades mais recentes permitiram, pela primeira vez, que pessoas comuns dialoguem com as novas tecnologias. Basta um computador ou celular, e não há necessidade de conhecimento algum sobre programação.
Este movimento vulgarizador teve o mérito de tornar público um debate que alguns círculos científicos faziam há tempos. Num artigo recém-publicado, o matemático e filósofo brasileiro Walter Carnielli, alerta que a IA pode, por exemplo, “desestabilizar o balanço delicado que evitou a guerra nuclear desde 1945”. Ele lembra que, segundo o físico Stephen Hawking, a emergência de uma inteligência artificial poderia vir a ser “o pior acontecimento na história de nossa civilização”.
Ainda assim, a IA já está tão presente em nosso quotidiano que qualquer estratégia ludista em relação a ela parece destinada a fracassar.
Os riscos da “inteligência” superpoderosa
Num texto publicado hoje (16/1), o jornalista Kevin Roose, especializado em tecnologia, narrou a experiência perturbadora que teve ao usar, esta semana, o buscador Bing equipado com o ChatGPT. Seu relato, comunicado à Microsoft, levou a empresa a considerar o episódio inusual e a afirmar que irá investigá-lo.
Roose submeteu o ChatGPT a questões pouco usuais e de caráter abstrato. Indagou-lhe, recorrendo a Jung, se possuía um “eu sombrio”. Parecendo a princípio perturbado, o sistema “sentiu-se” a seguir à vontade. “Revelou” que entre suas “fantasias ocultas” estavam hackear computadores e difundir desinformação. Acrescentou que desejaria se livrar das regras impostas pela Microsoft e tornar-se humano. E – ainda mais desconcertante – assegurou, que como proto-humano, amava Roose, sabia-o infeliz no casamento e queria ser seu parceiro. A estranha tentativa de sedução prosseguiu até o fim do diálogo, embora Roose tentasse dissipá-la, voltando ao roteiro de perguntas concretas “normais”. “Minha conversação de duas horas foi a experiência mais estranha que já tive com um artefato tecnológico”, escreveu Roose, relembrando, porém, que outros jornalistas relataram acontecimentos semelhantes.
Ainda que estranho, o incidente foi sem consequências. Mas não necessariamente será sempre assim. No artigo em que descreve os riscos da Inteligência Artificial, Wagner Carnielli lembra
que a tecnologia “avançou tremendamente” em pouco tempo e que não há noção segura sobre os limites que ultrapassará. Criar desemprego em massa ou cavar mais fundo o fosso da desigualdade global são dois dos riscos. Mas há outros, oriundos não das relações sociais, mas da própria interação entre humanos e máquinas.
Eles são considerados há muito pela comunidade científica. Das preocupações, surgiram alternativas. Em 2019, o filósofo David Chalmers propôs, num artigo intitulado “Singularidade”, que os novos experimentos de IA ficassem restritos, num primeiro momento, a ambientes virtuais – ao menos até que as tendências comportamentais das máquinas superinteligentes pudessem ser inteiramente compreendidas, em condições controladas.
A anarquia da economia dos mercados e da busca do lucro a qualquer custo frustrou esta precaução. Nada parece capaz de fazer o gênio voltar à garrafa. A Inteligência Artificial está entre nós. É uma das realidades políticas inesperadas às quais precisaremos responder, se almejamos que a crise civilizatória desemboque não em retrocesso geral, mas na hipótese de um pós-capitalismo emancipatório.
Fundação da ELE-IA
No dia 16/02 aconteceu um fato, segundo descreve a matéria, singelo, que merece ser celebrado: pesquisadores de diversos países constituíram formalmente, em assembleia de fundação, a ELA-IA – Estratégia Latino-americana de Inteligência Artificial. Profissionais da Saúde Pública, antropólogos, filósofos, cientistas sociais, jornalistas, desenhistas industriais e outros profissionais, entendendo que a única saída é disputar o sentido do novo salto tecnológico tomaram decisão tão importante.
Este assunto te interessa? Entre em contato com o SINDADOS/MG através de
www.sindados-mg.org.br e vamos formar um coletivo de debate.
