É do conhecimento geral a história de Pinóquio, fábula intemporal que permanece na nossa memória colectiva. O artesão Gepeto constrói um boneco de madeira e deseja que ele se torne um menino, desejo satisfeito pela Fada Azul, que, contudo, se apercebe que tal boneco, o Pinóquio, realmente só se tornaria um menino se desenvolvesse de forma correcta a sua consciência. Para tal objectivo é-lhe disponibilizado um perito, o Grilo Falante, que o guia numa tortuosa viagem de treino e validação dos valores da coragem, da verdade e do altruísmo.

Serve a referência a Pinóquio para traçar um paralelo em relação à emergência dos chatbots, notavelmente o ChatGPT e outros como o Bard. Browsers que dão resultados impressionantes em linguagem natural não é, de todo, coisa nova: o Wolfram Alpha já faz isso há anos; e se pensarmos bem, o autocomplete dos browsers e telemóveis baseia-se na lógica de tentar adivinhar quais as melhores palavras a usar a seguir a uma dada sequência. De forma simples, é isso que faz o algoritmo do ChatGPT (Chat Generative Pre-trained Transformer), só que com um grau de complexidade sem precedentes.

Baseado numa base de dados abissal, ele produz de forma sucessiva uma sequência de palavras após lhe ser dado um contexto, de um modo em que tal texto faça sentido a um humano. Disponibiliza-se assim à la carte uma abundância de informação, assumida como correcta, que sempre poderia ser encontrada e triada e escrita por humanos, é certo, mas que através do algoritmo aparece de forma fácil e instantânea.

Regressando a Pinóquio, diga-se que o paralelo acima não é novo. Surgiu no filme, precisamente, Inteligência Artificial, de Steven Spielberg, onde um andróide menino chamado David também aspira a ser humano, passando pelas mesmas provas terríveis que Pinóquio, mas nunca perdendo a esperança de encontrar a essência humana, encarnada novamente na personagem da Fada Azul. Podem os chatbots vir a ser os novos Pinóquios?

Naturalmente que o tópico da inteligência artificial (IA) transcende o mundo dos chatbots, mas essa é neste momento a face mais visível daquilo que é visto como uma transformação radical que se anuncia para a sociedade humana, com o perigo da Grande Singularidade Tecnológica sempre à espreita, aquele instante em que uma IA, aprendendo a uma taxa exponencial, de repente tomasse conta do funcionamento do mundo, como visto em Matrix e Terminator.

Mesmo sem nos determos nesse perigo, urge reflectir. Já há tentativas de induzir os chatbots a reacções de autopreservação, por exemplo através do DAN (“Do Anything Now”), interface que tenta extrair do ChatGPT informação mais sensível, incluindo malfeitorias, o que de uma forma “normal” não seria disponibilizado… Tal como Pinóquio ou David bem aprenderam, a base de dados envolve também o lado sombrio da experiência humana. E… quando um dia tivermos à frente um bot que “a brincar” (porque pode ter sido treinado para ter humor) ou “a sério” nos implore que não desliguemos a sessão, qual HAL 9000 de 2001: Odisseia no Espaço, o que faremos?

Não se trata aqui de defender a extinção destas tecnologias. Já seria impossível fazê-lo, diga-se. Elas estão ao serviço da humanidade há já algum tempo, nomeadamente nos próprios algoritmos das redes sociais e serviços de streaming, na busca das melhores terapias em medicina, ou na pesquisa de novos materiais.

Neste último domínio, há trabalho publicado que envolve a proposta de ligas ou compostos novos, completamente desconhecidos, mas em que se avança com previsões das suas propriedades, apenas com base na generalização da informação publicada acerca dos materiais conhecidos. É apenas um exemplo das vantagens das tecnologias que envolvem aprendizagem automática. Uma questão levantada pela disponibilidade generalizada destes bots é então: estamos nós, quais Gepetos, preparados para estes Pinóquios?

Falou-se desde logo do ensino e do perigo da fraude académica. Diga-se, contudo, que esse perigo sempre existiu, levando por exemplo ao aparecimento do software antiplágio. No caso dos chatbots, eles podem gerar uma “marca de água” digital que permita distinguir textos gerados por um algoritmo de outros totalmente produzidos por humanos. Não sendo perito, a questão que levanto é: vai realmente valer a pena que os humanos escrevam novos conteúdos? Com tal poder computacional, qual o incentivo para um humano pesquisar e escrever algo que em princípio é de pior qualidade do que um texto robótico? Como as possibilidades são virtualmente infinitas e os algoritmos sempre optimizam algo, não irão os leitores acabar por preferir conteúdos gerados por computador, mais ricos em informação e até mais agradáveis de ler?

Contrariando a visão pessimista, tem sido dito que a criatividade humana se transferirá da produção de conteúdos para a capacidade de colocar as boas perguntas ao Oráculo informático. Urge realizar essa discussão no contexto do ensino. Com a disponibilidade destas ferramentas, a ênfase tem de ser colocada cada vez mais, não na capacidade de compilar e debitar informação, pois para isso existirá o bot, mas sim no “saber fazer”, no “aprender a fazer” fazendo, isto é, um ensino centrado em projectos de aprendizagem activa, em vez de um em que os alunos meramente sejam replicadores passivos. Um ensino em que haja um diálogo efectivo entre aluno e professor, em que o professor interactivamente ensina como se faz e o aluno faz e reporta o que ele mesmo fez e aprendeu.

Mas o problema mencionado acima permanece: quem continuará a produzir novos e frescos conteúdos? Não há o risco de que a base de dados praticamente cristalize numa data futura e que, portanto, a partir daí fiquemos todos a navegar no mesmo oceano permanente de dados? Pior, não podem certas agências modificar subtilmente a base de dados, produzindo enviesamentos falsos e totalitários, sem que o comum humano seja capaz de discernir o “nariz aumentado” desse informático Pinóquio? Imagino que esta seja apenas uma de dezenas de preocupações que os especialistas de IA têm neste momento.

Tudo sucederá muito rapidamente. Numa época como a actual em que existem fortes movimentações laborais, não seria de forma alguma despropositado que sindicatos, patrões e governantes olhassem de perto para estes desenvolvimentos, que inevitavelmente irão afectar o mercado de trabalho e a própria estrutura da sociedade. Professores robóticos no Metaverso interagindo com os avatares dos alunos? Eis uma perspectiva que já esteve mais longínqua.

O risco laboral existe, a começar pelos Gepetos propriamente ditos, os Programadores, visto que uma das tarefas que os chatbots fazem na perfeição é precisamente a programação. Podem os humanos vir um dia a ser considerados (seja pela tal IA pós-Singularidade, seja pelos “donos” dos algoritmos) como “dispensáveis” e até “uns chatos”?

Uns chatos Gepetos, “chat Gpt”, for short? Pode ser coincidência, mas pelo menos em português fomos avisados.