O ChatGPT continua sendo o assunto do momento

por Helena Andrade Mendonça

Nada mais pertinente do que falar sobre ChatGPT e seus impactos na prática educacional, visto que ele provoca alterações profundas na forma com que interagimos com dados e informações em meio digital. Trata-se de um tema muito recente e complexo, e por isso um terreno incerto, mas é urgente conhecer e dialogar para que possamos lidar com as mudanças que podem ser antecipadas. 

É importante retomar alguns pontos sobre o tema da inteligência artificial (IA), que não é novo, mas que vem sofrendo grandes transformações nas últimas décadas. Dora Kauffman, professora da PUC-SP, em seu livro ‘Desmistificando a inteligência artificial’, fala sobre o papel da IA em nossa relação com a informação, já que o acesso à informação é base para a tomada de decisão. Esta relação, que se dá atualmente, em grande parte, via meio digital e tem impacto sobre nossas possibilidades de escolha, sofre mudanças estruturais com a IA. Estas mudanças ocorrem principalmente devido às bases de dados atualmente usadas por estes recursos e pela forma como a informação é apresentada. Além disso, a relação do ser humano com o digital é determinada pelos filtros aos quais estamos sujeitos, pelos algoritmos empregados e pelas empresas que detém os dados e controlam o acesso à informação. A professora afirma que a IA é hoje um modelo estatístico de probabilidade e que deveria ser usado como apoio à decisão em áreas sensíveis, dentre elas a medicina e a educação. Ela também ressalta que a IA pode ameaçar as democracias, na adoção ou na ausência de adoção dessas tecnologias; através da desinformação em larga escala, favorecendo a polarização, na disseminação de conteúdos tendenciosos e através da vigilância/transparência na manipulação de nossos rastros digitais.

O ChatGPT (Chat Generative Pre-trained Transformer) traz uma grande mudança na relação que estabelecemos com os dados. Primeiramente porque a interação com a máquina se assemelha com a comunicação humana, o que dá uma sensação maior de proximidade, mas também oferece um potencial muito maior de disseminação de informação falsa e tendenciosa. O volume de dados a que o recurso tem acesso é enorme e está crescendo exponencialmente. A grande diferença entre o ChatGPT e um mecanismo de busca como o Google é que ele reconstrói a informação a partir de algoritmos treinados por humanos, que por sua vez consultam enormes bases de dados. A ‘inteligência’ de concatenar palavras e dar sentido ao texto foi e está sendo treinada atualmente por milhões de usuários. Muitas plataformas e aplicativos estão sendo construídos com base na estrutura do ChatGPT e outras empresas de tecnologia estão correndo para lançar recursos correlatos.

Na educação, a questão principal é como podemos abordar este tema na escola e como podemos interagir com esta tecnologia, acompanhando este movimento bastante acelerado do avanço tecnológico. O ponto não é se a IA será usada ou não. Já estamos usando recursos do tipo há muito tempo. Mais uma vez,  como todas as tecnologias digitais que são rapidamente e amplamente adotadas pela sociedade, é preciso conhecer, aprender, comparar e analisar, para que possamos ponderar sobre seus impactos, seus possíveis usos, seus riscos e desafios. Rose Lurkin, professora da University College London, UCL, defende a abertura da caixa preta de temas como aprendizagem de máquina e a IA, sugerindo a oferta de atividades junto aos estudantes com o objetivo de aproximá-los destes conceitos. Ela afirma que os educadores podem ajudar os futuros alunos a superarem os robôs e nos convida a entender melhor a inteligência humana e como ela se diferencia da ‘inteligência’ da máquina. Há vários exemplos de como propor atividades de construção de um modelo de aprendizagem de máquina para crianças e jovens, um deles é o site Machine Learning for Kids (https://machinelearningforkids.co.uk/), que usa o Scratch (linguagem de programação do MIT, acessível para crianças de todas as idades).

Os professores Bill Cope e Mary Kalantzis, da Universidade de Illinois, EUA,  propõem o conceito de inteligência ciber-social, através do qual máquinas e humanos trabalham juntos em uma relação colaborativa e transparente. Eles estão construindo interfaces de avaliação da produção de seus alunos de graduação e pós graduação, com base no ChatGPT, com o objetivo de apoiar a comunicação, a aprendizagem e a produção reflexiva em seus cursos. Eles reforçam a urgência de se avançar na análise da relação homem-máquina considerando a IA e o cenário atual. 

Diante de tantas publicações com uma diversidade de aplicações na educação, ressalto a interação dos professores e estudantes com o ChatGPT de algumas maneiras como:

1- na avaliação da qualidade das perguntas (prompts) realizadas para se obter determinada informação; na iteração, ou seja, no processo contínuo de tentativa/erro/acerto/aprimoramento; 

2- na exploração do ChatGPT como apoio para o desenvolvimento de programação para a criação de peças interativas e jogos, utilizando linguagem natural; 

3- na síntese e comparação de textos, na criação de histórias a partir de personagens específicos e na consulta para a ampliação de ideias; 

4- na verificação das fontes consultadas. É importante dizer que já recebi muita informação errada em consultas realizadas.

5- na análise de quais são as limitações deste recurso, se a informação fornecida é correta ou não, para que também os estudantes possam dimensionar melhor a potencialidade de uso como ferramenta.

O convite é para que os educadores se apropriem e possam avançar rapidamente da reflexão sobre os impactos desta tecnologia. São muitos os riscos e desafios diante deste avanço. A qualidade do conteúdo gerado pelo recurso, a confiabilidade das bases de dados usadas, a capacidade ainda maior de amplificar notícias falsas e reforçar preconceitos por simular um ser humano, os recursos humanos envolvidos no treinamento do algoritmo e as relações de trabalho abusivas já denunciadas nos veículos de comunicação, além de questões relacionadas com a sustentabilidade. O consumo de energia necessário para todo o processamento da IA, a obsolescência programada dos equipamentos tecnológicos, são alguns dentre muitos outros desafios. São grandes as consequências éticas, morais e sociais diante deste fenômeno. Yuval Harari nos lembra que o poder está nas mãos de quem tem acesso e controla o nosso acesso aos dados. Em suas últimas publicações ele analisa a chamada ascensão das ditaduras digitais e a importância do processamento distribuído, visto que hoje ele é restrito a poucas empresas de tecnologia; ele chama a atenção para a necessidade de regulamentação da IA através de amplo debate sobre ética, transparência, responsabilidade, confiabilidade e justiça no acesso, manipulação e distribuição de dados.

Quando se aborda então a educação digital na escola, precisamos dar um salto visando a reflexão sobre nossa relação com os ambientes virtuais, com as redes sociais que usamos cotidianamente, com a inteligência artificial e seus impactos social, moral, ético e cultural. Dessa forma, talvez possamos estar melhor preparados para lidar com os limites e possibilidades da relação homem-máquina e para que possamos pensar em futuros mais sustentáveis e com maior equidade no acesso à informação.

 KAUFFMAN, Dora. Desmistificando a inteligência artificial. São Paulo: Novatec Editora, 2021.
 LUCKIN, Rose. Is education ready for artificial intelligence? [Palestra em vídeo]. In: CAMBRIDGE SUMMIT OF EDUCATION, 2019. Disponível em: https://www.cambridgeassessment.org.uk/insights/is-education-ready-ai-rose-luckin/. Acesso em: 06 abr. 2023.
 COPE, Bill; KALANTZIS, Mary. Artificial Intelligence in the Long View: From Mechanical Intelligence to Cyber-social Systems. Discover Artificial Intelligence, [S.l.], v. 2, n. 13, p. 1-18, 2022. DOI: https://doi.org/10.1007/s44163-022-00029-1.
 HARARI, Y. N. 21 lições para o século 21. São Paulo: Companhia das Letras, 2018.