Nada mais pertinente do que falar sobre a inteligência artificial (IA) e seus impactos na prática educacional, visto que ela provoca alterações profundas na forma como se interage com dados e informações em meio digital. Trata-se de um tema muito recente e complexo, e por isso um terreno incerto, mas é urgente conhecer e dialogar para que possamos lidar com as mudanças que podem ser antecipadas.

É importante retomar alguns pontos sobre o tema da IA, que não é novo, mas que vem sofrendo grandes transformações nas últimas décadas. Dora Kauffman1, professora da PUC-SP, em seu livro Desmistificando a inteligência artificial, fala sobre o papel da IA em nossa relação com a informação, já que o acesso à informação é base para a tomada de decisão. Esta relação, que se dá atualmente, em grande parte, via meio digital e tem impacto sobre nossas possibilidades de escolha, sofre mudanças estruturais com a IA. Estas mudanças ocorrem principalmente devido às bases de dados atualmente usadas por estes recursos e pela forma como a informação é apresentada.

A relação do ser humano com o digital é determinada pelos filtros aos quais estamos sujeitos, pelos algoritmos empregados e pelas empresas que detêm os dados e controlam o acesso à informação. A IA é hoje um modelo estatístico de probabilidade e que deveria ser usado como apoio à decisão em áreas sensíveis, dentre elas a medicina e a educação. A IA pode ameaçar as democracias, na adoção ou na ausência de adoção dessas tecnologias; através da desinformação em larga escala, favorecendo a polarização, na disseminação de conteúdos tendenciosos e através da vigilância/transparência na manipulação de nossos rastros digitais.

O ChatGPT (Chat Generative Pre-trained Transformer) e recursos similares da IA Generativa trazem uma grande mudança na relação que estabelecemos com os dados. Primeiramente porque a interação com a máquina se assemelha com a comunicação humana, o que dá uma sensação maior de proximidade, mas também oferece um potencial muito maior de disseminação de informação falsa e tendenciosa. O volume de dados a que o recurso tem acesso é enorme e está crescendo exponencialmente. A grande diferença entre o ChatGPT e um mecanismo de busca como o Google é que ele reconstrói a informação a partir de algoritmos treinados por humanos, que por sua vez consultam enormes bases de dados. A ‘inteligência’ de concatenar palavras e dar sentido ao texto foi e está sendo treinada atualmente por milhões de usuários.

Na educação, a questão principal é como podemos abordar este tema na escola e como podemos interagir com esta tecnologia, acompanhando este movimento bastante acelerado do avanço tecnológico. O ponto não é se a IA será usada ou não na escola; já estamos usando recursos do tipo há muito tempo. Mais uma vez, como todas as tecnologias digitais que são rapidamente e amplamente adotadas pela sociedade, é preciso conhecer, aprender, comparar e analisar, para que possamos ponderar sobre seus impactos, seus possíveis usos, seus riscos e desafios.

Rose Lurkin2, professora da University College London, UCL, defende a abertura da caixa preta de temas como aprendizagem de máquina e a IA, sugerindo a oferta de atividades junto aos estudantes com o objetivo de aproximá-los destes conceitos. Ela afirma que os educadores podem ajudar os futuros alunos a superarem os robôs e nos convida a entender melhor a inteligência humana e como ela se diferencia da 'inteligência' da máquina. Há vários exemplos de como propor atividades de construção de um modelo de aprendizagem de máquina para crianças e jovens, um deles é o site Machine Learning for Kids, que usa o Scratch (linguagem de programação do MIT, acessível para crianças de todas as idades).

Os professores Bill Cope e Mary Kalantzis3, da Universidade de Illinois, EUA, propõem o conceito de inteligência ciber-social, através do qual máquinas e humanos trabalham juntos em uma relação colaborativa e transparente. Eles estão construindo interfaces de avaliação da produção de seus alunos de graduação e pós-graduação, com base no ChatGPT, com o objetivo de apoiar a comunicação, a aprendizagem e a produção reflexiva em seus cursos. Eles reforçam a urgência de se avançar na análise da relação homem-máquina considerando a IA e o cenário atual.

Diante de tantas publicações com uma diversidade de aplicações na educação, ressalto a interação dos professores e estudantes com o ChatGPT de algumas maneiras como:

  1. Na avaliação da qualidade das perguntas (prompts) realizadas para se obter determinada informação; na iteração, ou seja, no processo contínuo de tentativa/erro/acerto/aprimoramento;
  2. Na exploração do ChatGPT como apoio para o desenvolvimento de programação para a criação de peças interativas e jogos, utilizando linguagem natural;
  3. Na síntese e comparação de textos, na criação de histórias a partir de personagens específicos e na consulta para a ampliação de ideias;
  4. Na verificação das fontes consultadas. É importante dizer que já recebi muita informação errada em consultas realizadas;
  5. Na análise de quais são as limitações deste recurso, se a informação fornecida é correta ou não, para que também os estudantes possam dimensionar melhor a potencialidade de uso como ferramenta.

O convite é para que os educadores se apropriem e possam avançar rapidamente da reflexão sobre os impactos desta tecnologia. São muitos os riscos e desafios diante deste avanço. A qualidade do conteúdo gerado pelo recurso, a confiabilidade das bases de dados usadas, a capacidade ainda maior de amplificar notícias falsas e reforçar preconceitos por simular um ser humano, os recursos humanos envolvidos no treinamento do algoritmo e as relações de trabalho abusivas já denunciadas nos veículos de comunicação, além de questões relacionadas com a sustentabilidade.

O consumo de energia necessário para todo o processamento da IA, a obsolescência programada dos equipamentos tecnológicos, são alguns dentre muitos outros desafios. São grandes as consequências éticas, morais e sociais diante deste fenômeno. Yuval Harari4 nos lembra que o poder está nas mãos de quem tem acesso e controla o nosso acesso aos dados.

Em suas últimas publicações, ele analisa a chamada ascensão das ditaduras digitais e a importância do processamento distribuído, visto que hoje ele é restrito a poucas empresas de tecnologia; ele chama a atenção para a necessidade de regulamentação da IA através de amplo debate sobre ética, transparência, responsabilidade, confiabilidade e justiça no acesso, manipulação e distribuição de dados.

Quando se aborda então a educação digital na escola, precisamos dar um salto visando a reflexão sobre nossa relação com os ambientes virtuais, com as redes sociais que usamos cotidianamente, com a inteligência artificial e seus impactos sociais, morais, éticos e culturais. Dessa forma, talvez possamos estar melhor preparados para lidar com os limites e possibilidades da relação homem-máquina e para que possamos pensar em futuros mais sustentáveis e com maior equidade no acesso à informação.

Notas

1 Kauffman, Dora. Desmistificando a inteligência artificial. São Paulo: Novatec Editora, 2021.
2 Luckin, Rose. Is education ready for artificial intelligence? [Palestra em vídeo]. In: Cambridge Summit of Education, 2019.
3 Cope, Bill; Kalantzis, Mary. Artificial Intelligence in the Long View: From Mechanical Intelligence to Cyber-social Systems. Discover Artificial Intelligence, [S.l.], v. 2, n. 13, p. 1-18, 2022.
4 Harari, Yuval Noah. 21 lições para o século 21. São Paulo: Companhia das Letras, 2018.