A discussão sobre os impactos da inteligência artificial na educação e na produção científica tem orientado a atuação do professor e doutor em Letras Marcos Rogério Martins Costa, docente da Universidade Estadual de Goiás (UEG) no Câmpus Nordeste, com sede em Formosa. Atento às transformações na área, o pesquisador levou o tema ao palco do TEDx Brasília, no final de fevereiro, onde apresentou a palestra “IA e escrita: estamos terceirizando nosso pensamento?”. O evento é vinculado à plataforma global TED (Tecnologia, Entretenimento e Design). 

Na apresentação, o professor propôs uma reflexão sobre os efeitos da inteligência artificial na escrita acadêmica, com ênfase na preservação do pensamento crítico, da autoria intelectual e da ética científica. 

Durante seu pós-doutorado no Instituto Nacional de Controle de Qualidade em Saúde (INCQS), da Fundação Oswaldo Cruz (Fiocruz), o docente investigou o letramento científico em vigilância sanitária e o uso da IA na produção textual acadêmica. Atualmente, desenvolve no Câmpus Nordeste da UEG o subprojeto “Inteligência artificial na formação docente: saberes digitais para a educação básica e o mundo do trabalho”, vinculado a um macroprojeto sobre educação e saberes na educação básica, coordenado pelo prof. Eleandro Adir Philippsen.

Além disso, Marcos Rogério articula a implementação da “Plataforma IA na Educação”, voltada ao apoio pedagógico para docentes e discentes, com a proposta de disponibilizar o recurso para a UEG. A iniciativa busca integrar ferramentas de IA ao ensino, à pesquisa e à extensão e conta com o apoio de colaboradores vinculados à startup “Escrita com Ciência”. O projeto já iniciou sua fase de implementação, com a estruturação das primeiras funcionalidades. "A plataforma reunirá um repositório de planos de ensino que utilizam IA, manuais e diversos conteúdos que hoje não são facilmente acessíveis, por estarem dispersos e organizados de forma pouco clara. Por se tratar de um campo ainda recente e em construção, essas informações permanecem fragmentadas dentro de diferentes áreas do conhecimento”, diz o professor.

O uso crítico da IA

A inteligência artificial tornou-se presença constante na educação e na pesquisa científica. Seu avanço não se restringe às possibilidades técnicas que oferece, mas traz discussões importantes sobre como o conhecimento é produzido, difundido e apropriado. Nesse contexto, o debate ultrapassa o campo da inovação e passa a incluir questões éticas, epistemológicas e pedagógicas.

Para o prof. Marcos Rogério, o ponto principal não está na adoção da tecnologia, mas na forma como ela é compreendida e incorporada pela academia e pela sociedade – o risco não está na existência da IA, mas em seu uso acrítico. "Do mesmo modo que a escrita não matou o processo de produção do conhecimento, como Platão temia, ou como dizia Sócrates. Aristóteles, por sua vez, acolheu a escrita como algo capaz de propagar o conhecimento. Tanto que a gramática e o estudo da língua se baseiam, em grande medida, em princípios aristotélicos”, ressalta. 

A comparação indica que toda tecnologia pioneira gera conflitos iniciais, muitas vezes associados ao medo de possíveis substituições. Com o tempo, porém, essas tecnologias são assimiladas e redefinidas, ampliando, e não extamente eliminando, capacidades humanas. "Assim como a máquina de escrever não deixou de existir com a chegada do computador, vemos hoje o vinil voltando com força no século 21. Isso mostra que as tecnologias não eliminam outras tecnologias. Podem, por vezes, torná-las obsoletas, mas não as extingue; elas transformam e ressignificam", afirma. 

O professor propõe, assim, uma inversão de perspectiva: além de perguntar o que a IA pode fazer pelo ser humano, é preciso questioná-la de forma crítica. "É o nosso papel, enquanto seres humanos, especialmente na academia, ressignificar o papel da IA, não como um componente de substituição da ação humana ou de aumento agressivo da produtividade, mas como um veículo entre as diversas possibilidades que temos à disposição para transformar a nossa realidade. Porque, afinal, o que é tecnologia? A tecnologia vem do grego techné, que significa ‘forma de fazer’. É a maneira de produzir e de realizar algo”, explica. “O papel, por exemplo, é uma tecnologia, e não é feito de parafusos. Foi graças a ele e à difusão proporcionada pela imprensa de Johannes Gutenberg que a produção do conhecimento se expandiu pela Europa e, posteriormente, pelo mundo”, completa.

Linha tênue entre apoio e apropriação

No campo científico, a discussão envolve diretamente a integridade da produção acadêmica. Embora a IA seja frequentemente apresentada como ferramenta de apoio, pode ultrapassar limites éticos quando substitui etapas fundamentais do processo intelectual. A ausência de diretrizes claras, segundo o professor, amplia essa confusão. “A primeira coisa que precisamos ter em mente é a necessidade de normatização do uso. Quando não há regras claras, o uso da IA tende a ficar ou proibido ou em um campo cinzento", afirma. 

No Brasil, o Projeto de Lei nº 2338/2023 – primeiro marco legal abrangente para IA – foi aprovado pelo Senado em dezembro de 2024 e segue em tramitação na Câmara dos Deputados, com discussões envolvendo diferentes ministérios, diante de impactos já observados em áreas como educação e  no sistema judiciário.

Segundo o professor, as universidades precisam avançar na regulamentação, como já fizeram instituições como a Universidade Federal da Bahia, a Universidade Federal do Ceará e universidades do Rio de Janeiro, que já estabeleceram diretrizes para sistematizar o uso. Alguns desses princípios já estão estabelecidos em documentos oficiais, como o Guia para a IA generativa na educação e na pesquisa, da Unesco. “Um deles é a citação. Se usou, é preciso citar”, enfatiza o prof. Marcos. 

A transparência, nesse contexto, não é apenas uma exigência formal, mas um elemento fundamental da ética científica. Informar o uso da IA na metodologia significa reconhecer que a produção do conhecimento envolve mediações tecnológicas, sem, no entanto, abdicar da autoria humana. O limite mais sensível, segundo o docente, está na produção de resultados, etapa que deve permanecer sob responsabilidade do pesquisador.

“Quem produz os resultados somos nós, seres humanos. O que a tecnologia pode fazer é auxiliar na apresentação e organização dos dados, como construção de tabelas, imagens e figuras. Não pode, de forma alguma, produzir os resultados. Esse é um consenso cada vez mais consolidado em diferentes comunidades científicas, não apenas no Brasil, mas também em países como Inglaterra, França e Alemanha. Diante dos dados, cabe ao pesquisador analisá-los, formular hipóteses e verificar se elas se confirmam ou não”, argumenta.

Segundo o professor, ao ultrapassar esse limite, não se compromete apenas a autoria, mas o próprio fundamento da ciência. “Se você pede para a IA produzir os resultados que caberiam ao pesquisador, retira o principal elemento do pensamento científico, que é a reflexão. E é preciso refletir de forma crítica. De Paulo Freire a Auguste Comte, passando por Aristóteles e Sócrates, há um entendimento comum de que o ser humano deve exercer a reflexão crítica", reforça o professor. 

Usos aceitáveis

A IA se insere em um contexto marcado pela aceleração e pela busca por produtividade. Nesse ambiente, sua capacidade de gerar textos, organizar ideias e sugerir soluções rapidamente pode criar uma dependência que enfraquece o exercício desse pensamento crítico.

Quanto aos usos mais práticos, há alguns considerados aceitáveis, como a revisão textual. Segundo o professor, esse tipo de apoio já ocorre há bastante tempo, inclusive antes das ferramentas atuais de IA. Ele ressalta que o uso de recursos como o Google Tradutor, por exemplo, já representava uma forma de assistência na escrita. "Dizer que tudo surgiu a partir do ChatGPT, em 2021, é um equívoco; esses recursos são anteriores", completa. 

Ao destacar a importância de especificar os usos na metodologia, o professor reforça que a ciência não se resume aos resultados, mas ao caminho percorrido até eles. “É preciso dizer qual o prompt que eu usei, citar as fontes... colocar qual é a edição da IA que está usando, se é a cinco, a quatro, a três, a dois… Se você usou IA diferentes, citar todas que usou. Se combinou a figura de uma para outra, também é preciso citar”, enfatiza o professor, ao utilizar a metáfora da “receita de bolo” para descrever a metodologia. A analogia sintetiza a ideia de que o conhecimento científico precisa ser verificável, replicável e transparente.

Debate ético - a questão da autoria

O prof. Marcos Rogério destaca que, de um lado, a IA “ajudou a reduzir o medo da folha em branco”, expresso naquela dificuldade inicial de começar um texto. Hoje, ao inserir um comando simples, já é possível gerar um conteúdo inicial, o que torna esse começo mais acessível. Por outro lado, observa o professor, também introduziu uma tecnologia para a qual muitos usuários ainda não estavam preparados. “Hoje, as pessoas não entendem ainda, principalmente pelo baixo letramento científico que temos, que o texto da máquina não é dela. Mas isso é um problema filosófico. Nós temos um texto fundamental que fala o que é ‘a morte do autor’. O autor moderno se fragmentou a tal ponto de não saber mais quem ele é. Se ele é a mistura de tudo que ele já ouviu, viveu e viajou ou se ele é realmente essa figura antropomorfórmica de várias outras figuras humanas que passaram por ele", afirma o professor, que acrescenta:

"Mais do que um debate filosófico, temos que ter um debate ético no sentido de que a máquina não produz o seu texto. Ela ajuda a melhorar, a incrementar, mas não produz o seu texto. O texto da máquina, como o nome diz, é da máquina. Isso também é um outro consenso, um consenso ético. E eu sempre falo para meus alunos: quando colocar seu texto e pedir para a IA para melhorar, depois que ela te der o resultado, precisa criticá-la novamente. É o mesmo pensamento freiriano: temos que ter reflexão antes, ação no meio e refletir depois".

 As 'alucinações' e a ilusão da escuta

Outro ponto de atenção no uso da IA está na confiabilidade das informações. Embora os sistemas sejam capazes de gerar respostas com aparência de precisão, eles também podem produzir conteúdos incorretos, conhecidos como “alucinações”. E além do campo acadêmico, a IA também tem sido utilizada para produzir respostas sobre questões pessoais. O uso da inteligência artificial como substituta de apoio psicológico, por exemplo, levanta preocupações. Cada vez mais, pessoas recorrem à tecnologia como se ela pudesse ocupar o lugar de um profissional. Segundo o professor Marcos Rogério, os riscos são signficativos. A formação em áreas como Psicologia e Psicanálise exige anos de estudo sobre o inconsciente e o comportamento humano.

“Às vezes, a máquina pode te dar um conselho que vai ativar um trauma seu. Ou ela simplesmente vai dizer coisas que você quer ouvir para você continuar perguntando para ela", afirma. "Então, a ética, a reflexão e o pensamento crítico são conceitos que devem estar juntos, tanto na ciência como fora dela. Você iria em um médico se acha que o diploma dele é falso? Temos instituições que atestam que aquele profissional é apto para exercer uma profissão. E essas instituições chamam-se universidade, institutos em educação superior... Do mesmo modo que a Anvisa aprova os nossos remédios. Então, quando você pega um texto da IA sem usar a sua reflexão crítica, é como você estar aceitando um remédio que a Anvisa não aprovou”, compara. 

IA na educação básica: memória e aprendizado 

O uso da inteligência artificial na educação básica exige atenção quanto aos seus impactos no aprendizado. O professor Marcos Rogério cita um estudo recente conduzido pelo Massachusetts Institute of Technology (MIT), que analisou os efeitos do uso da IA na produção de textos por estudantes.

Na pesquisa, dois grupos foram submetidos à mesma atividade: escrever um texto. O primeiro utilizou materiais tradicionais, como revistas e outros conteúdos para leitura e elaboração própria. Já o segundo grupo recorreu exclusivamente à inteligência artificial. Os pesquisadores não avaliaram apenas o desempenho imediato, mas a retenção do conteúdo ao longo do tempo.

Uma semana depois, os estudantes foram entrevistados sobre o que haviam produzido. O resultado indicou que apenas 20% dos alunos que utilizaram IA conseguiam se lembrar do conteúdo, enquanto, entre aqueles que elaboraram o texto a partir da leitura e reflexão, o índice de retenção chegou a 80%. Para o professor Marcos Rogério, o uso da tecnologia sem mediação crítica pode comprometer a fixação do conhecimento. Ele destaca que, em larga escala, esse padrão pode resultar em estudantes com menor capacidade de retenção, além de impactar o desenvolvimento do pensamento abstrato, fundamental para a compreensão de elementos como metáforas, linguagem figurada e estruturas gramaticais. Por outro lado, o docente observa que há experiências positivas com o uso da IA na educação. Em alguns modelos adotados nos Estados Unidos, a tecnologia conduz parte das aulas, enquanto professores atuam como mediadores.

Nesses casos, a IA adapta o ensino de forma personalizada, identificando padrões de aprendizagem e ajustando conteúdos conforme as necessidades individuais dos alunos. Segundo o professor, esse formato tem apresentado bons resultados, principalmente por permitir um acompanhamento mais individualizado, algo difícil de ser realizado em turmas numerosas. “Essas escolas, inclusive, têm fila de espera. O método mostra que a IA reconhece padrões: percebe, por exemplo, que a criança erra ao perguntar de determinada forma, e então ajusta automaticamente o modo de interação”. Ainda assim, ele ressalta que a adoção deve ser gradual e acompanhada, para evitar prejuízos ao desenvolvimento cognitivo “Eu trouxe duas facetas da IA: uma positiva, relacionada à personalização das metodologias de ensino e aprendizagem; e uma negativa, ligada ao uso exagerado, que pode levar à diminuição da retenção de conteúdo”.

O que permanece humano

O professor Marcos Rogério ressalta que o futuro da educação não depende da tecnologia em si, mas da forma como ela será incorporada.

“Que fique claro que estamos abertos à ciência e que a ciência não tem que ter medo de nada, porque ela é a promotora do futuro, do progresso. E como promotora do futuro e do progresso, nós não temos que temer a IA. Nós temos que entendê-la e, mais do que entendê-la, criticá-la, mostrar quais são os pontos que não consegue resolver e que nós, como pesquisadores, com nossa reflexão crítica, podemos e devemos fazê-lo. A ideia de substituição, esse medo, essa paúra que está sobre a academia como uma névoa sobrevoando os pensares dos nossos mestres e doutores é que ela possa substituir o humano, mas eu trago aqui um pensamento iluminista: o homem está, sim, no centro. Nós temos de apertar o botão, saber como apertar o botão e quando apertá-lo”, conclui o professor. 

Para saber mais: 

O livro "Escrita científica com inteligência artificial humanizada: aplicações e técnicas", organizado pelo prof. Marcos Rogério Martins Costa em parceria com pesquisadores da Fiocruz e integrantes da iniciativa “Escrita com Ciência”, apresenta estratégias para o uso crítico da IA na produção acadêmica. Clique para baixar. 

O artigo “O desafio ético da IA na formação humana: diretrizes para uma educação responsiva e inclusiva”, de Kátia Valeria Pereira Gonzaga, Marcos Rogério Martins Costa e coautores, analisa os impactos do uso da inteligência artificial na educação sob a perspectiva ética. Cique aqui para ler.  

 

(Comunicação Setorial|UEG)