Quando a IA escreve pelos alunos
Um mergulho nos desafios da integridade acadêmica e do uso ético da tecnologia
IA em Foco
Por Marcelo Sabbatini
Qual professor nunca encontrou, ao corrigir um trabalho a frase “Como modelo de inteligência artificial, não posso…”? Junto a parágrafos tecnicamente perfeitos mas genéricos em conteúdo, além das características do “texto chocho”, excessivamente adjetivado e marcado por expressões denunciadoras como “crucial”, encontrar trabalhos feitos pela Inteligência Artificial (e não “com”, há uma diferença) tornou-se uma ocorrência comum no cotidiano docente.
Esta realidade traz à tona uma discussão urgente sobre a integridade acadêmica e sobre os valores que fundamentam a Educação superior. Em temos de IA disseminada, o uso indiscriminado para a realização de trabalhos, provas e outras atividades pedagógicas - de avaliação ou não - vão mais além de uma discussão moral, repercutindo sobre a capacidade de aprendizagem dos estudantes.
Afinal, de que integridade estamos falando?
Como apontado no “Guia para a IA generativa na educação e na pesquisa elaborado pelo Organização das Nações Unidas para a Educação”, elaborado pela Ciência e a Cultura (Unesco), a integridade acadêmica se configura como um dos grandes desafios éticos trazidos pela IA generativa, junto à falta de regulação, privacidade , viés cognitivo, respeito à diversidade e questões gênero, acessibilidade e comercialização.
A preocupação, essencialmente, era seu uso para preparação de tarefas e realização de provas. Posteriormente, num guia dedicado à utilização da IA na Educação a Unesco fez referência à perda de pluralidade de pensamento, a padronizar o conhecimento e reforçar pontos de vistas dominantes, ao homogeneizar a expressão autônoma, enfraquecendo o valor do pensamento independente e da criatividade.
Dito isso, o conceito se origina do termo latino “integritas”, que corresponde à qualidade de ser inteiro. Vernaculamente, conforme o Dicionário da Academia Brasileira de Letras (ABL) relaciona-se à honestidade, correção, probidade. Ou seja, a uma forma moral de atuação.
Aplicando portanto ao debate atual, a noção de integridade acadêmica está relacionada a uma percepção de uso indevido, contrário às normas formais e informais que situam claramente o papel da autoria e o valor da originalidade no meio acadêmico e educacional.
Esta percepção foi inclusive identificada na discussão pública decorrente do surgimento do ChatGPT, conforme apontam os resultados de uma pesquisa publicada em março de 2023, poucos meses após seu lançamento. Dos textos analisados a grande maioria refletia uma preocupação com o uso desonesto.
Ao mesmo tempo, muito textos publicados na mídia desincentivavam o uso da ferramenta, conjecturando sobre mudanças no currículo e nos métodos pedagógicos, retorno à avaliações presenciais e sem uso da tecnologia ou a mera proibição.
Este enquadramento negativo, por sua vez, tem repercussões sobre como entendemos a tecnologia:
Posicionar o uso do ChatGPT mais como uma ferramenta para trapacear do que como uma ferramenta para aprendizagem pode influenciar as percepções que leitores em geral têm sobre o valor de uma educação universitária, as visões acadêmicas sobre outras respostas institucionais, e os pensamentos dos estudantes sobre como tais ferramentas poderiam ser usadas de maneiras apropriadas.
A preocupação com a integridade acadêmica, entretanto, tomou o lugar da discussão sobre possibilidades de um uso mais inovador, que fomentasse a aprendizagem e a participação, inclusive da população estudantil menos favorecida, empobrecendo o debate.
É plágio ou não é?
Para entrarmos na discussão da integridade acadêmica, penso ser necessário utilizarmos os conceitos adequados. Assim, as criações da IA Generativa tem suscitado questionamentos em relação à autoria, originalidade e propriedade intelectual em todos setores da cultura humana.
Especificamente, o plágio é caracterizado pela apropriação indevida de de qualquer produção intelectual. Refere-se à cópia parcial, integral ou conceitual de uma obra literária, artística ou científica sem a citação de sua fonte origina. No Brasil, é inclusive tipicado pelo código civil.
Mas o texto generativo pode ser caracterizado como plágio? Dada sua natureza probabilística, com a opacidade dos processos utilizados e sem a identificação de trechos específicos ou de uma fonte identificável, penso que não poderíamos configurá-lo como plágio, em sentido tradicional.
Apesar disso, a terminologia tem se disseminado, inclusive através dos “detectores de plágio IA”, dos quais trataremos futuramente. Nomes a parte, o texto gerado por Inteligência Artificial ainda pode consistir num atentado à integridade acadêmica, ao obscurecer o papel do autor na construção do conhecimento. Ainda segundo o guia da Unesco, a tecnologia possibilita “um novo tipo de plágio”.
Trata-se portanto de um uso que transita entre o fraudulento e o antiético, dependendo do nível de formalização da regras que cada contexto impõe. Simplificando, é algo que um aluno não deveria fazer, pois espera-se que ele faça por conta própria, a partir de seus recursos e dotes intelectuais.
Assim, é ao contornar o processo de aprendizagem e se esquivar da responsabilidade pessoal na construção de seu conhecimento que o uso de texto generativo fere a integridade acadêmica. Aqui temos um princípio da avaliação pedagógica, o compromisso de autoria, marcado pela intencionalidade e responsabilização individual.
Entretanto, os alunos têm usado e vão continuar usando. A que ponto estão sendo desonestos? Em que medida estão tentando sobreviver ao sistema?
Neste ponto podemos teorizar e abstrair um pouco. Podemos relacionar este “desengajamento” da autoria estudantil com o que Giles Lipovestky, filósofo da hipermodernidade, chama de “crepúsculo do dever”. Ou seja, do surgimento de uma moral “à la carte”, adaptada aos valores de bem-estar do individualismo. Uma moral que valoriza, sobretudo, os direitos individuais em detrimento da noção de sacrifício.
Em outras palavras, os alunos sentem-se moralmente respaldados em buscar soluções rápidas para aquilo que percebem como um problema a ser suplantado, o qual se choca frontalmente com as expectativas dos professores.
Contudo, por mais considerações que façamos a respeito de ética e moral, no mundo real as ferramentas de IA existem. Diversas pesquisas têm mostrado que elas resultam num ganho de produtividade e são utilizadas em praticamente todos âmbitos profissionais. Como conciliar estas posições, tendo em conta que esta tecnologia está impactando a prática social da escrita?
Repensando a escrita: primeiros pensamentos
Com a grande novidade de escrever por nós - e cada vez mais de forma bastante aceitável, por não dizer bem eficaz - o surgimento da IA generativa tem impactado todas atividades relacionadas à produção de ideias, entre as quais se inclui a forma textual.
Matt Miller, professor de perfil “tecnológico” e “inovador” respondeu ao desafio rapidamente, publicando seu “IA For Educators: Learning Strategies, Teacher Efficiencies, and a Vision for an Artificial Intelligence Future” ( IA Para Educadores: Estratégias de Aprendizagem, Eficiências Docentes e uma Visão para um Futuro com Inteligência Artificial, em tradução livre) em março de 2023, três meses após o lançamento do ChatGPT. Como não poderia deixar de ser, abordou o tema da escrita e propôs o seguinte espectro de uso, a partir do qual repensaríamos a atividade de escrita e, como consequência, do plágio/cópia.
No esquema, o uso vai do mais automatizado ao mais “artesanal”, para dizer de alguma forma.
Aluno usou prompt, copiou, enviou ao professor
IA criou resposta, aluno enviou, editoue e enviou
Aluno pediu múltiplas respostas da IA, selecionou, editou e enviou
Aluno esquematizou ideias principais, IA rascunhou, aluno editou
Aluno escreveu todo o texto, sem consultar IA
Porém, como tenho apontado nas palestras e apresentações que faço sobre IA e Educação, o valor deste espaço de possibilidades está nas reflexões que suscita sobre nossas práticas e sobre nossas concepções de integridade acadêmica:
Quais são fraude?
Quais são relevantes para o futuro?
Quais você usa no dia a dia?
E se você substituir “IA” por “colega”?
Para Miller, a IA sinaliza para a necessidade de aprender uma “nova linguagem”, na qual a avaliação crítica se sobressai, em contraposição à fixação de memória individual de longo termo que tem sido o foco da Educação.
De forma complementar, o guia da Unesco aponta para esta “relação complementar entre a agência humana e as máquinas”, ressaltando que os níveis mais básicos do processo de pensamento podem ser delegados. No exemplo da escrita, a IAGen poderia ser utilizada para planejar um esboço bem estruturado, a partir do qual as “habilidades de pensamento de ordem superior” poderiam ser exercitadas.
Mas será uma relação possível?
O discurso mais conciliador de ressignificar práticas a partir da interação humano-tecnologia, porém, encontra barreiras, num choque de realidade.
Num ensaio publicado na revista Time, a “escritora, educadora e editora” Victoria Livingstone relata ter abandonado a docência, por culpa do ChatGPT. Ou mais especificamente, por seu uso pelos alunos nas atividades de redação.
Ressaltando o que já conhecemos bem sobre o papel da escrita para a aprendizagem, superando a mera transcrição de pensamentos formados, para um esforço ativo de organização e desenvolvimento de ideias complexas, escrever sempre exigiu esforço intelectual.
As IAs generativas, por outro lado, diminuem este “atrito” e fazem com que o desafio cognitivo desapareça, ou diminua bastante. Além disso, haveria uma perda do pensamento crítico e a originalidade, uma vez que os modelos de linguagem sempre se baseiam em textos preexistentes, sem produzir conhecimento genuíno.
Em seu ensaio, a professora relata ter tentado integrar a IA a suas práticas de ensino, elaborando atividades que mostrassem aos alunos os potencias e limites da tecnologia. Em sua experiência, porém, os alunos continuaram a evitar o esforço intelectual de escrever, a partir de uma dependência excessiva.
Mesmo o uso da IA para a correção de texto e suporte à escrita (tema de uma próxima edição de nossa newsletter) foi percebida negativamente. Como característica, os chatbots reelaboram o texto, alterando vocabulário e sentido de forma sutil, que não é percebida pelos escritores em formação.
O texto da (ex)professora Livingstone me remete a outro artigo, que inclusive comentei nas redes sociais, com base num texto sobre “perspectivas, limites e paradoxos” do ChatGPT:
Importante: usar IA generativa leva a um “paradoxo da competência” (expertise), pois ao mesmo tempo que auxilia tarefas cognitivas mais fáceis, prejudica capacidades cognitivas de nível superior, necessárias para tarefas mais complexas, que precisariam ser praticadas para serem aprendidas.
Grande exemplo, texto acadêmico, os modelos de ponta até apresentam textos passáveis. Mas ao fazer isso, quem usa não está praticando (e nunca vai aprender) a parte trabalhosa da escrita, que é parafrasear, sintetizar, juntar aqui, tirar dali, chamar referência, conectar com a outra ideia.
Vejo que é o principal “nó” do uso da IA na Educação: como manter o desenvolvimento destas habilidades essenciais, diante da facilidade de acesso?
Lendo o artigo, os autores dizem que o estado meio “fué” da IA generativa, nem capaz de substituir o humano, mas um tanto quanto prática, leva a uma maior adoção. E com isso, resultados negativos para a aprendizagem, em termos de terceirização de processos e habilidades cognitivas importantes.
O que fazer? Um “uso sensível da IA” através de normas e recomendações de uso, passando por uma reformulação de currículo que busque aprendizagem experiencial, situada e de pensamento crítico.
Como consideração, o uso da IA “providencia ganhos imensos para os especialistas, mas desproporcionalmente prejudica os novatos”.
A partir destas reflexões, como educadores nos perguntamos: e agora? o que fazer, diante da ameaça à integridade acadêmica e dos déficits de aprendizagem, por um lado, e da presença cada vez mais onipresente da tecnologia?
Como já nos alongamos por aqui e ainda temos a tratar, vamos explorar este dilema no próximo número da newsletter, mas penso que o caminho passa por repensando a natureza das tarefas. Fiquem ligados e, para receber o próximo capítulo desta série, não deixe de assinar.
Repensando normas
Não faz muito tempo, uma notícia viralizou, com um surpreso Zeca Pagodinho descobrindo que o jogo do bicho é ilegal. Estabelecendo uma analogia, penalizar o uso do texto generativo de IA somente é possível se houver uma norma que diga o contrário, em primeiro lugar.
Dando um passo atrás, trata-se de uma discussão mais ampla, anterior mesmo às tecnologias digitais. “Fila”, plágio e, mais recentemente, a compra de trabalhos acadêmicos são comportamentos inadmissíveis no ambiente educacional, embora frequentemente abordados informalmente.
Já na na cultura acadêmica norte-americana - quem já fez cursos online tipo MOOC de suas grandes universidades conhece - é mais frequente a prática dos alunos assumirem formalmente um compromisso de ética e honestidade intelectual. Através da assinatura de documentos, assumem a responsabilidade de produzir trabalhos originais e respeitar as normas institucionais. Além de coibir infrações, a ideia é que esta postura mais ativa promove uma cultura de responsabilidade e transparência no ambiente acadêmico.
Com o avanço da Inteligência Artificial Generativa, percebo que é necessário adotarmos esta postura em relação à produção discente. Somente através de diretrizes claras poderemos definir o que se deve, o que se pode e o que não se pode fazer com IA.
No momento, não temos recomendações vindas das instituições maiores, como Ministério da Educação ou Secretarias Estaduais ou Municipais de Educação. Mesmo no âmbito das instituições de ensino, as iniciativas são muito tímidas. Contudo são necessárias, a meu ver, para que possa se diferenciar entre os usos aceitáveis e benéficos (apoio para o planejamento de ideias, estudo e sistematização de textos) e aqueles notadamente fraudulentos ou antiéticos.
Além disso, ao estabelecer compromissos de conduta ética não apenas reforçariam a integridade acadêmica, mas também incentivariam uma reflexão crítica sobre os limites e responsabilidades no uso da ia generativa.
Dito isso, no âmbito de cursos vemos algumas propostas se concretizarem, a exemplo do “Código de Integridade Acadêmica no Uso do ChatGPT e Outras Formas de Inteligência Artificial Generativa” da Pós-Graduação em Educação da PUC-Minas.
Citando o documento, estas normativa estabelece que os alunos:
Devem respeitar os limites de utilização dos recursos de IA estabelecidos pelo Programa e professor da disciplina;
Devem dar os devidos créditos à ferramenta de IA utilizada para gerar
qualquer tipo de texto, imagem ou vídeo;Identificarão como foi realizada a utilização do recurso, como exemplo,
apresentando o prompt utilizado na consulta;Não poderão usar os recursos de IA em atividades avaliativas;
Deverão assinar o termo de responsabilidade no uso da IA apresentado pelo professor.
Logicamente, este é somente um exemplo. Temos níveis educacionais, áreas do conhecimento, objetivos, modalidades diverso na Educação, de forma que nunca existirá uma norma única. Ao envolver, inclusive, os estudantes nesta discussão, de forma colaborativa, os envolvidos podem chegar a críticas reflexões produtivas sobre como a IA se relaciona com a autoria e com a aprendizagem.
Repensando a cultura acadêmica
Para finalizar, trago a reflexão de Tedesco e Ferreira, que resgatam o conceito aristotélico de (phronesis), isto é, de um ethos da sabedoria prática orientado à “dedicação, esforço, compromisso,
responsabilidade, conduta, partilhas de experiência e constância nos hábitos”.
Mais do que uma abordagem legalista, de um jogo de gato e rato buscando identificar e punir os transgressores da integridade acadêmica, acredito que este é o sentido que nós, como educadores, devemos promover numa era da IA.
Tem dúvidas, sugestões ou experiências para compartilhar relacionadas aos temas abordados nesta edição? Adoraríamos ouvir de você!