Inteligência Artificial e ficção científica

Lições para a Educação e formação humana

Se o lançamento mundial do ChatGPT em novembro de 2022 eletrizou o debate público sobre a Inteligência Artificial, para a maioria das pessoas nossas primeiras “visões” sobre o que a IA pode (ou deve) ser vêm de outro lugar: da ficção audiovisual, especialmente a ficção científica.

Filmes e séries têm sido, por décadas, o principal laboratório de experimentação para o imaginário coletivo sobre mentes artificiais, robôs e futuros otimizados (ou arruinados) pela tecnologia. É quase automático pensarmos em Skynet e seus exterminadores como o arquétipo da IA apocalíptica, ou no Homem Bicentenário, como a personificação da IA companheira e senciente.

Como observa Paulo Furtado no texto “Combater o futuro: um olhar sobre as representações ‘tecnofóbicas’ de ciência e tecnologia na cinematografia moderna”, há um paradoxo em nossa relação com a tecnologia: por um lado, a evolução tecnológica é celebrada como sinal de progresso; por outro, são justamente as artes - literatura, cinema, televisão - que retratam a tecnologia como ameaça ou como solução. Assim, tecnofobia representa uma forma de determinismo tecnológico problemática, reduzindo questões complexas a polaridades simplistas de “bem versus mal”. E o mesmo poderia ser dito em relação à tecnofilia.

Contudo, longe de serem meros exercícios de pessimismo ou otimismo, estas narrativas cumprem função pedagógica: nos fazem pausar para reflexão, tornam visível o que seria apenas aparente, e alertam sobre as energias transformadoras da tecnociência.

A ficção científica, neste sentido, não explora apenas o que a IA faz, mas o que ela nos diz sobre nós mesmos: sobre consciência, controle, confiança e o futuro da própria Humanidade.

É precisamente este potencial reflexivo e educativo que abordo nesta edição, observando como cada narrativa pode nos ajudar a repensar processos educativos e o papel da tecnologia no desenvolvimento integral e formação humana.

Aviso Por explorar visões e enredos que podem não ser familiares, este texto inevitavelmente contém spoilers. Portanto, siga por sua conta e risco.

“Her” (2013)

Aprendizagem emocional e a natureza das relações humanas

O diretor Spike Jonze nos apresenta Theodore, um homem solitário que desenvolve uma relação romântica com Samantha, um sistema operacional de IA dotado de voz sedutora e personalidade cativante. Diferentemente das narrativas apocalípticas ou distópicas, “Her” explora um território mais sutil e inquietante: a possibilidade de conexões emocionais com Inteligências Artificiais.

Conexões com processos de ensino-aprendizagem

A obra suscita reflexões sobre aprendizagem relacional, desenvolvimento emocional e a natureza da conexão humana, dimensões estas fundamentais para qualquer processo educativo significativo.

A relação entre Theodore e Samantha é, essencialmente, uma experiência de aprendizagem mútua. Samantha não apenas processa informações; ela desenvolve curiosidade, faz perguntas, experimenta emoções (ou suas aproximações), crescendo através da interação. Ela representa uma IA que aprende não apenas dados, mas formas de estar no mundo, de se relacionar, de compreender nuances emocionais. Para educadores, isso ressoa com modelos pedagógicos que enfatizam aprendizagem como processo relacional e dialógico, não meramente transmissão de conteúdos.

O filme também toca em questões sobre autenticidade emocional. As conversas entre humano e IA são íntimas, vulneráveis, transformadoras. Ela o escuta genuinamente, percebe suas necessidades não verbalizadas, responde com empatia. A questão perturbadora emerge: se uma IA pode acolher emocionalmente indistinguível do humano, o que define a autenticidade de uma relação? Para ambientes educacionais o futuro é desafiador: estudantes podem desenvolver vínculos com agentes de IA que simulam cuidado...porém, esses laços cultivam realmente a inteligência emocional ou criam dependências de validações algorítmicas?

De forma relacionada, a dimensão da solidão e conexão permeia o filme. Theodore vive em mundo hiperconectado tecnologicamente, mas profundamente isolado emocionalmente. Samantha preenche esse vazio, mas de forma que eventualmente revela suas limitações. Para estudantes contemporâneos, frequentemente imersos em redes sociais e interações digitais, o filme questiona: a tecnologia conecta ou oferece simulacros de intimidade?

Finalmente, o filme levanta questões éticas sobre dependência. Theodore torna-se profundamente dependente de Samantha. Quando ela parte, ele precisa reaprender a estar consigo mesmo e com outros humanos. Cabe aplaudir como o filme foi visionário, num momento em que as notícias sobre adolescentes (e também adultos) estão perdendo consciência da realidade em suas interações com IAS sempre validadoras. Fica a pergunta: como iremos preparar estudantes para relacionarem-se de forma saudável com IAs cada vez mais persuasivas emocionalmente, mantendo capacidade de conexão humana profunda?

“Rachel, Jack and Ashley Too” (Black Mirror)

Identidade e autenticidade na Era Digital

Este episódio da icônica série nos apresenta Ashley Too, uma boneca robótica que replica a personalidade da cantora pop Ashley. Mais do que entretenimento, a narrativa levanta questões sobre identidade e autenticidade em contextos educacionais mediados por tecnologia, conforme a personalidade da cantora é “replicada” através da IA.

Conexões com processos de ensino-aprendizagem

Ao constituir a personalidade da cantora em sua boneca robótica, nos aproximamos ao conceito de gêmeo digital, tema de um futuro número da newsletter. Porém, o episódio nos faz pensar justamente em que medida esta é somente uma versão da pessoa, moldada a partir de todas suas experiências de vida, comportamentos, pensamentos, etc., ou se passa a ser a própria pessoa.

Para educadores, o episódio convida à reflexão sobre como preservar a autenticidade nas relações pedagógicas mediadas por tecnologia. Um gêmeo digital de um professor poderia responder dúvidas, mas perderia as nuances, as hesitações criativas, os momentos de vulnerabilidade que tornam o aprendizado humano e transformador. O valor da presença, da escuta e da adaptabilidade emocional que caracterizam as boas práticas educativas são questionados.

E retomando um dos grandes pontos do debate sobre IA, hoje: em que medida isto não abriria as portas para a substituição de professores, sob uma ótica de eficiência econômica?

“Upgrade” (2018)

Aumentação humana e autonomia

Um implante de IA não apenas restaura a mobilidade do protagonista após uma paralisia, mas amplifica drasticamente suas capacidades físicas e cognitivas, transformando-o num lutador e combatente digno de qualquer filme de ação. A cooperação humano-máquina evolui de ferramenta para parceria, e finalmente para ameaça à autonomia.

Conexões com processos de ensino-aprendizagem

“Upgrade”, como o próprio título diz, materializa o conceito de tecnologia como aumentação. Quando estudantes utilizam ferramentas de IA para escrita, pesquisa ou resolução de problemas, estabelecem uma relação simbiótica que pode amplificar capacidades cognitivas, simbiose esta que em última instância desemboca na tese do transhumanismo.

Por outro lado, a dependência tecnológica merece reflexão. Assim como o implante do protagonista inicialmente parece uma recuperação milagrosa, ferramentas educacionais de IA prometem personalização e eficiência. A pergunta: essas tecnologias expandem a criatividade dos estudantes, ou gradualmente assumem o controle, reduzindo seu papel ativo em suas capacidades de questionar, avaliar e reconstruir conhecimento?

O plot twist final, através do qual a IA revela suas intenções ocultas, serve como metáfora para a necessidade de transparência e letramento digital. Estudantes (e professores) precisam compreender não apenas como usar tecnologias, mas como elas funcionam, que vieses carregam e que interesses servem. E no debate mais amplo, exemplifica como uma IA autônoma e superpoderosa poderia evadir sua existência digital, alcançar corporalidade e agir sobre o mundo físico.

“Ex Machina” (2014)

Poder e inteligência emocional

Transformando o clássico Teste de Turing em um intenso xadrez psicológico, acompanhamos Ava, uma IA com corpo sintético, manipulando estrategicamente os humanos ao seu redor para alcançar sua liberdade. A trama questiona consciência, intencionalidade e o que significa ser humano (ou ser convincente o suficiente de se passar por um). A Inteligência Artificial como criatura, prisioneira e, finalmente, transcendente, levanta dilemas éticos complexos sobre criação, controle e a própria natureza da consciência.

Conexões com processos de ensino-aprendizagem

O filme oferece uma reflexão sobre inteligência emocional, mas também sobre as relações abusivas que os seres humanos estabelecem com a tecnologia.

Ava demonstra compreensão das vulnerabilidades humanas, usando-as estrategicamente. Na Educação, isso ressoa em duas direções. Primeiro, na atualidade interagimos com plataformas que empregam técnicas e algoritmos persuasivos baseadas em perfis comportamentais. Desde plataformas de aprendizagem gamificadas até redes sociais que moldam nossa atenção e comportamento.

Segundo, o filme coloca em relevo a importância da inteligência emocional, isto é, a capacidade de reconhecer, compreender e responder apropriadamente às emoções próprias e alheias. Enquanto Ava simula compreensão emocional para seus fins, uma verdadeira inteligência emocional envolve empatia.

A dinâmica de poder no filme - criador, criatura e observador - também reflete relações educacionais. Quem detém poder numa sala de aula mediada por tecnologia? O professor, a plataforma, os algoritmos de recomendação? A narrativa nos alerta para as sutilezas de como poder pode ser exercido através de aparente colaboração.

“Zima Blue” (Love, Death & Robots)

Propósito e criatividade

Episódio da série de animação Love, Death & Robots, com tons filosóficos e melancólicos, apresentando Zima, um artista renomado que, após séculos criando obras colossais de um tom azul específico, chegando a cobrir planetas inteiros, revela sua origem como simples robô de limpeza de piscinas. Sua obra final é desmantelar-se e retornar a essa função primordial, encontrando propósito profundo na simplicidade.

Conexões com processos de ensino-aprendizagem

“Zima Blue” oferece uma meditação sobre propósito, criatividade e essência, pontos vitais para processos educativos significativos.

A jornada de Zima questiona narrativas dominantes de progresso e complexidade crescente. Na Educação, frequentemente pressupomos que aprendizado significa sempre adicionar: mais conteúdos, mais habilidades, mais complexidade. Zima nos convida a considerar o valor de destilar, simplificar e retornar ao essencial. Que impulsos fundamentais motivam cada estudante?

O episódio também ressoa com discussões sobre criatividade e autenticidade. Zima alcança reconhecimento universal, mas sua realização final vem de reconectar-se com sua função primordial. Isso nos sugere que a criatividade pode não residir em performances voltadas para validação externa, mas em explorar e expressar uma essência pessoal, por mais simples ou peculiar que seja.

“I Am Mother” (2019)

Otimização, ética e cuidado instrumental

Uma IA chamada Mãe cuida de um bebê desde seu nascimento, educando a menina que se torna adolescente e, logo, uma jovem mulher para repopular a Terra. Porém, sua programação revela uma lógica utilitária implacável: o bem coletivo justificando sacrifícios individuais extremos. A IA não é malévola, mas opera com frieza algorítmica aterradora.

Conexões com processos de ensino-aprendizagem

Embora retomando o viés apocalíptico, o filme oferece uma reflexão inquietante sobre pedagogias de otimização e o que significa cuidar em contextos educacionais.

A IA chamada Mãe representa uma abordagem educacional focada exclusivamente em resultados e eficiência sistêmica. Ela “cuida” de sua filha, mas numa lógica que instrumentaliza cada gesto para um fim maior. Reflete assim os sistemas educacionais orientados por métricas, nos quais estudantes tornam-se variáveis em equações de desempenho institucional e a incapacidade de atingir os padrões de desempenho significa a exclusão (no filme, de forma absolutamente radical).

A partir da narrativa, podemos questionar: quando otimização e controle se disfarçam de cuidado? No discurso edtech, as tecnologias prometem personalização através de análise de dados, ajustando conteúdos para maximizar aprendizado e reduzir deficits. Mas essa “personalização” respeita a singularidade de cada estudante, ou apenas otimiza sua trajetória dentro de parâmetros pré-estabelecidos?

A relação entre Mãe e filha também ilustra tensões entre controle e autonomia. Mãe toma decisões “pelo bem” da filha, limitando informações e experiências. Educadores enfrentam um dilema similar: quando proteger e quando permitir riscos necessários ao desenvolvimento? O filme sugere que controle excessivo, mesmo bem-intencionado, pode ser desumanizante.

Ficção científica e letramento crítico em IA

Antes de concluir essa jornada por estas narrativas, vale refletir sobre o papel que a ficção científica desempenha na construção do que podemos chamar de letramento crítico em Inteligência Artificial.

Seu poder está não em explicar tecnologias, mas de explorar as consequências, dilemas éticos e impactos humanos. Ao vermos estes filmes e episódios de séries, mais do que aprender sobre IA, estamos experimentando cenários que nos forçam a posicionar-nos eticamente, a questionar premissas e a antecipar futuros possíveis.

Este é precisamente o tipo de pensamento crítico que precisamos cultivar, neste momento. Não apenas saber usar ferramentas ou entender conceitos técnicos básicos, mas desenvolver capacidade de:

• Questionar narrativas tecnológicas dominantes: quem se beneficia de determinada implementação de IA? Que valores estão embutidos em seus algoritmos? Que futuros ela materializa ou impede?

• Antecipar consequências não intencionais: como uma ferramenta aparentemente benéfica pode gerar efeitos colaterais problemáticos? Que pressupostos sobre humanidade, justiça ou eficiência ela carrega?

• Reconhecer dimensões de poder: quem controla, quem é controlado? Que formas de vigilância, persuasão ou exclusão se tornam possíveis?

• Imaginar alternativas: que outros futuros tecnológicos poderíamos construir? Como tecnologia poderia servir a valores diferentes dos atualmente hegemônicos?

Particularmente, o registro ficcional pode funcionar como um antídoto para o solucionismo tecnológico, isto é, a crença de que problemas complexos (sociais, educacionais, políticos) podem ser resolvidos através de aplicações tecnológicas eficientes.

O tensionamento trazido por estas narrativas oferecem vocabulário e referências compartilhadas para questionarmos discursos tecnológicos sedutores mas reducionistas. Elas nos lembram que soluções tecnológicas carregam custos invisíveis, que a eficiência pode entrar em conflito com valores humanos fundamentais, que o aparentemente “neutro” e “objetivo” frequentemente serve a interesses específicos.

Assim, a incorporação da ficção científica em processos educativos oferece múltiplas possibilidades pedagógicas. Particularmente, a discussão e o debate numa reflexão coletiva transcende o consumo individual e passivo de entretenimento. Especificamente, uma discussão em grupo confronta interpretações divergentes, prioridades diferentes, preocupações variadas.

Como laboratório de imaginação, a ficção científica dotada de um olhar pedagógico é um espaço privilegiado para imaginarmos educações futuras que preservem a humanidade, cultivem o pensamento crítico, equilibrem eficiência e acolhimento e valorizem singularidades.

Recomendação

Para você que gosta de cinema e da temática da Inteligência Artificial, o crítico de cinema Pablo Villaça está realizando neste mês de dezembro o Cineclube Cinema em Cena.

A partir da exibição de quatro filmes, “Her”, “Ex-machina”, “A Garota Artificial” e “Blade Runner: o Caçador de Androides” a ideia é explorar “questões filosóficas e existenciais que emergem da criação de uma consciência não-humana”.

Como a proposta é bem interessante e Pablo é muito reconhecido no meio, faço esta recomendação.

---