A integração de inteligência artificial (IA) na educação representa um enorme desafio no âmbito do regime de colaboração das políticas educacionais. A inteligência artificial tem um potencial muito grande para transformar as práticas de ensino e aprendizagem, inovando toda a lógica organizacional da educação brasileira, incluindo tanto a educação básica quanto a educação superior.
Em uma primeira dimensão, a IA transforma o modo como estudantes buscam e constroem conhecimento. A disponibilidade de inteligências artificias generativas aciona uma gama de possibilidades para construírem textos, imagens e sintetizar conhecimentos em diferentes áreas. Da mesma forma, possibilita a professores preparem materiais de ensino com textos, imagens ou simulações, modificando as práticas de ensino no contexto específico da sala de aula. Possibilita a professores criarem agentes de IA para fazerem tarefas repetitivas como correções de provas, redações ou atividades discentes variadas. Em um plano mais organizacional, a IA possibilita a personalização de ensino, direcionando os esforços para que a aprendizagem esteja relacionada com preferências e necessidades individuais de cada estudante, determinando o que cada estudante deve abordar em seu ritmo próprio de assimilação de conhecimento.
Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas
As transformações possibilitadas pela inteligência artificial na educação modificam toda a lógica organizacional das escolas que hoje conhecemos, modificando papéis de professores, estudantes e gestores escolares. E esta tecnologia vem sendo adotada de modo muito intenso em um contexto crescente de hipérboles e plataformização da educação. Estas inovações são potencialmente tentadoras. Mas estão envoltas em uma série de riscos e problemas. O primeiro dos riscos é o aprofundamento de desigualdades e formas de exclusão. Em um contexto da educação em que desigualdades e exclusão ainda se fazem presentes, como Brasil afora, a inteligência artificial pode modificar toda a lógica de acesso a conhecimento. Ela pode sujeitar professores e estudantes a alucinações, erros e vieses, fazendo com que esta tecnologia seja um motor de propagação de racismo, misoginia e discriminações diversas. Requer uma profunda modificação das práticas docentes, demandando uma nova pedagogia, a qual demandará tempo e aprofundamento com relação à integração de IA na educação. A integração de IA na educação também demanda uma infraestrutura que hoje não está disponível em todas as escolas, podendo provocar distorções fruto da desigualdade de acesso. Por fim, a integração de IA na educação não tem evidências robustas a respeito de seus impactos em termos cognitivos, afetivos, comportamentais e de aprendizagem.
Tudo isso foi dito para delinear o contexto atual da educação: vivemos um grande experimento com a incorporação de uma tecnologia epistemológica que modifica diversos aspectos sociotécnicos da educação. Professores, estudantes e gestores escolares já incorporaram a IA. O verbo incorporar, aqui referido, significa trazer ao corpo um artifício que passa a fazer parte da própria personalidade. Neste contexto, podemos afirmar que a integração de IA na educação é um grande experimento conduzido em um hype, em que estudantes e professores têm um “segundo cérebro” incorporado, que se configura como um agente que faz coisas por ele, como redações, resolução de problemas e exercícios, correção, avaliação, e toda uma gama de ações necessárias no processo educacional. E construímos socialmente esse grande experimento sem evidências, em um contexto de incertezas e muitas mensagens ambíguas em relação à sua efetividade e impacto.
Nesse sentido, IA na educação não é o futuro. Já é o presente, como constata pesquisa do CETIC.br que aponta que 7 em cada 10 estudantes do ensino médio utilizam IA para alguma atividade educacional. Em um contexto de enorme hype pela tecnologia, como devem ser conduzidas políticas educacionais para a inteligência artificial, particularmente quando iniciamos um caminho que parece sem volta? Em um contexto de incertezas, disparidade das informações e ambiguidades, o Estado assumir o controle desse experimento pode ser uma solução. Sandboxes regulatórios podem representar um instrumento de política importante para conduzir a experimentação de forma controlada, de modo que as diferentes redes escolares possam assumir o protagonismo da inovação em ambientes controlados, de forma que se maximize os resultados positivos e se minimize os riscos.
Sandboxes regulatórios são ambientes controlados de experimentação, onde atores do setor público e a sociedade podem desenvolver e testar soluções e novos produtos sob a supervisão de reguladores. O sandbox regulatório é um ambiente em que desenvolvedores podem desenvolver, testar e avaliar impactos e produzir aprendizado. No caso da educação, o sandbox regulatório pode ser um instrumento de política fundamental para reduzir incertezas e ambiguidades com relação à tecnologia de inteligência artificial aplicada para fins educacionais. Um sandbox para educação possibilita constituir um espaço onde academia, edtechs (startups da educação), organizações da sociedade civil e setor privado podem produzir inovações educacionais com inteligência artificial, experimentando e testando soluções com fins pedagógicos ou de gestão educacional.
Inscreva-se no canal do JOTA no Telegram e acompanhe as principais notícias, artigos e análises!
O ambiente controlado de um sandbox regulatório para a educação proporciona os meios para que as aplicações de inteligência artificial possam ser testadas em sua intencionalidade pedagógica, segurança, ética, e meios de transparência e responsabilidade. Possibilita criar uma sinergia entre setor público e privado em torno de inovações educacionais seguras e assertivas com relação ao seu propósito, alinhando a integração da IA com os valores que estão inscritos na visão brasileira de educação. Diferentes países veem utilizando o sandbox como instrumento de inovação educacional com inteligência artificial, tais como França, Israel, Dinamarca, Coréia do Sul, Suíça e Reino Unido. Todos estes casos têm natureza diferente. O caso do Reino Unido, por exemplo, visa a experimentação para a proteção de dados de crianças e adolescentes das redes escolares. Os casos de Dinamarca e Israel visam a produzir soluções pedagógicas. Além disso, os sandboxes podem ter diferentes dinâmicas. Eles podem ser confirmatórios e autorizativos de uma solução inovadora ou podem ser para desenvolvimento e inovação efetivas. A segunda opção parece a mais viável para a educação.
Neste contexto, a que elementos um sandbox regulatório na educação brasileira deveria responder? Primeiro, produzir experimentação segura de inovações educacionais, avaliando a intencionalidade pedagógica de inteligências artificiais aplicadas em ensino e aprendizagem. Segundo, ser um mecanismo que possibilite a aceleração do desenvolvimento tecnológico da educação, sendo um sandbox voltado para a experimentação. Terceiro, produzir segurança jurídica das inovações. Quarto, aumentar o engajamento da sociedade com as mudanças educacionais. Quinto, possibilitar inovações abertas e mecanismos que amplifiquem a colaboração e a transferência de conhecimento para todas as redes de ensino.
Um sandbox para a educação brasileira deve produzir essa sinergia entre academia, edtechs, setor público e setor privado, alinhando diferentes inovações educacionais com uma visão mais inclusiva da educação brasileira. O ambiente de testagem deve produzir uma avaliação pedagógica das soluções de IA, observando seus impactos em termos cognitivos e comportamentais de estudantes. Da mesma forma, o sandbox deve avaliar os impactos algorítmicos em termos de inclusão e direitos humanos. Deve avaliar, também, o impacto na proteção de dados e avaliar a arquitetura algorítmica, de forma a entender e minimizar os riscos de integração da inteligência artificial em processos de ensino e aprendizagem. O sandbox deve privilegiar a experimentação e testes para que as soluções de IA concebam e integrem uma concepção ética em seu design, mitigando vieses e formas de discriminação, ao mesmo tempo que promove ações para a inclusão. Por fim, o sandbox deve produzir mecanismos de participação da sociedade, famílias e comunidades escolares por via de consultas públicas ou tomadas de subsídios.
Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email
O sandbox regulatório não é uma solução definitiva para os problemas e desafios relacionados com a IA na educação. Porém, ele é um instrumento de governança poderoso para criar engajamento da sociedade, um ambiente experimental controlado que incentive a inovação e estabeleça inovações alinhadas com uma visão educacional capaz de enfrentar os desafios do presente. Redes de ensino devem utilizar a ideia de um ambiente controlado de experimentação como um espaço para construção de aprendizagem e cooperação pela qualidade da educação, de forma que inovações possam ser democratizadas e seguras, dentro de uma perspectiva ética sólida e escalável para tecnologias que avançam mais rápido do que a capacidade de respostas de governos e reguladores.