Saltar para: Post [1], Pesquisa e Arquivos [2]

Blogue RBE

Qua | 07.12.22

Desafios-chave para a Inteligência Artificial na Educação

2022.11.16_P.png

 

Recentemente, o Conselho da Europa divulgou o relatório ARTIFICIAL INTELLIGENCE AND EDUCATION A critical view through the lens of human rights, democracy and the rule of law, um estudo onde são examinadas as ligações entre a inteligência artificial (IA) e a educação (ED). Com o objetivo de fornecer uma visão holística que ajude a assegurar que a IA empodere e não sobrecarregue educadores e alunos, e que os futuros desenvolvimentos e práticas sejam genuinamente para o bem comum, o estudo está organizado em quatro partes:

1. IA&ED

2. Desafios-chave para a AI&ED

3. IA&ED e os valores fundamentais do Conselho da Europa

4. Desafios, oportunidades e implicações da AI&ED

Dedicamos já a nossa atenção à parte I (As ligações entre a Inteligência Artificial e a Educação (IA&ED)). No presente artigo, atentaremos a um conjunto de desafios que se colocam à utilização da Inteligência Artificial na educação.

 

A Inteligência Artificial e os alunos

Pedagogia - Apesar de utilizarem tecnologias de ponta e de estarem frequentemente fundamentadas nas ciências cognitivas, quase todas as ferramentas comerciais de IA concebidas para apoiar os alunos corporizam uma abordagem behaviorista ou transmissiva ao ensino-aprendizagem, ignorando mais de 60 anos de investigação e desenvolvimento pedagógico.

Personalização - Algumas ferramentas de aprendizagem com IA podem fornecer a cada aprendente o seu próprio caminho através dos materiais, mas ainda assim levam-no aos mesmos resultados fixos de aprendizagem que todos os outros. O percurso pode ser personalizado, mas não o destino, o que representa um fraco entendimento da personalização.

Monitorização - Embora a utilização de IA para traçar o perfil dos alunos possa ter alguns benefícios, por exemplo para identificar alunos em risco de abandono, também pode ser excessivamente intrusiva, minando a legítima expectativa de privacidade do aluno e da sua família.

Influência no comportamento - É necessário considerar cuidadosamente o impacto das aplicações da IA no desenvolvimento da cognição humana e do cérebro em desenvolvimento, uma vez que tais tecnologias podem ter consequências fundamentais especialmente durante períodos críticos de desenvolvimento cerebral.

Autonomia - As crianças não têm a mesma capacidade que os adultos para compreender questões como o preconceito e justiça, para dar um consentimento genuinamente informado, ou para compreender ou contestar o efeito das recomendações e previsões baseadas em IA nas suas vidas. Ao utilizarem ferramentas AI&ED, os aprendentes podem ter menos controlo efetivo sobre a sua aprendizagem e sobre os dados que as suas interações com o sistema produzem.

Deficiência – Embora as aplicações de IA utilizadas para apoiar crianças com deficiência não tenham sido originalmente concebidas para a educação, foram reformuladas e estão a ser cada vez mais utilizadas. No entanto, nem sempre a reformulação foi bem sucedida, existindo igualmente falhas de mercado a assinalar.

Acompanhamento parental – As ferramentas de IA podem influenciar - e na verdade pretendem mesmo influenciar – o trabalho na sala de aula e o modo como as crianças pensam e aprendem e como acedem e avaliam o conhecimento. Isto dificulta o envolvimento dos pais num processo partilhado entre o ambiente educativo e a família.

Alto risco – Foram identificados sistemas de IA para avaliação de alunos ou destinados à utilização por crianças com alto-risco no que respeita ao cumprimento de requisitos obrigatórios em relação a dados e gestão de dados, documentação e manutenção de registos, transparência e fornecimento de informação aos utilizadores, supervisão humana, robustez, exatidão e segurança. É fundamental considerar se e como a utilização da tecnologia está a moldar as crianças de formas que as escolas e os pais não conseguem ver.

Emoções - As tecnologias educativas orientadas pela IA podem ajudar a identificar o estado emocional de um aluno, para o ajudar a passar de um estado afetivo negativo para um positivo. No entanto, recolher informações destinadas a alterar os comportamentos dos alunos é uma forma de controlo psicológico e comportamental que ameaça a privacidade e a autonomia do aprendente, podendo igualmente infringir direitos humanos e dignidade humana.

Segurança digital – A utilização de sistemas automatizados, para monitorizar tudo o que as crianças escrevem no ecrã em tempo real para comparar com milhares de palavras em inglês e bibliotecas de línguas estrangeiras e identificar padrões nas atividades de pesquisa dos alunos, embora com objetivos de segurança, pode levar a criar perfis encobertos, opacos para crianças e as suas famílias e direcionar para uma série de intervenções frequentemente sem consentimento informado.

 

A ética da Inteligência Artificial na Educação

Orientações éticas – É importante conceber e implementar orientações éticas robustas e evitar qualquer "lavagem ética", ou seja, utilização da ética como fachada aceitável para justificar a desregulamentação, a autorregulamentação ou a gestão orientada para o mercado.

Avaliação ética - É necessária uma avaliação ética do impacto do uso da Inteligência Artificial na educação.

Supervisão - A ética da IA na educação é pouco estudada e sem supervisão ou regulamentação - apesar do seu potencial impacto na pedagogia, na qualidade da educação, na ação e no desenvolvimento cognitivo das crianças.

Superior interesse do aluno - Para aumentar a transparência e a fiabilidade dos efeitos da IA, os criadores e fornecedores de sistemas da IA&ED devem ser obrigados a alinhar explicitamente a sua IA a sistemas e estruturas de governação regulados pelo superior interesse do aluno.

 

Referência

[1] Holmes, W., Persson, J., Chounta, I., Wasson, B. & Dimitrova, V. (2022). ARTIFICIAL INTELLIGENCE AND EDUCATION A critical view through the lens of human rights, democracy and the rule of law. Council of Europe. https://rm.coe.int/artificial-intelligence-and-education-a-critical-view-through-the-lens/1680a886bd

Fonte da imagem: obra referida em [1]

_____________________________________________________________________________________________________________________