Blogue RBE

Utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem

A inteligência artificial (IA) está cada vez mais presente na nossa sociedade, influenciando a forma como trabalhamos, aprendemos e interagimos uns com os outros. Em educação, pode contribuir para a melhoria das práticas de ensino, aprendizagem e avaliação, pois, entre outras coisas, permite responder às necessidades individuais dos alunos, personalizando percursos de aprendizagem e fornecendo informações importantes sobre o seu progresso. 

É neste contexto que surge a publicação, pela Comissão Europeia, do documento intitulado Orientações éticas para educadores sobre a utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem [1], no âmbito do Plano de Ação para a Educação Digital (2021-2027).

Este documento ajuda os educadores a compreender o potencial que as aplicações de inteligência artificial e a utilização de dados podem ter na educação e alertar para os possíveis riscos. Os profissionais da educação poderão, assim, interagir de forma adequada com os sistemas de IA e explorar todo o seu potencial, pois “... terão agora uma base sólida para avançarem e expandirem a sua utilização destas tecnologias de uma forma atenta, segura e ética” (Comissão Europeia, 2022, p. 6).

O documento está estruturado em quatro partes fundamentais, que passamos a apresentar.

1. Política da UE em matéria de inteligência artificial e proposta de quadro regulamentar

No seguimento das Orientações Éticas para uma IA de Confiança, apresentadas em 2019, a Comissão Europeia definiu um quadro regulamentar em matéria de inteligência artificial (https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai), tendo criado o grupo de trabalho GPAN IA, constituído por especialistas nesta área (https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai), bem como um grupo de trabalho no âmbito dos dados (https://digital-strategy.ec.europa.eu/en/policies/data).

Neste capítulo são ainda apresentadas algumas das ideias erradas mais comuns sobre a utilização de IA e de dados, em contexto educativo, nomeadamente:

- A IA é demasiado difícil de compreender;

- A IA não tem qualquer papel na educação;

- A IA não é inclusiva;

- A IA comprometerá o papel do professor;

- Não se pode confiar nos sistemas de IA.

2. Exemplos da utilização de IA e de dados na educação

A IA pode ser utilizada em educação para apoiar práticas de ensino, aprendizagem e avaliação. De forma a facilitar a compreensão das potencialidades da IA, o documento apresenta quatro áreas de utilização:

- ensino dos alunos (sistema de tutoria inteligente, sistemas de tutoria baseados no diálogo, aplicações de aprendizagem de línguas);
- apoio aos alunos (ambientes de aprendizagem exploratória, avaliação formativa escrita, aprendizagem colaborativa apoiada pela IA);
- apoio aos professores (avaliação sumativa escrita, classificação de trabalhos escritos, monitorização de fóruns de alunos, assistentes de ensino através de IA, recomendação de recursos pedagógicos);
- apoio aos sistemas (prospeção de dados educativos para a afetação de recursos, diagnóstico de dificuldades de aprendizagem, serviços de orientação).

3. Considerações éticas e requisitos subjacentes às orientações éticas

Estas orientações apresentam quatro considerações fundamentais que estão na base da utilização ética da IA e dos dados no ensino, na aprendizagem e na avaliação:

- ação humana - capacidade de cada um para ser responsável pelos seus atos;
- equidade - necessidade de tratar todas as pessoas de forma equitativa na organização social;
- humanidade - necessidade de assegurar a identidade, integridade e dignidade de todas as pessoas;
- escolha justificada - utilização de conhecimentos, factos e dados para justificar as escolhas, que devem ser feitas de forma transparente e tendo em conta modelos de tomada de decisões participativos e colaborativos.

Nesse sentido, os requisitos essenciais para uma IA de confiança são:

- Ação e supervisão humanas;

- Diversidade, não discriminação e equidade;

- Bem-estar societal e ambiental;

- Privacidade e governação dos dados;

- Solidez técnica e segurança;

- Responsabilização.

Para cada um destes requisitos, o documento apresenta uma série de perguntas de orientação que fomentam a reflexão e apoiam os educadores na utilização de IA.

4. Orientações para educadores e dirigentes escolares

Neste capítulo, são apresentadas medidas que podem ser implementadas por educadores e dirigentes, levando-os a utilizar a IA de forma ética. Estas medidas são organizadas em seis cenários escolares e, em cada um, existem exemplos de perguntas de orientação que ajudam à tomada de decisão, para que a IA seja utilizada de forma ética e responsável:

1. Utilizar tecnologias de aprendizagem adaptativa às capacidades de cada aluno;

2. Utilizar painéis do aluno para orientar os alunos na sua aprendizagem;

3. Prever intervenções individualizadas para necessidades especiais;

4. Classificar trabalhos escritos através de ferramentas automatizadas;

5. Gerir as matrículas dos alunos e o planeamento dos recursos;

6. Utilizar robôs de conversação para ajudar os alunos e os pais a tratar das questões administrativas.

A utilização de IA e de dados em contexto educativo implica um planeamento rigoroso e uma implementação gradual, sempre acompanhada de avaliação, num trabalho colaborativo e reflexivo que envolva a comunidade escolar. Para isso a escola deve:

- Analisar os atuais sistemas de IA e a utilização de dados;

- Implantar políticas e procedimentos;

- Realizar um projeto-piloto do sistema de IA;

- Colaborar com o fornecedor do sistema de IA;

- Controlar o funcionamento do sistema de IA e avaliar os riscos;

- Debater com colegas;

- Colaborar com outras escolas;

- Comunicar com os pais, os alunos e a comunidade escolar;

- Manter-se atualizada.

O documento disponibiliza, ainda, um completo glossário de termos sobre IA e dados.

Referências

[1] Comissão Europeia, Direção-Geral da Educação, da Juventude, do Desporto e da Cultura (2022). Orientações éticas para educadores sobre a utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem. Serviço das Publicações da União Europeia. https://data.europa.eu/doi/10.2766/07

Fonte da imagem: [1]