UNESCO apresenta Guia para IA generativa em educação e investigação [1]

Qui | 21.09.23

UNESCO apresenta Guia para IA generativa em educação e investigação [1]

“Rumo a uma abordagem centrada no ser humano para o uso de IA generativa”^[2]

Desde final de novembro de 2022, as ferramentas de inteligência artificial generativa têm-se multiplicado rapidamente, sem dar tempo aos governos e às instituições educativas de se posicionarem face às mesmas nem de criarem orientações ou regulamentação. A ausência de regulamentação sobre inteligência artificial generativa na maioria dos países deixou a privacidade dos dados dos utilizadores desprotegida e as instituições educativas sem preparação para validar as ferramentas, pelo que se afigurava urgente dar um passo nesse sentido.

Assim, a Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) publicou, no dia 7 de setembro de 2023, um texto para orientar o uso de ferramentas de inteligência artificial generativa em contexto educativo e investigação[3], que visa apoiar os países a implementar ações imediatas, planificar políticas de longo prazo e desenvolver a capacidade de garantir uma visão centrada no ser humano no uso destas novas tecnologias, mitigando potenciais riscos para os valores humanísticos fundamentais.

De acordo com a Recomendação sobre a Ética da lnteligência Artificial [4], o presente documento está ancorado numa abordagem humanista da educação e responde ao apelo do relatório de 2021 da Comissão Internacional- Reimaginar os nossos futuros juntos: um novo contrato social para a educação [5], apontando a necessidade de redefinir a nossa relação com a tecnologia, como parte integrante dos esforços para renovar o contrato social para a educação.

O documento recentemente publicado propõe etapas importantes para as agências governamentais regularem o uso de inteligência artificial generativa, sublinhando a obrigatoriedade da proteção da privacidade dos dados, a necessidade de se estabelecer um limite de idade para o seu uso em contexto educativo e de programas de formação de professores sobre o tema, de modo a garantir o seu uso ético e eficaz.

Assim, o guia agora publicado enfatiza o facto de ser imperativo que as instituições educativas validem os sistemas de inteligência artificial generativa de acordo com princípios éticos e pedagógicos, para trazer efetivos benefícios a alunos, professores e investigadores, e deixa um apelo à comunidade internacional para que reflita e debata sobre as implicações futuras da inteligência artificial generativa no conhecimento, ensino, aprendizagem e avaliação.

Resumo do Guia da UNESCO

O documento é constituído por seis capítulos:

O primeiro capítulo procura esclarecer o que é a inteligência artificial generativa e a forma como funciona, salientando a sua especificidade e limitações, nomeadamente o facto de per se não poder gerar novas ideias ou soluções para os desafios do mundo real (não apreende o mundo real, objetos nem as relações sociais que sustentam a linguagem) e de não ser isenta de erros. Apresenta ferramentas alternativas ao ChatGPT, de acesso aberto ou gratuito, e outros produtos baseados em LLM (Large Language Model) para criar texto, imagem, som, o que requer competências e capacidades muito precisas aquando da interação com esses sistemas para efetivamente tirar partido das suas potencialidades.

O segundo capítulo centra-se nas controvérsias em torno da inteligência artificial generativa e suas implicações para a educação e investigação, alertando os decisores políticos para a necessidade de tomar medidas urgentes para impedir o agravamento das assimetrias resultantes do acesso desigual à criação, controlo e acesso a modelos de inteligência artificial generativa.

É preciso que os utilizadores desenvolvam uma capacidade crítica face às orientações, valores, padrões culturais e costumes sociais incorporados nos modelos de inteligência artificial generativa, para evitar a propagação de deepfakes e polarização. Os outputs podem parecer ser bastante precisos e convincentes, mas, como os dados de treino GPT (Generative Pre-Trained Transformer) são normalmente extraídos da internet, muitas vezes contêm erros e ideias tendenciosas, por isso é fundamental validar a informação e isso requer conhecimentos e capacidades sólidos que têm de ser desenvolvidos. Estes modelos podem, também, reduzir a diversidade de opiniões e marginalizar ainda mais as vozes já marginalizadas, já que os outputs gerados representam somente a visão mais comum ou dominante do mundo no momento em que os seus dados de treino foram produzidos.

O terceiro capítulo detém-se na urgência de regulamentar o uso de inteligência artificial generativa em contexto educativo, para atenuar as controvérsias que gera e aproveitar os potenciais benefícios, o que implica várias etapas e medidas políticas baseadas numa abordagem centrada no ser humano para garantir a sua relevância, ética, segurança e equidade. Assim, neste capítulo propõem-se alguns passos para regular a inteligência artificial generativa na educação e elementos-chave a considerar aquando da elaboração das regulamentações.

No que concerne ao limite de idade para o uso de inteligência artificial generativa, a maioria das aplicações ou ferramentas são projetadas principalmente para utilizadores adultos, pois implicam riscos para crianças, incluindo a exposição a conteúdos inadequados ou uma potencial manipulação. À luz destes riscos, é fortemente recomendada uma idade limite para o uso das tecnologias de IA de uso geral a fim de proteger os direitos e o bem-estar das crianças.

Atualmente, os termos de uso do ChatGPT exigem que os utilizadores tenham, pelo menos, 13 anos de idade, sendo que os utilizadores com menos de 18 anos devem ter permissão dos pais para usar os seus serviços [6], no entanto, já se pondera aumentar esse limite, passando de 13 para 16 anos. O Regulamento Geral de Proteção de Dados da União Europeia[7] (2016) especifica que os utilizadores devem ter pelo menos 16 anos para usar os serviços dos media sociais sem permissão dos pais.

O aparecimento recente de vários chatbots de inteligência artificial generativa exige que os governos dos diferentes países considerem cuidadosamente – e deliberem publicamente – a idade limite apropriada para conversas independentes com plataformas de inteligência artificial generativa, considerando que o limite mínimo deveria ser 13 anos de idade, e, ainda, formas de verificação do cumprimento desse requisito.

O quarto capítulo procura fixar um quadro político que oriente a utilização de inteligência artificial generativa na educação e investigação, pois somente alguns países adotaram políticas ou planos específicos para o uso da IA nesse contexto específico. São sugeridas recomendações e medidas concretas, sendo o ponto de partida AI and education: guidance for policy-makers (Unesco, 2021) [8].

As oito medidas específicas para orientar governos na formulação, desenvolvimento e implementação de políticas setoriais e específicas sobre IA em educação são:

1- Promover a inclusão, a equidade, a diversidade linguística e cultural;

2- Proteger a “agência” humana, a capacidade dos seres humanos de fazerem escolhas, de exercerem o seu livre-arbítrio e de tomarem decisões de forma independente.

3- Monitorizar e validar sistemas de inteligência artificial generativa para a educação;

4- Desenvolver competências de inteligência artificial generativa nos alunos;

5- Capacitar professores e investigadores para fazerem um uso adequado da inteligência artificial generativa;

6- Promover a expressão de ideias plurais;

7- Testar localmente a relevância de modelos de inteligência artificial generativa e criar uma base de evidências;

8- Analisar as implicações da inteligência artificial generativa a longo prazo numa perspetiva intersetorial e interdisciplinar.

O quinto capítulo enfatiza a necessidade de facilitar o uso criativo da inteligência artificial generativa em contexto educativo e ao nível da investigação, pois estas podem ser usadas produtivamente em ambientes educativos trazendo grandes benefícios. Assim, apresenta estratégias institucionais para facilitar o uso responsável e criativo dessas ferramentas e plataformas, sublinhando a necessidade de priorizar, na interação entre humanos e ferramentas de IA, critérios pedagógicos, devendo o recurso a essas ferramentas contribuir para satisfazer necessidades dos seres humanos e tornar a aprendizagem e a investigação mais eficazes. Por isso, a seleção das ferramentas e conteúdos deve atender à faixa etária dos alunos, aos resultados esperados e ao tipo de conhecimento que se procura desenvolver (factual, concetual, processual ou metacognitivo), sendo muito importante uma monitorização contínua.

O sexto e último capítulo foca-se no futuro da inteligência artificial generativa na educação e investigação, prevendo um impacto a médio e longo prazo cujos contornos ainda são desconhecidos, daí a necessidade de atenção imediata e de uma análise mais aprofundada, atendendo a questões éticas, direitos autorais e propriedade intelectual, fontes de conteúdo e de aprendizagem, avaliação e resultados de aprendizagem. Sublinha-se a ideia de que o recurso à inteligência artificial generativa deve promover a criatividade, a colaboração, o pensamento crítico e outras competências/ habilidades de pensamento de ordem superior.

Considerações finais

Na perspetiva de uma abordagem centrada no ser humano, as ferramentas de inteligência artificial generativa devem ser projetadas para aumentar capacidades intelectuais humanas e competências sociais, pondo-as ao serviço de um futuro inclusivo e sustentável.

A inteligência artificial generativa deve ser posta ao serviço da educação e da investigação, todavia todo o processo deve ser rigorosamente acompanhado e orientado para uma abordagem centrada no ser humano.

Somente desse modo se poderá garantir que as potencialidades da IA, em particular, e de todas as outras tecnologias utilizadas na educação, de forma mais ampla, irão efetivamente melhorar as capacidades humanas e construir futuros digitais para todos.

Referências

Tradução nossa do título Guidance for generative AI in education and research.
Frase utilizada por Stefania Giannini, assistente da Diretora-Geral da UNESCO para a Educação, no prefácio do documento Guidance for generative AI in education and research, da UNESCO (2023). https://unesdoc.unesco.org/ark:/48223/pf0000386693 .
UNESCO (2023). Guidance for generative AI in education and research. https://unesdoc.unesco.org/ark:/48223/pf0000386693 .
UNESCO (2022). Recomendação sobre a Ética da inteligência Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137_por . Ver artigo Estados-membros da UNESCO adotam o Acordo Mundial sobre Ética da Inteligência Artificial (IA).
UNESCO (2021). Reimaginar nossos futuros juntos : um novo contrato social para a educação. https://unesdoc.unesco.org/ark:/48223/pf0000381115. Ver artigo Reimaginar os nossos futuros juntos: um novo contrato social para a educação .
Essas restrições encontram-se na Lei de Proteção da Privacidade Online das Crianças, dos Estados Unidos da América- Federal Trade Commission (1998). Children’s Online Privacy Protection Act of 1998. https://www.ftc.gov/legal-library/browse/rules/childrensonline-privacy-protection-rule-coppa
Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho (27 de abril de 2016). https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX:02016R0679-20160504
UNESCO (2021). AI and education: guidance for policy-makers. https://unesdoc.unesco.org/ark:/48223/pf0000376709