A inteligência artificial nas Bibliotecas Escolares: Desafios éticos e legais

Qua | 26.06.24

A inteligência artificial nas Bibliotecas Escolares: Desafios éticos e legais

Ao longo dos artigos da série “A inteligência artificial nas bibliotecas escolares” foram apresentados os desafios e as oportunidades que o uso desta tecnologia coloca às bibliotecas, numa perspetiva integrada e integradora, que deve considerar o contexto em que se insere cada escola, bem como as orientações emanadas dos documentos de referência de cada agrupamento de escolas/escola não agrupada, como é o caso do Plano de Ação de Desenvolvimento Digital (PADDE).

Foram, ainda, apresentados alguns dos benefícios da integração da inteligência artificial (IA) no apoio ao trabalho dos professores e nas bibliotecas escolares, ao permitirem uma melhor organização e gestão de recursos e a prestação de serviços personalizados para responder às necessidades individuais dos alunos e criar uma experiência de aprendizagem mais envolvente.

No entanto, a implementação destas tecnologias também levanta questões éticas e legais que devem ser cuidadosamente consideradas para garantir um uso responsável e seguro da IA em contexto educativo. Este último artigo da série “A inteligência artificial nas bibliotecas escolares” aborda estas questões.

Privacidade

Uma das principais preocupações éticas e legais é a questão da privacidade dos dados dos alunos. As bibliotecas escolares podem recolher e armazenar informações pessoais e padrões de comportamento dos alunos, por exemplo as preferências de navegação nas plataformas disponibilizadas pela biblioteca e os históricos de pesquisa, para adequar os serviços que prestam às necessidades e interesses de cada utilizador. A utilização de tecnologias de IA para processar estes dados pode aumentar o risco de violação de privacidade, especialmente se os dados forem mal geridos ou acedidos por terceiros sem o devido consentimento.

É necessário implementar medidas rigorosas de proteção através de políticas claras de retenção e eliminação de dados, para salvaguardar a privacidade dos alunos, em conformidade com o Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia (EUR-Lex, 2016).

Equidade

Garantir a equidade no acesso e na utilização das tecnologias de IA é outro dos desafios que se coloca às bibliotecas escolares. Se estes sistemas não forem desenvolvidos e implementados de forma justa e inclusiva, existe o risco de que possam perpetuar ou até ampliar as desigualdades existentes (Binns, 2018). Isto pode ocorrer devido a preconceitos incorporados nos algoritmos ou ao acesso desigual às tecnologias, deixando alguns grupos de alunos em desvantagem.

É essencial que as bibliotecas escolares adotem práticas de desenvolvimento e implementação de IA que promovam a equidade, garantindo que todos os alunos possam beneficiar destas tecnologias, em conformidade com os princípios de ética da IA propostos pela Comissão Europeia (2019).

Transparência

A transparência é fundamental para criar confiança nas tecnologias de IA. Os alunos, pais e professores devem compreender que decisões são tomadas pelos sistemas de IA, especialmente quando podem ter um impacto significativo no processo de aprendizagem ou no acesso a recursos. Isto requer algoritmos auditáveis e explicáveis, bem como a disponibilização de informações claras e compreensíveis sobre o funcionamento destas ferramentas, para que possam ser devidamente escrutinadas, se necessário, em conformidade com os requisitos de transparência estabelecidos pelo RGPD.

Regulamentação

Para enfrentar estes desafios de forma eficaz, é essencial que as bibliotecas escolares estejam em conformidade com a regulamentação em vigor relativamente ao uso de IA em ambiente educativo. Para isso, devem ser implementadas políticas claras de privacidade e segurança de dados e realizadas avaliações de impacto de proteção de dados, garantindo que os sistemas de IA são auditáveis e transparentes.

Para além da conformidade com o RGPD, as bibliotecas devem conhecer a posição do Parlamento Europeu, aprovada a 13 de março de 2024[1], que estabelece regras harmonizadas em matéria de inteligência artificial e regula os sistemas de IA de alto risco, como os utilizados em ambiente educativo.

As bibliotecas escolares desempenham um papel crucial na implementação responsável e segura da IA em contexto educativo. Ao alinhar as suas práticas com a regulamentação em vigor, implementar medidas de proteção de dados adequadas e garantir a transparência e o consentimento, as bibliotecas podem aproveitar os benefícios da IA (Mittelstadt et al., 2016) de forma justa, ética e segura para os alunos.

Nota:
[1] Disponível em https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_PT.pdf

Referências

Binns, R. (2018). Fairness in machine learning: Lessons from political philosophy. In Conference on Fairness, Accountability and Transparency (pp. 149-159).https://arxiv.org/pdf/1712.03586
Comissão Europeia. (2019). Ethics guidelines for trustworthy AI. Disponível em https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
EUR-Lex. (2016). Regulation (EU) 2016/679 of the European Parliament and of the Council. https://eur-lex.europa.eu/eli/reg/2016/679/oj
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2). https://journals.sagepub.com/doi/full/10.1177/2053951716679679
📷 Imagem criada com Designer – Copilot