Blogue RBE

Inteligência Artificial nas bibliotecas

O principal objetivo da Inteligência Artificial (IA) é desenvolver tecnologias que tenham a capacidade de simular as ações humanas e de “pensar” de forma lógica, criando soluções para os mais variados aspetos da vida.

Um dos resultados práticos mais evidentes das tecnologias de IA é a modernização das empresas, no entanto nos tempos mais recentes temos assistido à sua disseminação pelos mais variados aspetos da vida, havendo a consciência de que essa penetração vai aumentar exponencialmente.

Naturalmente, a sua utilização chega também a áreas das humanidades e, como não poderia deixar de acontecer, à educação.

Em 2021, a OCDE apresentou o documento Pushing the Frontiers with Artificial Intelligence, Blockchain and Robots, que equaciona o modo como as tecnologias - incluindo inteligência artificial (IA), learning analytics, robótica e outras – podem transformar o universo educativo, tal como tem vindo a transformar, de um modo geral, as sociedades. (Blogue RBE: Inteligência Artificial, Blockchain e Robôs e outras tecnologias na transformação da educação).

Já em janeiro de 2022, com a consciência de que as tecnologias da IA estão a produzir resultados notáveis em campos altamente especializados, podendo também ajudar a combater problemas globais, mas que traz simultaneamente desafios sem precedentes, os Estados-membros da UNESCO adotam o Acordo Mundial sobre Ética da Inteligência Artificial (IA). (Blogue RBE: Estados-membros da UNESCO adotam o Acordo Mundial sobre Ética da Inteligência Artificial).

Também em janeiro de 2022, a IFLA publicou a atualização do seu Relatório de tendências (referente a 2021), chamando a atenção para o facto de, graças à IA, a forma como se encontra a informação se revolucionar, transformando a pesquisa e tornando possível fornecer aos utilizadores resultados cada vez mais precisos. Este relatório evidencia igualmente que novos usos e aplicações de dados (estreitamente relacionados com a IA) alteram dramaticamente a vida económica e social, tornando cada vez mais essencial que as pessoas aprendam a lidar com eles. (Blogue RBE: Relatório de tendências da IFLA 2021)

A IA é, portanto, uma questão que está a alterar significativamente, também, o trabalho na área das bibliotecas e sobre a qual todos os profissionais ligados à ciência da informação devem refletir e tomar decisões. As bibliotecas escolares e os professores bibliotecários não estão dispensados dessa tarefa. A Biblioteca Nacional da Holanda (KB) já pensou sobre o assunto e conhecer os princípios que definiu pode ajudar todos os profissionais interessados.

Embora consciente de que a IA desempenha um papel cada vez mais importante na leitura, aprendizagem e investigação, atividades centrais das bibliotecas, e apreciando as grandes possibilidades que oferece para as ajudar a cumprir a sua missão de tornar os utilizadores mais inteligentes, mais criativos e mais competentes, a Biblioteca Nacional da Holanda (KB) não fecha os olhos a efeitos secundários imprevistos e indesejáveis, que podem levantar questões éticas, talvez mais do que outras formas de transformação digital.

Sentindo a sua responsabilidade na abordagem destas questões, formulou sete princípios que considera que qualquer aplicação de IA no contexto de biblioteca deve cumprir, os quais tomam como fundamento o seu potencial e os seus benefícios e, ao mesmo tempo, dão diretrizes para evitar armadilhas éticas.

O ponto de partida para definir estes princípios (sintetizados na imagem abaixo) é a premissa central da ONU que afirma que a IA pode e deve ser usada para fazer do mundo um lugar melhor, conforme definido nos 17 Objetivos de Desenvolvimento Sustentável (ODS), que guiam muitas iniciativas e projetos que a incluem.

1. Acessibilidade

A biblioteca utiliza a IA principalmente para tornar a informação acessível ao público e para promover a capacitação (digital) de todos os cidadãos.

A IA é usada para ajudar a biblioteca a cumprir a sua missão de preservar a informação e tornar a maior quantidade possível acessível aos utilizadores atuais e futuros para lerem, aprenderem e pesquisarem. A aplicação de IA em bibliotecas deve apoiar os ODS, especificamente o ODS 16.10, fornecendo acesso público à informação, e o ODS 4.6 promovendo a alfabetização e a numeracia.

2. Robustez

A biblioteca trabalha apenas com aplicações de IA que são robustamente concebidas e desenvolvidas e cuja utilização é fiável.

As aplicações de IA são aplicações de software que devem satisfazer padrões elevados. A sua robustez é determinada pela qualidade do design, realização, testes, manutenção e documentação. Os fornecedores de IA devem utilizar métodos comprovados, normas, estruturas e certificações de engenharia de software, complementadas com novas normas para algoritmos de aprendizagem de máquinas e conjuntos de dados para formação e testes.

3. Inclusão

A biblioteca só desenvolve e utiliza conjuntos de dados e aplicações de IA que sejam inclusivas.

A biblioteca tem um papel na criação de IA inclusiva, disponibilizando conjuntos de dados para formação e testes de aplicações de IA imparciais, ou explicáveis tendo em conta a idade, etnia, religião, identidade de género, orientação sexual, origem e preferência política.

Mais importante do que prevenir o enviesamento, a que toda a IA é inerentemente suscetível, é saber onde e em que medida este ocorre, para poder ser eliminado ou compensado, mantendo assim a inclusão.

4. Neutralidade

A biblioteca não desenvolve nem utiliza aplicações de IA que visem manipular o comportamento ou pensamento das pessoas.

Embora os sistemas de IA sejam concebidos para apoiar os seres humanos na tomada de decisões e escolhas, isso nunca pode ser mal utilizado, orientando os utilizadores para direções que eles não escolheriam fora do contexto da IA.

A neutralidade dos sistemas de IA pode ser influenciada por dados e algoritmos direcionados, pelo que a biblioteca deve assumir o seu papel de perito neutro e orientar os seus utilizadores, fornecendo conselhos decorrentes de dados e algoritmos neutros.

5. Controle humano

A biblioteca apenas desenvolve e utiliza aplicações de IA que têm, por princípio, em pontos cruciais, alguma forma de monitorização por um humano. "Nenhum humano, nenhuma IA".

A IA serve para apoiar as atividades humanas, mas não deve atuar como um sistema de decisão independente; pode executar muitas tarefas de forma independente, mas deve, em pontos cruciais, ser controlada por pessoas que, em última análise, decidem.

6. Transparência

De preferência e sempre que possível, a biblioteca só desenvolve e utiliza aplicações de IA cujos algoritmos, dados e métodos são transparentes.

A IA não pode ser uma "caixa negra" da qual nem o desenhador consegue explicar como é que se chega a uma conclusão. A transparência pode ser alcançada através da aplicação dos conhecimentos da IA Explicável (XAI). Uma premissa importante da XAI é o “direito a uma explicação” da forma como um sistema de IA chegou a determinada conclusão, especialmente se ela tiver implicações financeiras, legais, ou sociais.

7. Segurança

A biblioteca apenas desenvolve e utiliza aplicações de IA sobre as quais existe a certeza de que respeitam a privacidade dos empregados e utilizadores.

Existe uma extensa legislação sobre privacidade, sobretudo no contexto dos sistemas informáticos, que se aplica também aos sistemas de IA. Existe uma preocupação social substancial, compreensível e justificável, sobre a privacidade em relação à IA. O papel das bibliotecas não é minimizar estas preocupações, mas, pelo contrário, ser um porto seguro, um lugar onde tudo o que é privado é respeitado e protegido.

Referência

Van Wessel, Jan Willem.AI in Libraries: Seven Principles. Zenodo, 2020. https://zenodo.org/record/3865344#.YhXwhujP23A