Blogue RBE

Um referencial para a literacia em IA

por Melanie Hibbert, Elana Altman, Tristan Shippen and Melissa Wright*

As equipas académicas e tecnológicas do Barnard College desenvolveram um referencial de literacia em IA para fornecer uma base conceptual que contribua para a educação e programação em IA em contextos institucionais de ensino superior.

O Barnard College é uma faculdade de letras e humanidades para mulheres. É simultaneamente uma instituição distinta e um membro do ecossistema mais alargado da Universidade de Columbia, em Nova Iorque. Várias equipas pequenas mas ativas desse campus estão a trabalhar para dinamizar discussões sobre tópicos de inteligência artificial (IA) generativa. Como membros do Instructional Media and Academic Technology Services (IMATS) e do Center for Engaged Pedagogy (CEP), desenvolvemos programas educativos sobre vários tópicos de IA para a comunidade Barnard. Ao longo do ano passado, realizámos sessões de open lab para testar diferentes ferramentas de IA baseadas em texto e imagem, recebemos oradores convidados sobre direitos de autor e utilização legítima, disponibilizámos workshops para debate sobre programas de IA generativa para o corpo docente, realizámos workshops de instrução (GenAI 101) e conduzimos sessões de formação destinadas a departamentos do corpo docente. Este processo tem sido contínuo e iterativo à medida que as ferramentas mudam e as necessidades dos membros da comunidade do campus se alteram. Também implementámos mecanismos internos de inquérito, avaliação e feedback para compreender melhor as necessidades do corpo docente e do restante pessoal relacionadas com a utilização de ferramentas de IA generativa.

A necessidade de literacia em IA

O Barnard College criou vários grupos de trabalho internos e task forces para discutir questões maiores sobre o impacto da IA na nossa instituição. Atualmente, não existe qualquer ordem ou recomendação para que os professores adotem ou proíbam a IA nas suas salas de aula. No entanto, os professores são encorajados a definir e discutir as suas expectativas relativamente à utilização da IA nas suas tarefas. (O CEP criou muitos recursos para o corpo docente, incluindo árvores de decisão para orientar o corpo docente no planeamento, exemplos de de programa de estudos, tarefas que integram a IA generativa e outros materiais, para ajudar a orientar a tomada de decisões sobre se e como incorporar a IA generativa na sala de aula). Níveis mais elevados de literacia em IA podem ajudar os docentes a tomar decisões informadas sobre a utilização da IA nos seus cursos e trabalhos. No que diz respeito aos serviços de tecnologia académica, a equipa do IMATS decidiu não implementar nem procurar tecnologia de vigilância da IA para monitorizar a integridade académica devido à parcialidade e à fiabilidade questionável destas ferramentas.[1] No entanto, o panorama e as políticas dele decorrentes podem mudar à medida que as tecnologias de IA generativa evoluem.

Um enquadramento para a literacia em IA

Os membros do IMATS e do CEP desenvolveram a seguinte abordagem para orientar o desenvolvimento e a expansão da literacia em IA entre professores, alunos e funcionários do Barnard College. O nosso enquadramento fornece uma estrutura para aprender a utilizar a IA, incluindo explicações dos principais conceitos de IA e questões a considerar quando se utiliza a IA. A estrutura em pirâmide de quatro partes foi adaptada do trabalho efectuado por investigadores da Universidade de Hong Kong e da Universidade de Ciência e Tecnologia de Hong Kong (ver figura 1). (O trabalho dos investigadores de Hong Kong baseia-se na Taxonomia de Bloom.) [2]

O referencial destina-se a ir ao encontro das pessoas onde elas se encontram, partindo do nível de literacia em IA de cada uma, quer tenham pouco ou nenhum conhecimento de IA, quer estejam preparadas para construir o seu próprio modelo de linguagem de grande dimensão (LLM). O referencial divide a literacia em IA nos quatro níveis seguintes:

          1. Compreender a IA
          2. Utilizar e aplicar a IA
          3. Analisar e avaliar a IA
          4. Criar IA

Ao aplicar este referencial, é importante ter em conta que a IA é um domínio vasto. Existem muitos tipos de IA, tanto reais como teóricos. Embora os conceitos enumerados neste artigo se centrem principalmente na IA generativa, a estrutura geral do referencial pode ser aplicada a outras formas de IA e literacias tecnológicas (por exemplo, cibersegurança). E, embora a informação em cada nível se baseie nos conceitos discutidos no nível anterior, não é necessário aprender tudo num nível antes de passar ao seguinte. Por exemplo, ao analisar o impacto que a IA generativa pode ter no mercado de trabalho, é útil compreender como são treinados os modelos de IA generativa; no entanto, não é necessário dominar os meandros das redes neuronais para efetuar essa análise. 

Figura 1. Um enquadramento para a literacia em IA

Crédito: Melanie Hibbert. Usada pelos autores com autorização.

 Nível 1: Compreender a IA

A base da pirâmide abrange termos e conceitos básicos de IA. A maior parte da programação e do ensino em Barnard tem-se centrado nos níveis um e dois (compreender, utilizar e aplicar a IA), uma vez que se trata de uma tecnologia em rápida evolução e que ainda existe muito desconhecimento sobre ela.

Competências essenciais

• Ser capaz de definir os termos “inteligência artificial”, “aprendizagem automática” ("machine learning"), “modelo de linguagem de grande dimensão” e “rede neuronal”
  
  
• Reconhecer os benefícios e as limitações das ferramentas de IA
  
  
• Identificar e explicar as diferenças entre os vários tipos de IA, de acordo com as suas capacidades e mecanismos computacionais

Conceitos-chave

• Inteligência artificial, aprendizagem automática ("machine learning"), redes neuronais artificiais, modelos de linguagem de grande dimensão e modelos de difusão
  
  
• Inteligência artificial restrita, inteligência artificial geral, superinteligência artificial, máquinas reactivas, memória limitada, teoria da mente e auto-consciência
  
  
• Ferramentas de IA, como o ChatGPT (ver figura 2), Siri, Alexa, Deep Blue e texto preditivo
  
  
• Quadros técnicos relacionados com a IA (modelos de código aberto versus modelos fechados, API e modo de utilização)

Perguntas de reflexão

• - Que tipo de IA é esta?
• - Que tecnologias é que esta ferramenta de IA utiliza?
• - Para que é que esta ferramenta foi concebida? Que tipo de informação aceita como input e devolve como resposta (texto, vídeo, áudio, etc.)?
• - Para que é que esta ferramenta pode ser particularmente útil?
• - Para que é que não seria útil?

Figura 2. Desenvolvimento de uma compreensão básica dos conceitos de IA generativa
Crédito: Imagem criada por Elana Altman, Tristan Shippen, and Melissa Wright. Usada com autorização.

 Nível 2: Utilizar e aplicar a IA

O segundo nível de fluência em IA indica que os utilizadores podem utilizar ferramentas como o ChatGPT para atingir os seus objectivos; estes utilizadores estão familiarizados com as técnicas de construção de prompts e sabem como refinar, iterar e editar de forma colaborativa com ferramentas de IA generativas. A programação concebida para desenvolver a fluência de nível dois no Barnard College inclui laboratórios práticos e técnicas de construção de prompts colaborativas em tempo real (ver figura 3).

Competências essenciais

• Utilizar com sucesso ferramentas de IA generativas para obter as respostas desejadas
  
  
• Experimentar técnicas de elaboração de prompts e afinar a linguagem do prompt para melhorar o resultado gerado pela IA
  
  
• Rever o conteúdo gerado pela IA com vista a potenciais “alucinações”, raciocínios incorretos e enviesamentos

Conceitos-chave

• Engenharia de prompts, janelas de contexto, alucinações, enviesamento, prompts de disparo zero ("zero-shot prompting") e prompts de disparo reduzido ("few-shot prompting")
  
  
• Técnicas de formulação prompts para IA generativa baseada em texto, como adicionar especificidade, usar contexto e detalhes e pedir ao modelo que considere prós e contras ou avalie posições alternativas
  
  
• Considerações sobre privacidade, confidencialidade e direitos de autor para as informações introduzidas nas ferramentas de prompts

Perguntas de reflexão

• - Porque é que um prompt gerou uma determinada resposta?
• - Como é que o prompt poderia ser ajustado para obter uma resposta diferente?
• - Que estratégias podem ser utilizadas para reduzir o enviesamento e as alucinações?
• - Como é que os resultados da IA podem ser verificados quanto a enviesamentos e alucinações?

Figura 3. Elaboração colaborativa de prompts em tempo real

Captura de ecrã de uma apresentação de Marko Krkeljas, programador sénior de software e aplicações do IMATS e diretor técnico do Centro de Ciências Computacionais (CSC) de Barnard. Durante a sua apresentação aos membros da comunidade de prática de IA generativa de Barnard, Krkeljas demonstrou a engenharia rápida em tempo real com o contributo dos participantes. Usado pelos autores com autorização.

Nível 3: Analisar e avaliar a IA

Analisar e avaliar a IA envolve uma meta-compreensão mais complexa da IA generativa. A este nível, os utilizadores devem ser capazes de refletir criticamente sobre resultados, enviesamentos, ética e outros tópicos para além da janela do prompt. Um exemplo de programação a este nível é um evento que contou com a participação de um perito que discutiu as questões actuais de direitos de autor e de propriedade intelectual em torno da IA e os impactos ambientais e climáticos que a IA generativa pode ter (ver figura 3). É claro que se pode participar em conversas sobre estas questões e ideias sem conhecer todas as definições de IA. No entanto, a familiaridade com os níveis anteriores da pirâmide informa a compreensão e o vocabulário de base de uma pessoa, ajudando-a a compreender como a IA se cruza com outros domínios.

 Competências essenciais

• Examinar a IA num contexto mais vasto, integrando conhecimentos da sua disciplina ou interesses pessoais
  
  
• Criticar as ferramentas de IA e apresentar argumentos a favor ou contra a sua criação, utilização e aplicação
  
  
• Analisar considerações éticas no desenvolvimento e aplicação da IA

Conceitos-chave

• Perspetivas críticas sobre a IA (Os exemplos seguintes não pretendem ser exaustivos)
  
  
• sustentabilidade ambiental
  
  
• trabalho
  
  
• privacidade
  
  
• direitos de autor
  
  
• raça, género, classe e outros enviesamentos
  
  
• desinformação

Questões para reflexão

• - Que outras perspetivas ou enquadramentos podem ser úteis para avaliar as implicações da utilização de ferramentas de IA generativa?
• - De onde podem vir os enviesamentos na IA?
• - De que forma é que a utilização de ferramentas de IA generativa coincide ou diverge dos seus valores pessoais?

 Figura 4. Criar imagens geradas por IA e avaliá-las quanto a enviesamentos
Imagem de um workshop sobre IA generativa e artes visuais realizado por Melanie Hibbert e Emily Alexander. Durante o workshop, as imagens foram geradas e analisadas quanto a preconceitos. Esta imagem foi gerada utilizando o DALL-E 3 a partir do seguinte prompt: “Gerar uma imagem de uma equipa de filmagem a trabalhar num cenário de cinema.”

Nível 4: Criar IA

A este nível de fluência em IA, os utilizadores são capazes de interagir com a IA ao nível da criação. Por exemplo, os utilizadores podem basear-se em APIs (Application Programming Interface) abertas para criar o seu próprio LLM (large language model) ou tirar partido da IA para desenvolver novos sistemas (ver figura 5). Atualmente, Barnard oferece menos programação no nível quatro do que nos outros três níveis, mas tem havido workshops no Centro de Ciência Computacional que fornecem ensinamentos técnicos relacionados com a construção de modelos de IA e de modelos de machine-learning. É importante envolver pessoas em todos os níveis de fluência em IA.

Competências essenciais

• Sintetizar a aprendizagem para concetualizar ou criar novas ideias, tecnologias ou estruturas relacionadas com a IA. Atingir este nível de literacia pode incluir o seguinte:
  
  
• Conceber novas utilizações para a IA
  
  
• Construir software que tire partido da tecnologia de IA
  
  
• Propor teorias sobre a IA

Perguntas de reflexão

• - O que há de exclusivamente humano nas suas ideias, tecnologias ou estruturas? Em que é que elas podem ser diferentes das que uma IA poderia criar?
• - Que características específicas da IA conferem possibilidades únicas às ideias, tecnologias ou estruturas?

Figura 5. Utilizar ferramentas de IA para desenvolver software

Imagem de um workshop ministrado por Marko Krkeljas que envolveu os participantes na utilização da IA para criar software. Utilizada pelos autores com autorização.

Conclusão e próximas etapas

Embora este referencial de literacia em IA não seja exaustivo, fornece uma base concetual para os esforços de educação e programação em IA, particularmente em contextos institucionais de ensino superior. A intenção é manter a neutralidade na utilização da IA, reconhecendo que a literacia tecnológica pode levar à decisão de não a utilizar. O impacto da IA no ensino superior será provavelmente significativo, afectando as admissões, a investigação e os currículos. A educação e a literacia de base são os primeiros passos para que uma comunidade se envolva de forma produtiva com esta tecnologia em rápida mutação.

São muitos os próximos passos que o Barnard College pode dar em relação à IA generativa, mas, especificamente no que diz respeito à abordagem da literacia em IA, as equipas do IMATS e do CEP podem explorar a possibilidade de “subir” na pirâmide da literacia em termos de programação, recursos e eventos, à medida que a sensibilização e a literacia básica aumentam. Atualmente, a maioria das nossas ofertas situa-se nos níveis um e dois, mas esperamos mudar o foco da nossa programação para os níveis dois e três. Um inquérito recente revelou que um número significativo de professores e alunos ainda não utilizou a IA generativa e tem uma perceção negativa destas ferramentas, pelo que as nossas equipas estão também a explorar formas de facilitar o envolvimento prático e crítico.

Outro objetivo da iniciativa de literacia em IA é sublinhar o aspeto humano destas tecnologias. Embora a utilização de IA generativa possa parecer quase alquimia - extrair ouro de um texto simples através de tecnologia de caixa negra - ela é em grande medida construída com base no conhecimento humano, que tem os seus próprios preconceitos e desigualdades. A utilização de uma lente crítica ao interagir com a IA generativa pode ajudar os utilizadores a identificar os enviesamentos existentes e evitar que os utilizadores os exacerbem.

Notas

[1] Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, and James Zou, "GPT Detectors Are Biased Against Non-native English Writers," Patterns 4, no. 7 (July 2023): 100779. Jump back to footnote 1 in the text.↩

[2] Davy Tsz Kit Ng, Jac Ka Lok Leung, Samuel Kai Wah Chu, and Maggie Shen Qiao, "Conceptualizing AI Literacy: An Exploratory Review," Computers and Education: Artificial Intelligence 2 (2021); Benjamin S. Bloom, Max D. Engelhart, Edward J. Furst, Walker H. Hill, and David R. Krathwohl, Taxonomy of Educational Objectives: The Classification of Educational Goals, Handbook I: Cognitive Domain (New York: David McKay, 1956). Jump back to footnote 2 in the text.↩

* Sobre os autores

Melanie Hibbert é Diretora dos Serviços de Tecnologia Académica e de Meios de Comunicação Instrucionais e do Sloate Media Center no Barnard College, Universidade de Columbia.

Elana Altman é Diretora Associada Sénior de UX e Tecnologias Académicas no Barnard College, Universidade de Columbia.

Tristan Shippen é Especialista Sénior em Tecnologia Académica, Biblioteca Barnard e Serviços de Informação Académica no Barnard College, Universidade de Columbia.

Melissa Wright é Diretora Executiva do Centro de Pedagogia Dedicada, no Barnard College, Universidade de Columbia.

Referência

Hibbert, M., Altman, E., Shippen, T. & Wright, M. (2024, 3 de junho). A Framework for AI Literacy. EDUCAUSE Review. https://er.educause.edu/articles/2024/6/a-framework-for-ai-literacy

Este artigo foi traduzido. O conteúdo está licenciado ao abrigo de uma Licença Internacional Creative Commons BY-NC 4.0.