Blogue RBE

O dilema da Inteligência Artificial

Potencial

Os sistemas de IA (Inteligência Artificial) têm potencial para transformar o modo como aprendemos/trabalhamos e vivemos.

Automatizam versões agregadas de competências humanas com valor, usadas para ler, conhecer, expressar e influenciar/manipular.  “Todas as tecnologias têm consequências positivas e negativas, mas com a IA, o alcance dessas consequências é extraordinariamente grande” e, por isso, o uso de IA em educação deve ser amplamente discutido [1].

Fonte da imagem [1]

O gráfico supra resulta de testes em que “o desempenho humano e de IA foram avaliados em cinco domínios: reconhecimento de caligrafia, reconhecimento de fala, reconhecimento de imagem, compreensão de leitura e compreensão de linguagem. Dentro de cada domínio, o desempenho inicial da IA é definido como –100” e o desempenho humano corresponde à linha de base zero.  E mostra que, nos últimos 10 anos, a evolução de IA tem sido veloz, pelo que, na maioria destas competências, ultrapassou o desempenho humano [1]. Estes testes - e estudo correspondente - foram originalmente publicados em Dynabench: Rethinking Benchmarking in NLP [Natural Language Processing/Processamento de Linguagem Natural, subdomínio de IA que ensina máquinas a lidar com a linguagem humana] [2].

Problemas/Discussão

Porque faz parte do dia-a-dia e tem enorme potencial, é importante envolver os alunos na reflexão e uso crítico de IA.

Há questões controversas que podem analisar, investigar e discutir para saber tomar decisões informadas e intervir na discussão pública:

📍 A falta de regulamentação capaz de promover o desenvolvimento sustentável e a responsabilidade social em IA;

📍 Os impactos ambientais, podendo o treino de algoritmos de IA gerar maior consumo de energia e emissão de CO2 do que aquele que se verifica na atualidade. Segundo Maanvi Singh, o modelo de IA Bloom, de 2019, “gerou cerca de 50 toneladas métricas de emissões de dióxido de carbono, o equivalente a um indivíduo fazer cerca de 60 voos entre Londres e Nova York”. Em 2023, “cerca de 500 toneladas métricas de CO2 foram produzidos apenas no treino do modelo GPT3 da ChatGPT - o equivalente ao funcionamento de mais de um milhão de quilómetros de carros médios movidos a gasolina”. E não se trata apenas de gasto de energia, mas também de água doce para arrefecimento do calor gerado pelos servidores dos data centers. Neste sentido, para esta jornalista do The Guardian a IA representa um risco ambiental e “existencial” (3). Sobre os efeitos da IA no sistema de vida terrestre, domina o silêncio e a falta de informação dos principais responsáveis.

📍 Os impactos sociais/equidade da IA, pois os dados que alimentam os seus resultados são essencialmente produzidos por pessoas e culturas no poder ao longo da História, predominantemente anglófonas e ocidentais, podendo ser tendenciosos e criar divisões, falando-se atualmente de um colonialismo digital.

📍 A falta de transparência sobre os métodos e os dados usados para treinar modelos de IA, sendo credível que procedam a violação de direitos de autor, designadamente na área da cultura, resultando de formas pouco éticas e justas de trabalho. As bibliotecas escolares cultivam a transparência e fogem à opacidade, não querem ficar sem saber.

📍 A falta de evidências imparciais, ao nível da comunidade internacional, de que forte uso de IA e de tecnologias digitais contribua para aprender melhor, para treinar a memória, a inteligência emocional/solidariedade e para desenvolver competências nas crianças e jovens.

📍 A prova de que a dependência de automatização pode diminuir a atenção, competências manuais e outras -  por exemplo, o caso Boeing 737Max e o de várias outras aeronaves.

📍 Inúmeras evidências de erros de programação que levaram a imensos acidentes, mortes e feridos provocados por veículos com direção autónoma (piloto automático) alimentada por IA.

📍 Qual pode ser o impacto da IA na liberdade intelectual e de expressão em matéria de produção e consumo, eleições, vacinação…? O determinismo, não apenas do passado, mas da IA em que o ser humano se desenvolve, permite-lhe opiniões livres de interferência? A autodeterminação individual tornou-se uma impossibilidade?

De destacar que a IA permite selecionar feeds de notícias e de publicidade, de acordo com o que os utilizadores acederam no passado e é nesta base que introduz recomendações sobre notícias, locais, compras e amigos [conhecidos]... e ajuda a criar e a moderar conteúdos.

📍 Quem governa os dados? Empresas económicas particulares? A elite de 1% de milionários? Um ou outro destes milionários? Quais as implicações do uso crescente de IA para a democracia?

De acordo com o relatório das Nações Unidas [4], referido pela IFLA na sua Declaração sobre Bibliotecas e IA (§ 55) [5]:

“as auditorias independentes e contínuas devem complementar as avaliações de impacto sobre os direitos humanos efetuadas antes da adjudicação dos contratos, enquanto mecanismo importante de transparência e responsabilização dos sistemas de IA (…) especialmente quando uma aplicação de IA está a ser utilizada por um organismo do setor público [sublinhado nosso]”.

Como até à presente data esta avaliação/auditoria e regulamentação pelas entidades a quem cumpre esse papel não foi feita, há que manter prudência sobre o uso de IA em educação de crianças e jovens. Será na Cimeira do Futuro/ Summit of the Future de setembro de 2024 que deverá ser acordado um Pacto Digital Global seguro, inclusivo, sustentável, ancorado em direitos humanos e no Estado de Direito.

Our Word in Data é uma plataforma de “dados para progredir em relação aos maiores problemas do mundo”, tem acesso e código aberto e é usada em media e universidades internacionais credíveis [6]. Na área da IA, visa apoiar o envolvimento social, abordando questões sobre como esta tecnologia pode ser desenvolvida e usada e fazer parte do trabalho e da vida das pessoas, para que não fique restrita a um pequeno grupo de empreendedores e engenheiros. 

Referências

1. Giattino, C., Mathieu, E., Samborska, V. & Roser, M. (2023). As capacidades de reconhecimento de linguagem e imagem dos sistemas de IA melhoraram rapidamente. Our World in Data. https://ourworldindata.org/artificial-intelligence
   
   
2. Kiela, D. et al. (2023). Dynabench: Rethinking Benchmarking in NLP [Natural Language Processing/Processamento de Linguagem Natural]. https://aclanthology.org/2021.naacl-main.324.pdf
3. Singh, M. (2023, 8. Jun.). À medida que a indústria de IA cresce, que preço terá sobre o meio ambiente? The Guardian. https://www.theguardian.com/technology/2023/jun/08/artificial-intelligence-industry-boom-environment-toll
   
   Outra fonte:
   Associated Press. (2023, 24. 05). ChatGPT: Qual é a pegada de carbono dos modelos de IA generativa? Euronews. https://www.euronews.com/next/2023/05/24/chatgpt-what-is-the-carbon-footprint-of-generative-ai-models

4. (2018). Promotion and protection of the right to freedom of opinion and expression - A/73/348. United Nations General Assembly. https://documents-dds-ny.un.org/doc/UNDOC/GEN/N18/270/42/PDF/N1827042.pdf?OpenElement
   
   
5. (2020). IFLA Statement on Libraries and Artificial Intelligence. International Federation of Library Associations and Institutions. https://www.facebook.com/photo/?fbid=4003466199682295&set=a.598622580166691
   
   
6. Our World in Data. (2023). Research and data to make progress against the world’s largest problems. Our World in Data. https://ourworldindata.org/
7. 📷Kohji Asakawa por Pixabay