IA e outras tecnologias transformam a sociedade e a criação, utilização e partilha da informação

Sex | 29.11.24

IA e outras tecnologias transformam a sociedade e a criação, utilização e partilha da informação

Relatório de tendências da IFLA 2024

Este é o terceiro de um conjunto de artigos que procurará divulgar e refletir sobre O Relatório de Tendências da IFLA 2024 [1].

Este relatório procura fornecer as ferramentas, as estruturas, a inspiração e a energia necessárias para que as bibliotecas e os profissionais da informação enfrentem o futuro com otimismo. Apresenta sete tendências. Hoje dedicamo-nos à tendência 2.

A IA generativa e as novas tecnologias estão a mudar a forma como criamos, partilhamos e utilizamos a informação, sendo necessário considerar o papel da tecnologia na disseminação de desinformação através de deepfakes, a utilização de tecnologias da realidade virtual para criar ambientes de aprendizagem imersivos, o aumento das velocidades das redes, o aumento dos gémeos digitais e o potencial da tecnologia para a preservação da informação em grande escala em resposta a ameaças de perda de informação.

Os desenvolvimentos no domínio da IA generativa estão a avançar rapidamente e, enquanto sociedade, ainda estamos a perceber o que isto significa para todos nós do ponto de vista ético, político, social, cultural e económico: precisamos de "Reforçar a governação internacional das tecnologias emergentes, incluindo a Inteligência Artificial, em benefício da humanidade" (Pacto Digital Global das Nações Unidas). (Leia mais sobre o Pacto Digital das Nações Unidas no Blogue RBE: Pacto Digital Global e Pacto Digital Global(cont.) )

Oportunidades

Automatização das tarefas quotidianas
Novas formas de interagir com a informação
Ligação à Internet a custos mais baixos
Novas formas de criatividade

Desafios

Integridade da informação
Equilibrar os direitos dos criadores e permitir novas formas de criatividade
Detetar conteúdo deepfake
Perda de informação devido a ciberataques

Desenvolvimento

A potencial disseminação da IA generativa não regulamentada levanta questões sobre a forma como está a ser utilizada em contextos educativos, bem como sobre a integridade dos dados utilizados pela tecnologia.
Se dependermos cada vez mais de modelos que apenas incluem determinados tipos de conhecimento nos seus dados de treino, o que é que isso significa para as línguas não dominantes, para a acessibilidade à informação que foi rejeitada e para os grupos marginalizados em geral? (Leia mais sobre integridade dos dados no Blogue RBE: A biblioteca como pilar da integridade da informação , ONU & IFLA: Integridade da informação e biblioteca)
A utilização da IA generativa também levanta questões sobre os direitos de autor, tanto para os dados que utiliza como para os conteúdos que gera: Encontrar um novo equilíbrio induzido pela GenAI na lei dos direitos de autor deve ter em conta não só o bem-estar dos produtores e consumidores da indústria dos media, mas também o de toda a economia... Tanto a sobreproteção como a subproteção reduzem os benefícios sociais dos direitos de autor.
A circulação de deepfakes aumenta os atuais desafios da desinformação:
As ferramentas construídas com base em IA estão a ser utilizadas para gerar falsificações profundas indistinguíveis, pelo menos sem formação especial ou acesso a ferramentas técnicas, dos conteúdos gerados por seres humanos.
Os desafios relacionados com a propagação da desinformação podem ser amplificados à medida que os conteúdos gerados por IA circulam a par de informações fidedignas.
Embora os deepfakes possam ser difundidos por maus atores numa rede, muitos também se difundem através das práticas normais e quotidianas de partilha nas redes sociais.
Os deepfakes estão a aumentar e terão consequências de grande alcance na política, na governação empresarial e na segurança da informação.
As tecnologias de realidade mista oferecem novas formas de interagir com a informação:
O conceito de metaverso apresenta uma série de oportunidades para melhorar a inclusão na vida digital para as pessoas se ligarem além-fronteiras, para a educação imersiva e para as pessoas com deficiência acederem a serviços e experiências.
No entanto, à medida que o metaverso e os seus "mundos" são construídos, correm o risco de reproduzir os atuais problemas de acesso, acessibilidade e segurança da sociedade digital. Os desafios incluem as infraestruturas e os dispositivos, fraudes e burlas, e privacidade e proteção de dados.
Os dados gerados no metaverso também permitem seguir os utilizadores, identificá-los e analisar informações - incluindo o seguimento das mãos, dos olhos e do corpo. O desenvolvimento de medidas sólidas de privacidade e segurança para proteger os dados dos utilizadores no Metaverso é essencial. (Leia mais sobre Metaverso no blogue RBE.)
A utilização de dados e as velocidades de rede aumentam:
Embora algumas partes do mundo dependam atualmente da tecnologia 3G, na próxima década a tecnologia sem fios passará a 6G, F6G e Wi-Fi 8.
Este facto tem implicações no fosso digital, uma vez que os países e as pessoas com menos conetividade têm menos oportunidades de participar na sociedade e economia digitais. 89% da população dos países de elevados rendimentos está atualmente coberta pelo 5G. Nos países de baixo rendimento, apenas um por cento da população está coberta.
Os gémeos digitais estão a ganhar escala:
Gémeos digitais são representações virtuais altamente precisas de objetos, sistemas ou processos do mundo real. Eles utilizam dados recolhidos em tempo real para simular, analisar e prever o comportamento de seus equivalentes físicos. Esta tecnologia é amplamente utilizada em diversas indústrias, incluindo manufatura, saúde, transporte, construção civil e cidades inteligentes e começa a assistir-se ao desenvolvimento de gémeos digitais à escala das nações.
Tendo em conta que os gémeos digitais são construídos com base em dados, os cidadãos podem preocupar-se com a sua privacidade, uma vez que governos ou empresas poderão utilizá-los indevidamente para vigilância injustificada.
A segurança é uma questão premente para as organizações:
Os avanços tecnológicos também aumentam o risco de ameaças à segurança dos governos, empresas e instituições em todo o mundo.
A reposição em linha e o acesso ao público de sistemas de informação de grande escala exige tempo e recursos consideráveis. Por conseguinte, nos próximos anos, será vital dar prioridade à segurança para minimizar os riscos de ciberataque para as infraestruturas técnicas que contêm conhecimentos vitais e informações pessoais.

Perguntas

Como é que a IA vai mudar coisas como a aprendizagem, a tradução de línguas e a criação de conteúdos e informações?
Como é que as bibliotecas darão prioridade à segurança? Que implicações terão as novasmedidas de segurança?

Referência
[1]IFLA (2024). Trend Report 2024. https://www.ifla.org/wp-content/uploads/ifla-trend-report-2024.pdf
📷Trend Report 2024

________________________________________________________________________________

Relatórios de tendências da IFLA no Blogue RBE