Saltar para: Post [1], Pesquisa e Arquivos [2]

Blogue RBE

Qui | 17.10.24

Innerarity: Inteligência Artificial e Democracia

2024-10-17.jpg

Enquadramento

A UNESCO foi pioneira na adoção de uma Recomendação sobre Ética da Inteligência Artificial. Subscrita por todos os seus 193 Estados-membros, a Recomendação tem como objetivos:

  • “Proteger, promover e respeitar os direitos humanos e as liberdades fundamentais, a dignidade humana e a igualdade, incluindo a igualdade entre homens e mulheres;

  • Salvaguardar os interesses das gerações atuais e futuras;

  • Preservar o ambiente, a biodiversidade e os ecossistemas;

  • Respeitar a diversidade cultural em todas as fases do ciclo de vida do sistema de IA” (UNESCO, 2021, p. 15).

A rápida transformação que a IA (Inteligência Artificial) está a trazer à economia, sociedade e sistema político e o seu rápido crescimento, concentrado num número reduzido de países e empresas privadas, leva a UNESCO a focar a discussão de IA, não nos seus riscos e benefícios, mas na sua governação. O Pacto Digital Global, adotado na Cimeira do Futuro, estabelece um quadro global para a cooperação e governação em IA.

Para informar as decisões da Cimeira (2024, 22 set.), a UNESCO encomendou a Daniel Innerarity um relatório crítico que, baseado na Recomendação da UNESCO, avaliasse os efeitos da IA nas democracias. O relatório, Inteligencia artificial y democracia (Innerarity, 2024, 16 mai.), é publicado num momento crítico em que metade da população mundial irá votar.

A análise de Innerarity estrutura-se em 4 pontos, dos quais apresentamos alguns aspetos.

1. Expetativas e desilusões

O advento da internet trouxe a expetativa de criação de um espaço acessível, igualitário e livre para todos e as tecnologias digitais têm potencial para promover maior participação, pluralismo de ideias, escrutínio e crítica das instituições e dos seus representantes, cooperação e inovação.

Vídeos deepfake, violência política digital contra candidatos, desinformação através de algoritmos de recomendação e violência política baseada em preconceitos de género são exemplos de novos “obstáculos à integridade da informação nos processos eleitorais”.

Os algoritmos, programados para satisfazer interesses particulares (comerciais e outros), priorizam conteúdos alinhados com as perceções e opiniões dos utilizadores, reduzindo a sua exposição a pontos de vista diversos e fomentam, através de câmaras de eco (Eli Pariser), a polarização e o extremismo, o individualismo e a segmentação da sociedade. 

É a “própria natureza do ambiente digital” que perpetua, numa escala nunca observada, a propagação - sem restrições e de forma anónima (e irresponsável) - destas mensagens nas redes sociais, degradando a vida pública e a coesão social.

2. O novo espaço público digital

Para combater o discurso de desinformação e ódio criaram-se ferramentas de verificação de factos (fact-checking), mas a sua utilização não garante que a verdade prevaleça na opinião pública. A conversa pública baseia-se mais “nas interpretações subjetivas das pessoas” do que nos factos, partilhados nas redes sociais, dando lugar à “plataformização da democracia” (platformization of democracy): as plataformas digitais facilitam o canal, a forma de comunicação e moldam os conteúdos das conversas no domínio público. E note-se que, na era digital, se alterou a dimensão do espaço público, que se expandiu para além das fronteiras dos Estados-nação.

Tradicionalmente há a tendência para encarar as tecnologias como instrumentos neutros, mas refletem os valores e interesses das pessoas e países que as financiam e desenvolvem. As maiores empresas do mundo são de tecnologias digitais e, apesar de se declararem neutras, controlam os conteúdos do que se publica nas suas plataformas através de algoritmos de recomendação e do domínio que exercem sobre o acesso e utilização.

Outro dos desafios de plataformas digitais assistidas por IA consiste na perpetuação das desigualdades e invisibilidades sistémicas tradicionais de grupos sociais menos representados no espaço público e na História: mulheres, idosos, população africana e afrodescendente, migrantes, pessoas em situação de pobreza.

O deslocamento da participação democrática para o ambiente digital gera novas formas de exclusão, como a exclusão digital. Sem igualdade de acesso, não há participação cívica nos assuntos públicos, necessária à verdadeira democracia.

A democracia na era digital exige “uma educação cívica especializada que promova competências e aptidões específicas” pois “não há democracia sem cidadãos informados capazes de controlar criticamente os detentores do poder”.

Segundo Innerarity as plataformas “devem cumprir normas de transparência rigorosas, revelando o funcionamento interno dos seus algoritmos que selecionam informações, sugerem publicações ou avaliam conteúdos patrocinados”. A divulgação desta informação técnica no domínio público diminui o risco de monopólio e de manipulação.

3. A democracia dos dados

A Recomendação “sublinha os valores essenciais para a governação dos dados: qualidade, fiabilidade, segurança, privacidade, disponibilidade e atenuação de vieses” (UNESCO, 2021). E que a proteção de dados é fundamental para fins comerciais, políticos e para os direitos humanos.

Dados e, na era digital, big data, são fundamentais para tomar decisões e fazer previsões informadas e contrapor, ao subjetivismo e ideologia das redes sociais, a objetividade. Os dados são fonte de poder e não são neutros, nem indiscutíveis. Sendo construídos por intervenção humana, comportam omissões e refletem preconceitos e desigualdades sociais herdadas.

O mundo digital aparenta ser meritocrático, uma vez que os motores de busca privilegiam empresas e indivíduos com recursos e visibilidade, contribuindo para as desigualdades.

O Relatório invoca o surgimento de 3 novas classes sociais, organizadas, não em função da posse de bens materiais, mas de dados e de competências, das quais a última é a mais poderosa: “quem gera os dados, quem tem os meios para os recolher e quem tem os recursos e as capacidades para os analisar” e utilizar em seu benefício.

Innerarity recomenda que os governos desenvolvam esforços para democratizar os dados, promovendo a noção de “dados como bem público”.

4. A governação algorítmica

Para garantir a eficiência do sistema político, a governação torna-se algorítmica: sistemas automatizados tomam uma parte significativa das decisões democráticas com base no processamento de uma elevada quantidade de dados e informação. É o “institucionalismo algorítmico [algorithmic institutionalism], caracterizado pelo uso de Sistemas de Decisão Automatizados [Automated Decision Systems] (ADS)”.

Política democrática feita com tecnologias assistidas por IA pode revelar-se limitada “em caso de escassez de dados ou de situações ambíguas”, situações em que deve prevalecer uma lógica política que atribui a soberania ao povo. Pode ainda provocar menor participação e autonomia dos cidadãos e gerar a ilusão de que são as pessoas “que tomam as suas próprias decisões quando, na verdade, estão apenas a seguir padrões pré-determinados” do que se espera delas.

É preciso discutir a governação algorítmica porque os dados analisados devem ser interpretados numa perspetiva pluralista e que tenha em conta as aspirações coletivas que devem definir-se num contexto de liberdade:

A verdadeira liberdade implica a aspiração de alterar o nosso passado, conduzindo a situações algo imprevisíveis. (…) os algoritmos que se dizem preditivos são muito conservadores porque assumem continuamente que o nosso futuro irá replicar o nosso passado”.

Recomendações

O Relatório termina com recomendações para governação democrática de IA, das quais a primeira medida  é a Educação e Sensibilização, para a qual as bibliotecas escolares contribuem.

O Quadro Estratégico da Rede de Bibliotecas Escolares propõe uma visão humanista da sociedade que só é possível concretizar na base da democracia, que Innerarity define como o contexto em que as “pessoas com opiniões diferentes podem juntar-se para procurar soluções comuns através do diálogo”. Prospera “quando os cidadãos estão bem informados, dispõem de canais abertos para a participação e a defesa de causas e têm uma palavra a dizer nas decisões que os afetam” e estas são oportunidades que as bibliotecas escolares oferecem diariamente a todas as crianças e jovens.

Outras propostas de leitura sobre o tema:


Referências

  1. Innerarity, Daniel. (2024). Artificial intelligence and democracy. https://unesdoc.unesco.org/ark:/48223/pf0000389736
  2. UNESCO (2021, Nov.) Recommendation on the ethics of artificial intelligence. https://en.unesco.org/artificial-intelligence/ethics#recommendation
  3. 📷 1. Pormenor da capa

_____________________________________________________________________________________________________________________

Este trabalho está licenciado sob licença: CC BY-NC-SA 4.0