Blogue RBE

No encalço de uma Lei sobre Inteligência Artificial

Vivemos, hoje, em plena era digital e a União Europeia adotou uma estratégia para moldar a transformação digital, procurando capitalizá-la a favor dos cidadãos o que implica, também, regulamentar para os proteger.

De facto, a abordagem europeia da transição digital assenta na ideia de que esta deve funcionar para todos, pelo que se baseia em três pilares principais:

1 - Tecnologia ao serviço dos cidadãos;

2 - Uma economia digital justa e competitiva;

3 - Uma sociedade aberta, democrática e sustentável.

É inquestionável o impacto que as tecnologias emergentes - as plataformas digitais, a Internet das Coisas, a computação em nuvem, a cadeia de blocos (blockchain) e a inteligência artificial têm na sociedade atual, afetando setores diversos (transportes, energia, telecomunicações, serviços financeiros, produção industrial, cuidados de saúde, educação, setor agroalimentar…) e transformando radicalmente a vida das pessoas.  Por isso, é preciso que a Europa garanta aos cidadãos, empresas e governos a possibilidade de exercerem controlo sobre a transformação digital em vez de somente a “sofrer”.

Assim, o Parlamento Europeu está empenhado em definir as políticas para reforçar as capacidades da Europa em matéria de novas tecnologias digitais, de modo a aproveitar as oportunidades, mas, simultaneamente, está empenhado em garantir o respeito pelos direitos e valores fundamentais dos cidadãos.

A Comissão Europeia já tinha apresentado, em abril de 2021, uma proposta para regular os sistemas de Inteligência Artificial (IA) que visava salvaguardar os valores e direitos fundamentais da União Europeia (UE) e a segurança dos utilizadores, obrigando os sistemas considerados de alto risco a cumprir requisitos obrigatórios. Esse documento tem estado, desde então, em discussão entre os colegisladores e, no passado dia 14 de junho de 2023, o Parlamento Europeu consolidou a sua posição de negociação sobre o Regulamento Inteligência Artificial [1].

O propósito é definir regras específicas para assegurar que a IA desenvolvida e utilizada na Europa:

- respeita plenamente os direitos fundamentais e valores da UE;

- se centra no ser humano por contraposição a uma IA exclusivamente focada na eficiência ou como um fim em si mesmo;

- seja fiável e proteja a saúde, a segurança e a democracia dos seus efeitos negativos.

A UE tem procurado uma lei que organize o uso da AI por categorias de risco.

Por exemplo, os sistemas que analisam e preveem o comportamento social de seres humanos são considerados de alto risco e, portanto, são inaceitáveis, devendo ser banidos. Os sistemas que geram algum risco devem estar sujeitos a regras e limites. No que se refere aos modelos de base generativa (que geram conteúdos como texto, imagens, áudio ou vídeo) não tendem a sofrer grandes restrições, mas o regulamento considera que devem ser transparentes, devendo os utilizadores ser informados de forma clara quando estão a interagir com um sistema que se baseia num modelo generativo, não podendo ser obrigados a interagir com esses programas. Os criadores dessas tecnologias devem, ainda, disponibilizar ao público um resumo de como os sistemas funcionam e dos dados de treino por detrás dos resultados.

Fátima Fonseca [2], num artigo de opinião do Expresso, esclarece as regras definidas nesse documento em função de três níveis de risco que a mesma  pode colocar,  tanto para os fornecedores como para aqueles que utilizam sistemas de IA:

1) regras a cumprir pelos sistemas de IA mais comuns, que não representam qualquer risco significativo para a saúde, a segurança ou os direitos fundamentais dos cidadãos, como requisitos de transparência (revelando que os conteúdos foram gerados por IA) e salvaguardas contra a produção de conteúdos ilegais pelos sistemas de IA generativa;

2) regras adicionais para usos de "risco elevado" (o que implica desde logo que sejam avaliados antes de serem colocados no mercado e durante todo o seu ciclo de vida), como sistemas de IA que “prejudicam significativamente” a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente e, ainda, os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais;

3) uma lista de usos banidos, porque representam um risco “inaceitável” para a segurança das pessoas, como os utilizados para classificação das pessoas com base no seu comportamento social ou nas suas características pessoais, tais como sistemas de identificação biométrica à distância em espaços públicos, sistemas de categorização biométrica que utilizem características sensíveis (como género, raça, religião ou orientação política) e sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado).

Os criadores e os responsáveis pelo desenvolvimento das tecnologias já estavam sujeitos à legislação europeia em matéria de direitos fundamentais, de proteção dos consumidores e de regras em matéria de segurança dos produtos e de responsabilidade, mas havia algum tempo que se fazia sentir a necessidade de ir mais longe, criando um enquadramento legal comum passado para a esfera regulatória.

Em suma, recentemente foram dados alguns passos para a primeira lei sobre Inteligência Artificial na União Europeia, mas é expectável que as novas regras só entrem em vigor em 2025, pois é necessária a aprovação não apenas do Parlamento Europeu mas também de todos os 27 países-membros da UE. A morosidade deste processo poderá constituir um problema, pois a regulamentação poderá não conseguir acompanhar a velocidade a que as tecnologias emergentes evoluem. Há dois anos, quando a necessidade de regulamentação começou a ser discutida na Europa, ferramentas como o ChatGPT  ainda não estavam no mercado…

Bibliografia

1. Parlamento Europeu (19-06-2023). Regular a Inteligência Artificial na UE: as propostas do Parlamento. https://www.europarl.europa.eu/news/pt/headlines/society/20201015STO89417/regular-a-inteligencia-artificial-na-ue-as-propostas-do-parlamento

2. Fonseca, F. (21 junho 2023 ). Asimov já tinha percebido. Expresso [online]. https://expresso.pt/opiniao/2023-06-21-Asimov-ja-tinha-percebido-6622d1f2

3. Riegert, B. (12 junho 2023). A difícil tarefa de regular a inteligência artificial na EU. Deutsche Welle (DW). https://www.dw.com/pt-br/a-dif%C3%ADcil-tarefa-de-regular-a-intelig%C3%AAncia-artificial-na-ue/a-65894728

📷 pixabay