28 DE ABRIL DE 2022

7

projeto sobre os princípios de responsabilização para a IA que visa desenvolver soluções para avaliar, rever e

salvaguardar a responsabilidade da utilização da IA pelos agentes de segurança interna, de acordo com os

direitos e valores fundamentais da UE, esclarecendo que a Europol não recorre a ferramentas de investigação

preditiva e ao reconhecimento facial. Frisou que, segundo o novo regulamento da Europol, a utilização da IA

tem de respeitar cinco princípios essenciais: Princípio da transparência, fiabilidade e responsabilidade, a prévia

consulta ao diretor executivo, ao supervisor de proteção de dados e ao oficial de direitos fundamentas,

informação prévia à AEPD, bem como a apresentação de um relatório posterior.

Olivier ONIDI, Vice-Diretor-Geral da Direção-Geral para a Migração e Assuntos Internos da Comissão

Europeia, realçou a necessidade de a Europol ter acesso a ferramentas de IA, devido à sua capacidade para

desenvolver e fornecer valor acrescentado ao processamento de dados, com competência técnica para

processar informação transversal, de diferentes fontes. Sublinhando a necessidade de continuar a adaptar

continuamente as condições de utilização de tais ferramentas, apontou o enquadramento legal criado pelo novo

regulamento e a possibilidade de a Europol se tornar num centro-chave nesta matéria, baseado em regras de

proteção de dados pessoas e na certificação de ferramentas de IA.

Nathalie SMUHA, Advogada e investigadora, Law and Ethics of AI/Technology Faculty of Law, KU Leuven,

destacou a possibilidade de recorrer à IA para a análise de dados e para a tomada de decisões autómatas

diárias, finais e intermédias, o que apresenta diversas vantagens, nomeadamente no combate ao crime de abuso

de crianças mas também apresenta riscos; referiu que o a comissão europeia constituiu, em 2018, grupo de

peritos de alto nível para abordar os riscos da utilização da IA, que levou à proposta de regulamento que

estabelece regras harmonizadas em matéria de IA, tendo sido identificadas três componentes essenciais: Tem

de ser um sistema robusto, fiável, com resultados replicáveis e com base em provas factuais; tem de ser um

sistema ético, baseado no principio da responsabilização e na proteção de dados e direitos fundamentais; e um

sistema legal, que respeitará a legislação futura. Referiu a constituição, no âmbito do Conselho da Europa, de

uma comissão ad hoc sobre inteligência artificial sobre a avaliação de impacto de sistemas de IA nos direitos

humanos, democracia e Estado de direito, alertando que uma vez construída uma infraestrutura abrangente, ela

será usada. Europol tem um enquadramento legal previsto, mas precisamos de uma visão ampla e a longo prazo

sobre a utilização da IA nas nossas sociedades.

Seguiu-se a primeira ronda do debate, onde foram abordados os seguintes temas: A proposta de regulamento

que estabelece regras harmonizadas em matéria de IA e o plano coordenado revisto sobre a IA; o papel do

oficial de direitos fundamentais; efeitos da transformação digital no combate ao crime organizado, com novos

instrumentos tecnológicos; a resposta da Europol às recomendações apresentadas pela AEPD relacionadas

com o tratamento de grandes e complexos conjuntos de dados; os mecanismos existentes para assegurar a

transparência e clareza no uso de algoritmos e na partilha de informação; procedimentos adotados nos pedidos

de acesso a dados; o processamento e a proteção de dados; a atuação da Europol relativamente à situação que

se vive na Ucrânia e as suas consequências na criminalidade organizada.

Em resposta, Jürgen EBNER, explicou que o cargo de oficial de direitos fundamentais que exercerá as suas

funções de forma independente, para além das funções desempenhadas pelo supervisor de proteção e dados

que terão intervenção nos processos em que se recorre ao uso da IA com base no princípio da responsabilidade

e com uma prévia consulta à AEPD sobre a desenvolvimento de ferramentas de IA, podendo adotar uma

abordagem de fast track em situações urgentes pontuais e quanto à identidade digita europeia, realçou a

possibilidade do recurso à IA permitir às autoridades policiais se focarem nos dados efetivamente relevantes

para as investigações e que a recolha de dados é feita pelas autoridades nacionais, sendo partilhada com a

Europol, Nathalie SMUHA referiu a preocupação existente quanto à previsão na proposta de regulamento em

matéria de IA de um escrutínio ex post em vez de ex ante, havendo uma lista de aplicações de alto risco que

são objeto de controlo pela regulamentação mas certas aplicações são muito sensíveis para detetar mentiras

ou emoções, não havendo uma auditoria independente feita antes do seu uso pelas autoridades policiais, a

categorização biométrica de indivíduos, estabelecendo géneros e etnia, mas poderão ser matérias tratadas no

quadro da respetiva negociação, e Olivier ONIDI apontou o risco de discriminação, sendo necessário assegurar

que os investigadores possam afinar as ferramentas criadas, daí a regulamentação prever a possibilidade de

desenvolver e utilizar com base em determinados critérios, realçando a importância de manter a vertente

humana nas tomadas de decisão e não a máquina, e, por fim, todos estes mecanismos são objeto de avaliação

de impacto sobre a privacidade dados pessoas e direitos fundamentais. Caberá ao oficial de direitos

fundamentais validar e avaliar o impacto das atividades da agência no desenvolvimento e uso de ferramentas