A União Europeia aprovou o primeiro ato legislativo na matéria. Objetivo: criar regras harmonizadas para o desenvolvimento, disponibilização no mercado e uso de sistemas de Inteligência Artificial (“IA”).
Nomeadamente, o Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, conhecido como Artificial Intelligence Act ou AI Act.
Esta legislação visa promover a aplicação da Inteligência Artificial centrada no ser humano, garantindo os princípios de segurança, transparência e, acima de tudo, respeito aos direitos fundamentais previstos na Carta dos Direitos Fundamentais da União Europeia.
Publicado em 13 de julho de 2024, o Regulamento entrou em vigor no dia 1 de agosto, marcando um momento crucial na governança tecnológica global.
O AI Act implementa uma abordagem baseada no risco de cada sistema de IA, aplicando exigências rigorosas de governança, gestão de riscos e transparência, a partir da classificação dos sistemas em categorias de riscos: inaceitáveis, elevados ou altos, limitados ou mínimos.
Neste contexto, risco refere-se à probabilidade e à gravidade de danos potenciais criados pelos sistemas de IA.
Em relação à abordagem baseada no risco, algumas das disposições mais importantes incluem:
- proibição de certas práticas de IA consideradas de risco inaceitável, como sistemas de pontuação social, de reconhecimento emocional e de identificação biométrica que identificam indivíduos com base em dados sensíveis;
- disponibilização de uma lista de aplicações de IA consideradas de risco elevado, como sistemas usados para recrutar candidatos, avaliar candidatos e tomar decisões de promoção, IA em dispositivos médicos específicos e sistemas destinados a influenciar o resultado de eleições;
- regras para o desenvolvimento e uso de sistemas de IA de risco elevado. Por exemplo, a implementação de um sistema contínuo de gestão de riscos para monitorizar a IA durante todo o seu ciclo de vida, a adoção de práticas rigorosas de governança de dados para garantir que os dados atendam a critérios de qualidade específicos e elaboração e armazenamento de documentação técnica abrangente, contendo informações específicas como as especificações de design do sistema, capacidades, limitações e esforços de conformidade regulatória;
- obrigação de transparência na utilização de IA de risco limitado, como o dever de informação ao usuário de que ele está interagindo com um sistema de IA num chatbot;
- exigência de elaboração de uma avaliação de conformidade antes de um sistema de IA ser colocado no mercado.
A legislação é aplicável a diversos agentes da cadeia de valor da Inteligência Artificial, como por exemplo, os fornecedores de sistemas de IA, independentemente de estarem estabelecidos ou não na União; os responsáveis pela implantação; os importadores e distribuidores; e os fabricantes de produtos que coloquem um sistema de IA juntamente com o seu produto.
Sanções AI Act
Importante ressaltar que há a previsão de imposição de sanções para que o Regulamento tenha força executória. O incumprimento das práticas proibidas de IA pode levar a multa de até €35 milhões ou até 7% da faturação global anual, o que for mais elevado. O não cumprimento dos requisitos para sistemas de IA de risco elevado fica sujeito a multa de até €15 milhões ou até 3% da faturação global anual, o que for maior. Já o fornecimento de informações incorretas, incompletas ou enganosas às Autoridades pode resultar em multas de até €7.5 milhões EUR ou 1% da faturação global anual, o que for maior.
O AI Act foi aprovado com a promessa de garantir que o desenvolvimento e a aplicação de IA ocorram de maneira segura e ética, protegendo os direitos fundamentais dos cidadãos. Por ser uma legislação de aplicação extraterritorial e, considerando a força política do bloco económico, a tendência é de que a sua implementação produza efeitos, que serão sentidos globalmente, assim como ocorreu com a publicação do RGPT – GDPR (General Data Protection Regulation), a regulamentação sobre privacidade e proteção de dados pessoais. Além de unificar o mercado interno da União Europeia, espera-se que o regulamento sirva de base para outras legislações ao redor do mundo, incluindo a do Brasil.
Implicações do AI Act nas economias regionais mundiais
No entanto, há um forte receio que a regulação, vista como restrita e com sanções pesadas, possa frear o desenvolvimento da Inteligência Artificial na Europa, deixando o bloco em desvantagem frente outros países, como Estados Unidos e China.
Importante ressaltar que o AI Act impõe obrigações e responsabilidades aos agentes que desenvolvem e utilizam sistemas de IA, enquanto a ordem executiva americana, o Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence (EO), atribui deveres, como elaboração de estudos, relatórios, guias e diretrizes sobre IA, às agências e secretarias do governo federal.
São grandes os desafios para elaboração de práticas de governança e segurança em IA. O caminho ideal pode estar na busca por uma regulação equilibrada: normas claras e proporcionais a todos os envolvidos, capazes de garantir a segurança e a confiança, sem comprometer ou limitar o progresso tecnológico.
Marque a sua reunião hoje +351 936 972 348 | narvio@efficazx.eu e dê o primeiro passo para transformar a sua organização com a solução de IA EFFICAZX!
Co-autores convidados
Gabriela Coelho
É mestre em Direito na área de Proteção de Dados Pessoais pela Pontifícia Universidade Católica do Rio Grande do Sul (PUC-RS). Especialista em proteção de dados e privacidade pelo Insper. Tem MBA em Gestão Empresarial pela Fundação Getúlio Vargas (FGV), além de pós-graduação em Ciências Penais pela PUC-RS. Foi julgadora da 5ª Turma do Tribunal de Ética e Disciplina da Ordem dos Advogados do Brasil (OAB) de 2018 a 2019. Mentora do Escritório de Carreiras da PUC-RS e do WLM Brasil. Membro da Comissão Especial de LGPD Federasul. Membro do grupo de trabalho Regulamentação em Proteção de Dados da Associação Brasileira de Lawtechs e Legaltechs (AB2L); membro do Instituto Nacional de Proteção de Dados (INPD). Também é professora do Instituto Brasileiro de Direito (IbiJus) e professora convidada da Escola Superior da Magistratura Federal (ESMAFE). Advogada mais admirada Análise Mulheres, 2022 e 2023 categorias Digital e setor económico Alimentos Bebidas e Fumo. Advogada mais admirada Análise 2022 e 2023 nas seguintes categorias: Digital, setor económico Alimentos Bebidas e Fumo e por UF, Rio Grande do Sul.
Maria Eduarda Fornari
Graduada pela Pontifícia Universidade Católica do Rio Grande do Sul. LLM em Direito das Empresas e dos Negócios pela Unisinos. Especialista em Direito Digital pela Uniritter. Membro da International Association of Privacy Professionals – IAPP. Certificada CIPM (Certified Information Privacy Manager) e CDPO/BR. Certificada em Propriedade Intelectual pela World Intellectual Property Organization (WIPO) e Instituto Nacional de Propriedade Intelectual (INPI).
#EUAIAct #InteligênciaArtificial #EFFICAZX #ComissaoEuropeia #RGPD