À medida que a Inteligência Artificial (IA) se torna uma força impulsionadora para empresas e instituições, surgem questões éticas fundamentais sobre transparência, responsabilidade e justiça.
Este cenário desafia as organizações e os reguladores a equilibrar inovação com compromisso ético, com o objetivo de promover um desenvolvimento económico sustentável, socialmente responsável e confiável.
Diversas iniciativas e regulamentações internacionais, como o Pacto para o Futuro da ONU, a Recommendation on the Ethics of Artificial Intelligence da UNESCO, os Principles for Trustworthy AI da OCDE, o Hiroshima Process e o AI Act da União Europeia, estabelecem normas essenciais para o uso responsável da IA.
Neste artigo salientamos algumas das considerações debatidas ontem dia 6 de novembro na sessão “Ética na Inteligência Artificial: Dilemas, Desafios e Oportunidades”. Esta sessão inserida no âmbito da 19ª Semana da Responsabilidade Social da APEE 2024, juntou Bruno Coelho Head of Robotics da Beltrão Coelho, Isabel Mendes Vogal Direção da APEE, Inês Antas de Barros VP da Data Science Portuguese Association, Sónia Dias Diretora da ENSP, e Luís Narvion COO da EFFICAZX, moderada por Mário Parra da Silva, Presidente da APEE.
Princípios e Normas Éticas para a IA
Para orientar o uso ético da IA, são necessários princípios que promovam segurança e justiça. A Recommendation on the Ethics of Artificial Intelligence da UNESCO, por exemplo, enfatiza a necessidade de sistemas de IA que respeitem direitos humanos e promovam benefícios para a sociedade de forma inclusiva e transparente. Assegurar que a IA seja auditável e acessível contribui para construir confiança e responsabilidade nas interações entre empresas, instituições e cidadãos.
Por sua vez, o AI Act da União Europeia visa regulamentar a IA com base em níveis de risco (alto, médio e baixo), garantindo que as aplicações de alto risco, como em saúde e finanças, sejam monitorizadas de perto para proteger os direitos dos indivíduos. Este regulamento impulsiona a inovação, mas exige salvaguardas contra possíveis abusos.
“Na EFFICAZX, acreditamos que o poder da Inteligência Artificial deve sempre ser acompanhado de uma responsabilidade ética profunda. Para nós, é essencial que cada solução tecnológica seja desenvolvida não apenas com eficiência, mas com um compromisso inabalável com a transparência, a justiça e a conformidade. A nossa missão é apoiar empresas e instituições públicas na integração da IA de forma responsável, mitigando riscos como o enviesamento algorítmico e fortalecendo a confiança dos utilizadores. Acreditamos que a IA deve servir a humanidade, promovendo inovação sem comprometer os valores fundamentais que definem uma sociedade justa e inclusiva.“, afirma Luís Narvion, COO da EFFICAZX.
Oportunidades e Desafios para Empresas
A adoção de IA por empresas e instituições apresenta simultaneamente oportunidades e desafios. A IA é uma ferramenta poderosa para automatizar processos, melhorar a eficiência e transformar dados em insights valiosos. No entanto, questões éticas como discriminação e falta de transparência podem surgir se não forem adotadas práticas de controle rigorosas.
O impacto da IA na economia pode ser altamente positivo, aumentando a produtividade e promovendo o desenvolvimento de novos serviços e produtos. Contudo, se as empresas não tratarem dos riscos éticos, esses benefícios podem ser comprometidos. A Estratégia Nacional de IA em Portugal, por exemplo, incentiva o desenvolvimento de uma IA ética, que promova competitividade e inovação com responsabilidade.
Principais Ameaças e Desafios da IA
- Viés Algorítmico e Discriminação: muitos sistemas de IA baseiam-se em grandes volumes de dados históricos, que podem conter preconceitos. Se não forem aplicados controles rigorosos, a IA pode reforçar desigualdades, impactando negativamente áreas como o crédito e a contratação de talentos. Para combater esta situação, recomenda-se o uso de auditorias e monitorização constantes para identificar e corrigir desvios nos algoritmos.
- Transparência e Explicabilidade: modelos de IA complexos, como os de deep learning, muitas vezes funcionam como “caixas pretas”, tornando difícil para os utilizadores entenderem as decisões. Em setores regulados como a saúde e finanças, é essencial que as empresas tornem esses processos transparentes, garantindo uma maior responsabilização.
- Privacidade e Segurança dos Dados: a análise de grandes volumes de dados pela IA levanta preocupações de privacidade, particularmente ao lidar com dados sensíveis. As empresas devem assegurar o cumprimento do Regulamento Geral sobre a Proteção de Dados (RGPD), adotando medidas de proteção de dados que respeitem a privacidade dos utilizadores.
- Impacto no Mercado de Trabalho: a automação impulsionada pela IA pode substituir tarefas repetitivas, ameaçando empregos em determinados setores. Empresas e governos devem promover a requalificação de trabalhadores, preparando-os para as novas funções que surgem na economia digital e minimizando o impacto social.
Benefícios e Oportunidades da IA
- Automação e Eficiência Operacional: a IA permite a automatização de processos complexos, aumentando a produtividade e reduzindo custos. Em setores como a energia e as finanças, algoritmos de IA ajudam a otimizar o uso de recursos e a agilizar processos financeiros.
- Inovação em Produtos e Personalização de Serviços: com a IA, as empresas podem criar produtos inovadores e personalizar a experiência do cliente, ajustando os serviços às preferências individuais dos consumidores. Na área da saúde, por exemplo, a IA já é usada para diagnósticos precoces e tratamentos personalizados, melhorando a qualidade dos cuidados de saúde.
- Sustentabilidade e Responsabilidade Social: a IA é uma ferramenta poderosa para a sustentabilidade, ajudando as empresas a monitorizar o impacto ambiental, otimizar o consumo energético e apoiar a economia circular. Estas práticas estão alinhadas com os Objetivos de Desenvolvimento Sustentável (ODS) das Nações Unidas.
- Apoio à Tomada de Decisão Estratégica: a análise preditiva e os insights gerados pela IA auxiliam os líderes empresariais na tomada de decisões informadas, essenciais para a competitividade e adaptação ao mercado.
- Desenvolvimento Económico Sustentável: o uso responsável da IA é fundamental para promover um crescimento económico que respeite os limites ambientais e sociais. A Estratégia Nacional de IA em Portugal incentiva a sua adoção para impulsionar a economia digital de forma equilibrada, cumprindo padrões éticos e regulatórios.
Recomendações Éticas para Empresas
Para maximizar os benefícios e minimizar os riscos associados à IA, as empresas devem:
- Implementar auditorias e sistemas de monitorização para prevenir viés algorítmico.
- Aumentar a transparência e explicabilidade dos seus sistemas de IA, facilitando a compreensão das decisões por todos os stakeholders.
- Investir na segurança dos dados e conformidade com o RGPD, garantindo a privacidade dos utilizadores.
- Promover a requalificação da força de trabalho para adaptar os colaboradores às novas exigências tecnológicas.
- Adotar práticas sustentáveis e responsáveis, utilizando a IA para reduzir o impacto ambiental e promover o bem-estar social.
Para apoiar um uso responsável e ético da IA, recomenda-se que as empresas adotem as seguintes práticas:
- Assegurar Transparência e Explicabilidade: as decisões da IA devem ser compreensíveis para que utilizadores e stakeholders possam entender e confiar nos sistemas. Isso é especialmente importante em setores como recrutamento e concessão de crédito, onde decisões algorítmicas precisam ser explicáveis e justas.
- Promover Inclusão e Diversidade de Dados: treinar sistemas de IA com dados variados é fundamental para evitar vieses. A UNESCO e a ONU incentivam as empresas a monitorizar continuamente os dados e algoritmos para refletir a diversidade da sociedade e promover justiça.
- Cumprir Normas e Regulamentos Nacionais e Internacionais: aderir a orientações nacionais, como a Estratégia Nacional de IA de Portugal, e programas como o AI Ethics da APEE.. Tal permite às empresas cumprir com normas locais e globais, promovendo uma IA alinhada aos mais altos padrões éticos.
- Incorporar Sustentabilidade e Responsabilidade Social: a IA pode impulsionar iniciativas de desenvolvimento sustentável e socialmente responsáveis. O mais recente Pacto para o Futuro da ONU encoraja as organizações a integrarem IA em projetos que enfrentem desafios globais, como saúde e mudanças climáticas, promovendo um impacto positivo.
Impacto da IA no desenvolvimento de novas competências e na formação académica
A Inteligência Artificial (IA) está a revolucionar a formação académica universitária. Como? Exigindo uma adaptação curricular que prepare futuros profissionais para um mercado de trabalho dinâmico e tecnologicamente avançado. Com a crescente integração da IA em diversas indústrias, as universidades e instituições de ensino superior estão a reformular os seus programas. O objetivo é desenvolver competências que complementem as tecnologias emergentes, quer em habilidades técnicas, quer em competências interpessoais essenciais para o sucesso em ambientes complexos.
Uma das principais áreas de foco é a incorporação de disciplinas interdisciplinares, que integram conhecimentos de tecnologia, ética, direito e gestão, permitindo que os futuros profissionais compreendam as implicações éticas e sociais da IA. Cursos de ciências de dados, aprendizagem automática e segurança cibernética tornaram-se comuns, acompanhados de formações que reforçam competências de liderança, resolução de problemas e pensamento crítico. Universidades de renome global, como o MIT e Stanford, lideram esta transformação, enquanto programas europeus e nacionais, como a Estratégia Nacional de IA em Portugal, incentivam o desenvolvimento de competências locais adaptadas às necessidades da economia digital portuguesa.
Além disso, programas de requalificação e especialização para profissionais experientes estão a ganhar destaque, promovendo o conceito de “lifelong learning” (aprendizagem ao longo da vida). Com o aumento da automação, é crucial que quer novos profissionais quer trabalhadores atuais estejam aptos a adaptar-se a novos modelos operacionais e a colaborar eficazmente com sistemas de IA. Iniciativas focadas na requalificação de talentos, como o Future of Jobs do Fórum Económico Mundial, visam formar milhões de pessoas até 2030, ajudando a mitigar os desafios da transição digital e a criar uma força de trabalho ágil e capacitada.
Impacto da IA na empregabilidade e na transformação do Mercado de Trabalho
A proliferação da IA no mercado de trabalho está a alterar profundamente o panorama da empregabilidade. Introduz simultaneamente ameaças e oportunidades para diferentes categorias de emprego. A automação de tarefas repetitivas e processos administrativos está a reduzir empregos em algumas áreas. Todavia, aumenta a procura por profissionais altamente qualificados capazes de desenvolver, gerir e otimizar sistemas de IA.
Um estudo da PwC indica que, até 2030, aproximadamente 30% das tarefas em certos setores poderão ser automatizadas, impactando significativamente empregos de entrada e intermediários. No entanto, esta transformação tecnológica também irá criar milhões de novos postos de trabalho. Nomeadamente, em áreas como ciência de dados, segurança de IA, ética e governança tecnológica. Na indústria financeira, por exemplo, a IA gera novos empregos para analistas de risco e consultores de conformidade. Estes profissionais necessitam entender e monitorizar os modelos de IA para garantir conformidade e transparência.
A transição digital e a crescente integração da IA destacam ainda a importância das soft skills.
Criatividade, pensamento crítico, resiliência e capacidade de adaptação são competências cada vez mais valorizadas. Estas competências permitem que os profissionais se ajustem a mudanças rápidas e colaborem eficazmente com sistemas de IA. Este perfil de profissional híbrido, que alia competências técnicas a habilidades interpessoais, torna-se essencial num ambiente de trabalho digital e automatizado.
As empresas são, portanto, incentivadas a investir em programas de requalificação e no desenvolvimento contínuo das competências dos seus colaboradores, promovendo um modelo de crescimento económico sustentável e socialmente responsável.
Com a adoção de políticas éticas e inclusivas no uso da IA, como as recomendadas pelo AI Act da União Europeia e pela Recommendation on the Ethics of Artificial Intelligence da UNESCO, as empresas podem contribuir para um mercado de trabalho mais justo e resiliente, garantindo que a IA potencia o desenvolvimento humano e económico de forma equilibrada e ética.
Conclusão
Para as empresas, utilizar IA de forma ética exige compromisso com os princípios de regulamentação global e local. Com essa estrutura de responsabilidade, é possível não só mitigar os riscos éticos, mas também fortalecer a confiança dos stakeholders. Desta forma, promove-se o crescimento económico de forma sustentável e inclusiva. A IA deve ser uma ferramenta de progresso que respeite os valores humanos, contribuindo para um futuro onde a tecnologia beneficie toda a sociedade e o meio ambiente.
Ao alinhar as práticas empresariais aos padrões éticos e regulatórios, como os estabelecidos pelo AI Act da UE, a UNESCO e a OCDE, as empresas em Portugal têm a oportunidade de utilizar a IA de forma responsável, promovendo um crescimento económico que combina inovação, responsabilidade social e sustentabilidade.
A IA deve ser uma ferramenta de progresso que respeita os valores humanos, contribuindo para um futuro onde a tecnologia beneficia toda a sociedade e o meio ambiente.
Narvion conclui afirmando que “o futuro da IA nas empresas e instituições públicas está repleto de possibilidades transformadoras, mas deve ser guiado por uma bússola ética. Na EFFICAZX, defendemos que a verdadeira inovação surge quando a tecnologia é desenvolvida com responsabilidade e respeito pelos valores humanos fundamentais. Ao combinar rigor técnico com integridade e transparência, acreditamos que a IA pode ser uma força poderosa para o bem-estar social e o progresso económico, contribuindo para um futuro mais justo e sustentável para todos.“
