Parabéns por receberem os seus diplomas hoje. Fico feliz em ver que os dois programas em que você está se formando são organizados conjuntamente com a Universidade Saint-Louis e a Universidade de Liège. Em 1981, eu me formei na Universidade de Liège em Direito e tenho sido um professor visitante lá por muitos anos. Eu posso ser viés, mas deixe-me dizer que você fez uma excelente escolha! Além disso, a escolha de aprofundar seu conhecimento se está em direito da concorrência e economia, ou direito e inteligência artificial, é extremamente importante.
Ele o levará a muitos lugares em suas carreiras pessoais, porque as habilidades que você tem são necessárias em tantos setores diferentes. Os advogados precisam da melhor compreensão da lei para a praticar. Você tem isso. Conhecer a lei significa também entender plenamente os objetivos por trás dela. [A abordagem europeia Inteligência Artificial]. Isto me traz ao tópico da inteligência artificial. Desde que me tornei Comissário para a Justiça, tenho sido frequentemente questionada sobre a relação entre regulação e inovação, em particular no contexto da IA.
Na minha resposta, sempre sublinhei que a regulação da IA – o quadro legal do – deve ir de mãos dadas com o desenvolvimento da IA. E o lado regulatório da equação deve seguir o ethos europeu: permitir a inovação que preserva uma abordagem centrada no homem e baseada em valores. Deixe-me ser claro sobre isso. Regular, em si, não é a solução para tudo, não é a única resposta. Entre as forças motrizes para a inovação, preferiríamos pensar em fatores como o acesso ao capital, investimento em P&D ou uma mão-de-obra qualificada. Mas uma boa regulamentação pode suportar a inovação. Ele pode criar previsibilidade e segurança jurídica no mercado, o que é atraente para os investidores. Também pode promover a confiança dos consumidores, onde a confiança é um fator muito importante para a incorporação do desenvolvimento e uso de novas tecnologias. Isso requer tanto ação quanto cautela.
E isso é o que nos inspirou no desenvolvimento de regras sobre IA. Não podemos ignorar nem as grandes oportunidades que a IA pode oferecer, nem os riscos significativos que podem derivar de alguns de seus usos. Com o Ato de AI, que entrou em vigor em 1 Agosto 2024, a UE visa criar um ambiente de confiança. As empresas poderão confiar em um conjunto de regras para acessar e operar no mercado da UE. Os consumidores terão a garantia de que a IA desenvolvida e usada na UE incorpora salvaguardas protegendo seus direitos fundamentais.
Como você sabe, ao abordar esses desafios e oportunidades, a AIA adota uma abordagem baseada em risco para a regulação dos sistemas de IA. Ele também introduz ferramentas como caixas de areia regulatórias da AI e instalações de testes do mundo real que fornecem um ambiente controlado para testar novas tecnologias, apoiando assim a inovação pelas empresas em conformidade com a Lei da AI. Estas, juntamente com outras medidas, incluindo suporte financeiro significativo para fornecer, por exemplo, acesso a instalações de computação de alto desempenho para PME e start-ups para o propósito do desenvolvimento de IA, devem ajudar a construir as condições certas para as empresas investirem em IA. Em suma, acreditamos firmemente que desenvolver e regular a IA com base em valores europeus compartilhados pode trazer benefícios tangíveis para a nossa economia e, mais geralmente, para a sociedade da Europa. Isto também é válido para o campo da justiça pelo qual sou diretamente responsável.
Devido ao possível impacto em alguns dos direitos mais fundamentais, muitos usos práticos da IA em um contexto judicial poderiam ser considerados como um alto risco de acordo com o Ato de IA. Ao mesmo tempo, as ferramentas de IA – como parte de uma necessidade mais ampla de digitalizar o setor da justiça – podem suportar significativamente os diferentes atores do sistema judicial. Estou pensando em áreas como, para apenas citar alguns: gestão de casos automatizada; pesquisa legal; anonimato de decisões judiciais; ou o tratamento de casos de reclamações em massa. Tudo isso também pode ajudar juízes e outros profissionais a focar mais em suas funções judiciais principais, e que podem beneficiar a qualidade e eficiência geral da justiça.
Queremos ajudar os sistemas judiciais a navegar por esses requisitos legais e aproveitar essas oportunidades. Isto requer, em primeiro lugar, melhorar a segurança jurídica num ambiente regulatório e tecnológico em rápida evolução. É por isso que estamos trabalhando atualmente na determinação de qual ferramenta de IA se insere em quais categorias de risco quando usadas no poder judicial. Também estamos desenvolvendo diretrizes para suportar o cumprimento do AA em caso de aplicações de alto risco.
Isto será particularmente relevante para o setor da justiça. Estas diretrizes devem ser emitidas no início do próximo ano. Além do trabalho de implementação, será importante no lado regulatório, identificar o que poderia estar faltando. Uma área que merece atenção que já identificamos é a responsabilidade por danos causados pela IA.
Em 2022, a Comissão Europeia fez uma proposta para uma diretiva de responsabilidade pela inteligência artificial. O objetivo desta proposta é garantir que as vítimas de danos relacionados à IA tenham a chance de reclamar compensação, proporcionando estabilidade de investimento para os negócios. Espero que o Conselho e o Parlamento considerem este arquivo como uma questão prioritária, agora que um novo ciclo institucional está começando e o ato de IA entrou em vigor. E há outras áreas que precisam de atenção.
Por exemplo, no que se refere à proteção do consumidor, o uso padrão ou exclusivo de chatbots com AI pode criar novos ou amplificados desafios de segurança. Isso pode impedir os consumidores de exercerem seus direitos. Há uma necessidade de garantir que os consumidores ainda têm o direito de acessar um interlocutor humano. Nós, por exemplo, incluímos essa salvaguarda específica no contexto da regulação dos serviços financeiros. Um processo de reflexão começou, como parte da chamada verificação de aptidão “ digital para a equidade”, sobre se.