Óscar Barba
Cofundador e CTO da Coinscrap Finance
Analisando a primeira lei do mundo para regular a IA
Segundo o comunicado de imprensa, os eurodeputados querem garantir que as empresas, especialmente as PME, possam desenvolver soluções de IA sem a pressão dos gigantes do sector. Para o efeito, recorrerão a "sandboxes" regulamentares e a testes reais, que serão estabelecidos pelas autoridades nacionais para desenvolver e treinar a IA antes da sua implementação. O acordo, que surgiu após 38 horas de discussões, ainda não foi totalmente revelado, mas existem discrepâncias em relação à proposta da UE que foi desenvolvida durante os últimos dois anos.
Seja como for, a Europa tornou-se o primeiro continente a estabelecer orientações claras para a utilização da IA. O que é que isto vai significar para a nossa economia? Tornar-nos-á mais competitivos ou o contrário? A UE deixa claro que pretende incentivar o investimento e a inovação, mas a maioria dos artigos da Lei da IA ainda vai demorar alguns anos a entrar em vigor e muitos já se manifestaram contra a regra.
Vejamos em pormenor quais são os seus pontos fortes e fracos:
Prós e contras da nova Lei Europeia da IA
Prós deste regulamento da inteligência artificial
Embora não tenham forneceu todos os dados, é provável que o regulamento se aplique principalmente aos fornecedores e implementadores de sistemas de IA. Foi confirmado que a lei IA não se aplicará aos sistemas utilizados exclusivamente para fins militares, de defesa, de inovação ou de investigação.
A abordagem baseada no risco que a UE adoptou classifica os sistemas de IA em quatro categorias com base nos seus casos de utilização: risco inaceitável, risco elevado, risco limitado e risco mínimo/nulo. A lei centrar-se-á provavelmente nos sistemas de IA de alto risco. Os sistemas que representem um risco inaceitável serão proibidos.
Esta última categoria inclui sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, convicções políticas, religiosas, filosóficas, orientação sexual ou raça), reconhecimento de emoções no local de trabalho e nos estabelecimentos de ensino, pontuação social com base no comportamento ou nas características pessoais ou em determinadas aplicações de policiamento preditivo, entre outros.
Outra das garantias que acompanham a nova lei refere-se a chatbots e sistemas que geram deep fakes, que estarão sujeitos a obrigações de transparência. Isto inclui informar os utilizadores de que estão a interagir com a IA e etiquetagem de conteúdos áudio, vídeo, texto e imagem gerados ou manipulados artificialmente.
Contras do Ato Europeu sobre a IA
Segundo o elespañol.com, há também vozes críticas do acordo. A Associação da Indústria de Computadores e Comunicações (CCIA Europe) adverte que, sem melhorias técnicas significativas nas próximas semanas, a Europa poderá perder uma oportunidade única no que respeita à utilização da IA.
A associação empresarial salienta que o texto se afasta da abordagem proposta pela Comissão, que dava prioridade à inovação em detrimento de uma regulamentação excessiva. A associação salienta que certos sistemas de IA de baixo risco passam a estar sujeitos a requisitos rigorosos sem uma justificação adequada, enquanto outros serão totalmente proibidos. . Esta situação poderá resultar numa migração de empresas e talentos, que procurará oportunidades para se desenvolver noutros locais.
Esta situação poderá resultar numa migração de empresas e talentos a comunidade académica critica exatamente o contrário. Um sector queixa-se de certas lacunas jurídicas que permitirão aos promotores definir o risco elevado, enquanto outro acusa os legisladores de deixarem nas mãos dos tribunais a garantia dos direitos fundamentais dos cidadãos mais vulneráveis.
A importância de autoria protegida, roubo de identidade e proteção das crianças
Um dos aspectos mais preocupantes cibercrimes que a utilização indiscriminada da IA nos traz é a assédio a menores. Recentemente, vimos como alguns jovens de uma pequena cidade de Badajoz utilizaram uma aplicação móvel para "descobrir" vários dos seus colegas de turma, e as imagens começaram a circular em massa. A mãe de um dos afectados informou a polícia, que rapidamente identificou várias pessoas envolvidas.
Os corpos tinham sido criado com inteligência artificial mas os rostos eram reais. Este incidente gerou reflexões sobre o alcance dos novos instrumentos. Os cibercriminosos podem também fazer-se passar pelas suas vítimas utilizando áudios das redes sociais. É importante que o regulamento tenha em conta a proteção da autoria destes e de outros conteúdos.
Com tudo isto em mente, vejamos como a norma pode afetar o nosso sector:
Rastreabilidade dos resultados: as instituições financeiras podem sentir-se seguras
Não há dúvida de que os bancos e as companhias de seguros se sentirão mais à vontade para trabalhar em ambientes regulamentados, com rastreabilidade dos resultados. As novas IA terão também um ponto de explicação.
Podemos suspeitar de algo só porque o estamos a treinar, mas agora poderemos obter certos parâmetros com a sua decisão. Uma espécie de chave para o que influencia a sua produção.
O que é que isto significa?
Atualmente, não sabemos o que acontece "dentro" da inteligência artificial.
A meio do ano, CaixaBank anunciou que reuniu uma equipa de mais de 100 pessoas com o objetivo de o desenvolvimento de aplicações com IA generativa. Sem regulamentação, a realidade é que eles trabalham na lama. É por isso que é tão importante ter um quadro regulamentar para ajudar todos nós, que desenvolvemos ferramentas inovadoras, a caminhar na mesma direção.
Isto não significa que a criatividade ou a possibilidade de lançar projectos originais e únicos seja eliminada. Pelo contrário. Ter aliados tecnológicos vai ser o último recurso para o sector financeiro. Na Coinscrap Finance, há anos que desenvolvemos módulos que incorporam IA para algumas das mais importantes empresas bancárias e de seguros do sector.
Para isso, colaboramos com a Universidade de Vigo e o Centro de Desenvolvimento Tecnológico e Inovação (CDTI), o que nos permitiu publicar vários artigos científicos. Se quiser saber mais, clique aqui.
Sobre o autor
Óscar Barba é cofundador e CTO da Coinscrap Finance. Ele é um especialista Scrum Manager com mais de 6 anos de experiência na coleta e análise semântica de dados no setor financeiro, classificação de transações bancárias, deep learning aplicado em sistemas de análise de sentimento do mercado de ações e medição da pegada de carbono associada aos dados transacionais.
Com vasta experiência no setor bancário e de seguros, Óscar está finalizando seu Doutorado em Tecnologia da Informação Atualmente está concluindo seu doutorado em Tecnologias da Informação no campo da Inteligência Artificial. É Engenheiro e Mestre em Engenharia da Computação pela Universidade de Vigo, Mestre em Comércio Eletrônico pela Universidade de Salamanca, Certificado Scrum Manager e Gerenciamento de Projetos pelo CNTG, Certificado em Arquitetura SOA e Serviços Web pela Universidade de Salamanca. Recentemente obteve a certificação ITIL Fundamentals, um reconhecimento das boas práticas na gestão de serviços de TI.
