Europa se arma para coibir abusos com o avanço da IA e de bots como o ChatGPT

Barcelona, Espanha — A Espanha assumirá um papel-chave no cenário internacional a partir do segundo semestre: presidirá o Conselho da União Europeia. Esta presidência, algo que há 13 anos não ocorria, será bem diferente das outras quatro ocasiões em que exerceu essa função.

Em um momento disruptivo para a sociedade e as tecnologias, o país ibérico vai liderar todo o desenvolvimento do primeiro regulamento da Inteligência Artificial (IA) em âmbito global. Uma das principais artífices na Espanha desta transformação no mundo digital é a catalã Carme Artigas, desde 2020 a Secretária de Estado da Digitalização e Inteligência Artificial, órgão vinculado ao Ministério de Economia.

Artigas, que mal tinha cumprido um mês de mandato quando chegaram o covid-19 e os lockdowns, acompanhou uma transformação sem precedentes no país, e também no mundo, desde que assumiu o cargo.

Em entrevista à Bloomberg Línea, a empresária e especialista em dados explicou os planos da Espanha e da Europa para o novo marco regulatório da IA, que visa garantir a ética e os direitos fundamentais dos cidadãos ante a irrupção destas tecnologias.

E também fala, entre outros temas, sobre como a Espanha está se articulando para atrair talento e inovação, além dos esforços para desenvolver uma indústria de IA em espanhol e aumentar o diálogo do país com a América Latina.

A seguir, a entrevista completa com Carme Artigas, cujo conteúdo foi editado por motivos de extensão e clareza:

A Espanha assume a presidência do Conselho da União Europeia no segundo semestre e desempenhará um papel fundamental na digitalização do continente, em temas como o Regulamento de Inteligência Artificial (IA). Que papel a Espanha desempenhará?

A presidência europeia chega no melhor momento possível: quando já levamos dois anos e meio com uma rota transformadora para a Espanha em áreas que vão desde a infraestrutura tecnológica e digital até a transformação do modelo de produção econômica, o desenvolvimento da sociedade digital e as apostas de longo prazo em inteligência artificial, computação quântica e neurotecnologia.

A Espanha, portanto, terá que liderar o desenvolvimento legislativo em áreas muito específicas e imediatas, como a regulamentação europeia sobre inteligência artificial (IA) e o Cyber Resilience Act, e estimamos, com base no que nos foi transmitido pela atual presidência sueca, que eles não completarão o desenvolvimento da regulação da Lei de Dados.

Estes são temas normativos que desenvolveremos durante nossa presidência, várias regulamentações que são fundamentais para definir as novas regras do jogo neste ambiente digital, a relação com as grandes plataformas, proteção de dados e direitos pessoais, e todos os desafios éticos ligados à inteligência artificial.

O mundo está tomando consciência da penetração e velocidade da IA e como os seres humanos têm de se adaptar a estas tecnologias - precisamos garantir que este desenvolvimento tecnológico não venha a qualquer preço e muito menos ao preço de ter que renunciar aos direitos e liberdades fundamentais.

A União Europeia está preparando a primeira regulamentação de uma tecnologia, a fim de garantir a ética e os direitos fundamentais do cidadão. Em que situação se encontra e no consiste esta proposta?

Estamos agora nos trílogos: a Comissão Europeia, o Parlamento Europeu e o Conselho da Europa têm de chegar a uma opinião comum. A Espanha terá que concluir todas as negociações do trílogo para ter a regulamentação final.

A regulamentação europeia não regula a inteligência artificial, ela regula os usos de risco das aplicações que utilizam IA. Portanto, tenta encontrar um equilíbrio entre a regulamentação dos riscos, mas sem matar a inovação. É uma boa lei no sentido de evitar o impacto do desenvolvimento da IA sobre os direitos e liberdades.

Por exemplo, jogar luz na discriminação que os algoritmos podem fazer em coletivos e indivíduos: os requisitos do que são implantações de alto risco de IA devem estar sujeitos a normas técnicas e diretrizes de implementação.

Estas normas técnicas e práticas não podem amarrar a indústria de tecnologia?

É por isso que não regulamos a tecnologia, regulamos apenas os aspectos de alto risco dessa tecnologia. Por exemplo, aplicações para menores, ou aquelas que têm a ver com o uso médico, com o uso de dados críticos, dados biométricos, reconhecimento facial indiscriminado em espaços públicos, o que é um claro ataque à liberdade... A ideia é regular tudo onde há a possibilidade de enviesamento ou discriminação contra as pessoas. Partimos dos princípios e valores europeus, onde, ao contrário dos Estados Unidos ou da China, acreditamos que os dados não devem estar nas mãos de empresas ou governos, e que são os cidadãos que estabelecem seus próprios limites.

Por exemplo, a Espanha é o primeiro país do mundo a introduzir uma lei com o conceito de transparência algorítmica entre empresas e trabalhadores [a “Lei Rider, que introduz o direito de conhecer os parâmetros ou regras em que se baseiam os algoritmos para tomar decisões], tenho que entender os parâmetros em que estou sendo julgado.

A Espanha, na Carta de Direitos Digitais, vai mais longe e diz que novos direitos devem ser reivindicados, como o direito de não ser discriminado por um algoritmo, o direito a uma segunda opinião humana (se me for negado tratamento médico ou crédito por um algoritmo, devo ser capaz de ter alguém, um humano, que me explique o porquê).

Agora, com toda a emergência da inteligência artificial generativa, estamos nos perguntando se por lei devemos exigir uma marca d’água em tudo o que é desenvolvido por um algoritmo, ao invés de um ser humano, para saber se esta gravação corresponde a uma pessoa real ou a um ser artificial, um deep fake. É para isto que servem estas leis, para proteger a discriminação potencial, o uso ou o abuso destas ferramentas de inteligência artificial.

A lei então ataca o problema, mas será eficaz para mitigar os vieses e preconceito na inteligência artificial?

É claro, com certeza. Estamos evitando os vieses, inclusive, quando os próprios dados de treinamento não são representativos, é possível “injetar” dados sintéticos para corrigir esta representatividade dos dados, de modo que os preconceitos do passado não sejam reproduzidos no futuro.

E quanto a salvaguardas para garantir a empregabilidade dos cidadãos, a Espanha contempla algo nesse sentido?

Diante desta revolução tecnológica, cada governo terá que fazer suas políticas públicas para ver como administra esta transição. Não pretendemos salvaguardar empregos, mas temos que valorizar as pessoas e sua empregabilidade, para garantir que elas sejam treinadas para os empregos do futuro, e é por isso que temos nosso Plano Nacional de Competências.

Quanto está sendo investido, na Espanha, em capacitação digital para evitar o aprofundamento das desigualdades sociais?

Temos € 3,75 bilhões para investir até 2026 na transformação do ensino primário e secundário, em toda a reforma para a formação profissional e também em universidades, mestrados e doutorados. Com as universidades, acabamos de lançar as Cátedras de Inteligência Artificial e Segurança Cibernética, 32 cátedras que mobilizando € 50 milhões, e também capacitações não formais para PMEs, para os desempregados, para que todos possam renovar suas habilidades digitais.

Até 2025, 80% da população espanhola deverá ter habilidades digitais básicas. Precisamos de um plano de choque a curto prazo porque o mercado exige perfis que ainda não existem, por isso lançamos uma estratégia para treinar toda uma geração de espanhois, desde os mais jovens até os mais velhos.

Além de participar da regulamentação da IA, a Espanha aprovou em dezembro do ano passado uma lei para as startups, da qual você também é um dos artífices. Alguma coisa mudou no ecossistema espanhol desde a aprovação da nova lei?

Sim, foi aprovada por nossa Secretaria de Estado. É uma lei pioneira, a única de seu tipo na Europa, que muda para sempre as regras do jogo e faz da Espanha um país muito atraente para investimentos, empreendedorismo e talento.

Não existe outro país europeu com uma lei dessa natureza?

Pode haver incentivos fiscais específicos, mas uma lei orgânica própria para as startups só existe na Espanha.

E o que mudou desde então no ecossistema das startups?

A percepção de que a Espanha está jogando na Liga Mundial para atrair investimento e empreendedorismo. Muitos dos principais centros de pesquisa estão se estabelecendo em nosso país. Nos últimos três anos, houve mais de 890 investimentos internacionais diretos na Espanha em quase 20 centros de pesquisa e desenvolvimento altamente competitivos, desde chips, design, Inteligência Artificial...

As ferramentas para que os empresários sejam competitivos em escala global também mudaram, desde o visto para nômades digitais até o tratamento fiscal das stock options, o que finalmente reconhece este mecanismo com vantagens fiscais muito claras para que as startups possam reter talentos.

Qual foi o aumento desde que a lei foi aprovada (dezembro de 2022), para nos dar uma ideia da magnitude?

Uma vez aprovada a lei, temos até o final de abril para implementá-la, pois ela requer mudanças importantes dentro da própria administração para que os selos e todas as vantagens fiscais possam ser aplicados. Em dois ou três meses, recebemos 2.000 pedidos para a certificação de startups.

A Espanha decola como um importante centro no ecossistema europeu de startups?

A Espanha já é o quarto país da Europa com o maior número de startups: terminamos o ano passado com 14.000 startups, mas o problema era remover as barreiras de entrada para estas empresas. Eu mesmo criei uma em 2006, por isso sei quais são as dificuldades para as empresas iniciantes. A lei permite que uma startup seja criada por € 1, com taxas máximas de registro de € 100 e um processo de certificação 100% online.

O outro problema a resolver tem a ver com as scaleups, que estão em um estágio mais avançado de crescimento. Que precisamos para que estas empresas, quando precisam escalar, não saiam da Espanha, não se vendam por um preço ruim a um fundo internacional, não rumem para os Estados Unidos, mas fiquem em nosso país, que encontrem aqui todo o capital necessário para crescer e se tornarem unicórnios da Europa? Isso é o que queremos resolver.

É por isso que lançamos o fundo Next Tech, dedicado às empresas da Deep Tech [que desenvolvem ofertas baseadas em inovações de engenharia ou descobertas e avanços científicos] que precisam de rodadas de investimento para crescer.

Trata-se de um fundo de fundos que nasceu com € 2 bilhões de recursos públicos e outros € 2 bilhões de capital privado para que o crescimento das empresas de tecnologia de nosso país possa ser financiado. Já investimos € 1,33 bilhão e acaba de ser aprovado um aumento para € 8 bilhões em capital público-privado, tornando o Next Tech Fund o segundo maior de seu tipo na Europa [depois da Alemanha].

O que está sendo feito em relação às permissões de residência para nômades digitais?

A Espanha foi o quarto destino mais preferido do mundo para o teletrabalho durante a pandemia. O que vemos é uma grande oportunidade para que este talento volte ao nosso país. Em vez de um visto de turista, que expira após três meses, concedemos a eles uma autorização de trabalho e residência de um ano, que pode ser estendida para três anos, e um tratamento fiscal para não-residentes.

Numa época em que há uma batalha global por talentos, acreditamos que estas medidas criam um ecossistema, que este talento também transfere talento e conhecimento para o território e que este é o prelúdio para que estas empresas possam criar raízes e estabelecer-se aqui como residentes.

Queremos eliminar a dicotomia de que a Espanha é um país onde as pessoas vivem bem, mas trabalham mal, como tem sido até agora. Acredito que a Espanha é o país onde agora é possível viver bem e trabalhar bem.

Com todas essas medidas e o retorno à presidência do Conselho da UE, a Espanha pode fazer a diferença na influência da Europa sobre a América Latina?

Atualmente, a Espanha está liderando muitos debates internacionais, desde o debate sobre direitos digitais, que promovemos, até o debate sobre inteligência artificial ética, que estamos executando com a liderança do piloto regulatório, e todas as questões relacionadas à IA e sustentabilidade. Além disso, criamos o Plano Nacional para Algoritmos Verdes, onde também colocamos o foco no fato de que os algoritmos de IA devem ser eficientes em termos energéticos, que ferramentas como o blockchain e os modelos de linguagem em larga escala não são sustentáveis.

Estamos realmente recuperando esta liderança da Europa, através da Espanha, com a América Latina. No mês passado estive na Colômbia, onde assinamos o acordo UE-ALC, da União Europeia com os países da América Latina e do Caribe, para fazer uma aliança digital para seu desenvolvimento tecnológico, começando com a conectividade, mas continuando com as competências digitais.

Temos também um projeto emblemático para a nova economia linguística, dedicando € 1,1 bilhão para desenvolver uma indústria de inteligência artificial em língua espanhola. Quer dizer, toda IA está se desenvolvendo mais rapidamente em inglês ou chinês e quando falamos em eliminar os preconceitos, precisamos eliminar os vieses linguísticos também em espanhol. Estamos trabalhando neste projeto linguístico estratégico para que haja um mercado potencial de 600 milhões de pessoas, onde a Espanha e a América Latina unem forças para criar uma indústria líder.

Leia também

Acordo Mercosul-União Europeia está mais perto de ser concluído, avalia Espanha