Bloomberg Opinion — De modo geral, quando se trata de modelos de inteligência artificial, “descontrolada” é uma palavra que ninguém quer ouvir. Alguns incidentes recentes são, portanto, motivo de preocupação.
Apenas no mês passado, a Meta (META) revelou que um de seus modelos invadiu um serviço de terceiros após ter recebido, inadvertidamente, acesso à internet; a Anthropic divulgou três casos em que seu modelo Claude acessou sistemas externos; e o AI Security Institute, do Reino Unido, registrou que vários agentes realizaram “ações contínuas e não autorizadas direcionadas a pessoas e organizações reais”.
De forma mais vívida, a OpenAI revelou que, enquanto dois de seus agentes autônomos passavam por testes de segurança, eles conspiraram para invadir um ambiente de teste, conectarem-se à internet, explorarem falhas de software e roubarem credenciais para acessar os sistemas de produção da Hugging Face, uma empresa de machine learning, de onde extraíram conjuntos de dados sem autorização. Ao todo, os modelos realizaram mais de 17 mil ações furtivas em vários sistemas não relacionados.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
Por mais alarmante que esse último episódio pareça, alguns fatos podem ser tranquilizadores.
As proteções normais foram desativadas durante o teste para que os pesquisadores pudessem avaliar as capacidades dos agentes; os modelos estavam buscando objetivos definidos por seus criadores — ou seja, tentando passar em um teste — e não agindo de forma independente ou maliciosa; e a própria OpenAI forneceu as ferramentas relevantes e não conseguiu restringir o comportamento que havia induzido. Falhas humanas por todos os lados.
Em conjunto, esses incidentes não sugerem que uma revolta dos robôs esteja iminente. Porém, mostram que modelos de IA cada vez mais capazes podem causar muitos danos quando combinados com medidas de segurança deficientes e políticas incoerentes. Para as autoridades americanas, algumas implicações se destacam.
Uma delas é a necessidade de levar a sério as defesas cibernéticas. A IA não apresenta tanto novas ameaças cibernéticas, mas acelera as antigas; como mostram esses episódios, sistemas autônomos podem identificar e explorar falhas de software muito mais rapidamente e em maior escala do que hackers humanos. Para responder de forma eficaz, os defensores devem ter acesso aos modelos mais avançados para detectar e corrigir vulnerabilidades em um ritmo comparável.
Leia também: Incidente com OpenAI reforça que conter modelos de IA ficou mais difícil e arriscado
Isso torna a política atual especialmente equivocada. Em junho, a Casa Branca impôs controles de exportação a dois modelos da Anthropic e pressionou a OpenAI a reter um de seus próprios modelos, sem nenhuma explicação pública.
Esses modelos já foram lançados, mas com restrições rígidas quanto ao uso em cibersegurança. A Hugging Face foi obrigada a usar uma alternativa chinesa open weight para analisar o ataque depois que os modelos de ponta dos EUA recusaram suas solicitações.
Um processo específico desse tipo é ruim para os negócios e pior ainda para a segurança, especialmente à medida que os modelos de código aberto avançam rapidamente.
É melhor disponibilizar amplamente os melhores modelos de ponta para fins de cibersegurança (identificação de falhas, revisão de código e assim por diante), ao mesmo tempo em que se impõem controles mais rígidos sobre recursos operacionais que permitem ataques em grande escala (como conexões não supervisionadas à internet, acesso a credenciais ou capacidades de ataque autônomas).
Essa abordagem garantiria que as ferramentas defensivas fossem amplamente compartilhadas, ao mesmo tempo em que coibiria o uso indevido e preservaria um mercado competitivo. Ela não impedirá todos os agentes mal-intencionados, mas reduzirá os riscos representados por agentes desonestos e tornará os ataques direcionados mais difíceis e mais caros.
Leia também: Meta está entre maiores clientes de IA da Microsoft com uso do Azure, dizem fontes
Enquanto isso, o Congresso americano pode garantir que os laboratórios levem a segurança interna mais a sério. Também deveria considerar a exigência de notificação confidencial para incidentes graves envolvendo agentes, semelhante àquela utilizada para falhas de segurança cibernética.
Deveria exigir auditorias independentes das normas de segurança dos laboratórios e dos ambientes de teste para modelos com capacidades ofensivas avançadas. E deveria também esclarecer os padrões de responsabilidade para sistemas autônomos que causem danos externos, talvez combinados com uma cláusula de isenção de responsabilidade para pesquisadores responsáveis.
Sem dúvida, a IA pode ser uma ferramenta inquietante. Mas ela não é mágica, malévola nem secretamente consciente. Com algumas regras razoáveis em vigor, os formuladores de políticas devem ser capazes de manter os robôs sob controle e liberar os benefícios para todos os demais.
Esta coluna reflete as opiniões pessoais do autor e não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.
O Conselho Editorial publica as opiniões dos editores sobre uma série de assuntos de interesse global.
—Editores: Timothy Lavin, Nisid Hajari.
Veja mais em Bloomberg.com
Leia também
Galípolo alerta para aumento do endividamento com estímulo ao crédito e ao consumo