Bloomberg Opinion — Em vez de agentes de inteligência artificial (IA) rebeldes que supostamente matariam todos nós, Pequim tem um pesadelo mais imediato: que a tecnologia possa ajudar os humanos a destruir a sociedade primeiro.
Depois que o Vale do Silício passou a última semana alimentando temores de que a IA destruísse a humanidade, a China rejeitou o que considera “alarmismo”.
O ministro de Segurança do Estado, Chen Yixin, escreveu separadamente um artigo no domingo (13), oferecendo um vislumbre de alguns dos maiores temores do país.
O texto não menciona a extinção humana. A principal preocupação é como a tecnologia poderia arruinar a estabilidade social por meio de deepfakes, operações de influência e guerra cognitiva em grande escala. Em segundo lugar, estão as ameaças cibernéticas que poderiam facilitar muito a coleta de informações confidenciais e pessoais.
Um episódio recente sugere que esses dois riscos podem andar de mãos dadas. No início deste mês, uma pequena equipe de pesquisadores de cibersegurança na Califórnia publicou descobertas mostrando como conseguiram simular uma grande violação do WeChat, o superaplicativo que funciona essencialmente como infraestrutura crítica digital para a vida cotidiana na China.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
A Calif, empresa sediada em Palo Alto que divulgou a chamada ameaça “WeWorm”, confirmou que a Tencent Holdings, controladora do WeChat, mitigou o risco.
Mas a demonstração deles é, mesmo assim, inquietante o suficiente para tirar o sono das autoridades de Pequim: a equipe explicou em detalhes como poderia usar ferramentas de IA para criar um bug capaz de assumir o controle total de uma conta do WeChat em segundos. Tudo o que um usuário comum vê é uma chamada recebida de alguém da sua lista de contatos.
Leia também: OpenAI se une a Anthropic e Google DeepMind para enfrentar riscos de segurança da IA
Ainda assim, há motivos para esperança. A divulgação à Tencent ocorreu sem problemas e não houve contratempos técnicos, disse Bruce Dang, da Calif, acrescentando que os engenheiros foram receptivos e que os problemas foram “rapidamente resolvidos”. Um desastre que poderia desestabilizar uma plataforma usada por mais de um bilhão de pessoas para administrar negócios, pagar por produtos e se comunicar foi evitado graças à rápida colaboração transfronteiriça.
Em uma publicação em um blog, o CEO da Calif, Thai Duong, descreveu o experimento como um “apelo para que os Estados Unidos, a China e outros governos trabalhem juntos e colaborem com o setor privado no desenvolvimento e na implantação da IA” de forma segura.
Mais notavelmente, ele acrescentou que culpar a IA e restringir seu desenvolvimento futuro é “a lição errada”. As vulnerabilidades já existem; o que mudou é que a IA pode “encontrá-las e corrigi-las”. Em outras palavras, o episódio do WeChat não se trata de desacelerar a corrida, mas de tornar a transparência um caminho viável para o futuro que seja politicamente aceitável em Washington e Pequim.
Apesar dos crescentes alertas apocalípticos vindos do Vale do Silício, o presidente Xi Jinping enfatizou a proposta de Pequim de um “ecossistema aberto para a IA” durante seu discurso na cúpula do Brics, realizada em Nova Délhi no domingo.
Leia também: Além da razão: como a inteligência artificial pode intensificar a política das emoções
Xi defendeu uma estrutura de governança “baseada no consenso”, o que significa que não caberá apenas aos EUA decidir as regras. Isso está em consonância com o apelo feito simultaneamente por Chen, seu principal responsável pela inteligência, por uma cooperação global em relação aos riscos, evitando ao mesmo tempo que um único país monopolize o poder da IA (uma indireta mal disfarçada aos EUA).
Pequim provavelmente não concordará com uma suspensão imposta por Washington, mas, se quiser liderar o mundo nessa tecnologia, deve estar disposta a trabalhar com outras nações nas ameaças sobre as quais ambos os lados possam, pelo menos, chegar a um acordo. Fazer isso pode não interromper a corrida, mas é um pequeno passo para torná-la muito menos imprudente.
O mais recente grito de guerra em prol da segurança nos EUA é a frase incrivelmente vazia “pace the frontier” (“controlar a fronteira”, em tradução livre), uma proposta cheia de jargões de Dario Amodei, da Anthropic, que recebeu um raro consenso de Sam Altman, da OpenAI, e Elon Musk, da xAI.
Uma declaração de apoio a esse conceito já reuniu mais de mil signatários de quase todas as principais empresas de IA do Vale do Silício. Mas poucos parecem saber o que isso realmente significa. Se eles estão legitimamente preocupados com a possibilidade de uma IA que se autoaperfeiçoa acabar com a humanidade, apelos vagos para desacelerar são uma resposta notavelmente fraca.
Ainda assim, seria do interesse dessas empresas gastar menos recursos tentando construir um “Deus-máquina” e mais garantindo que seus produtos não sejam utilizados de forma abusiva. Elas não podem lançar armas cibernéticas e, ao mesmo tempo, vender defesas. Em vez de um suposto “ritmo” de desenvolvimento da IA segundo seus próprios termos, os formuladores de políticas devem exigir transparência máxima sobre os riscos que estão observando agora, e não divulgações meses após um incidente.
Leia também: OpenAI pode desacelerar desenvolvimento de IA de ponta, dizem fontes
Para seu crédito, o próprio Amodei defendeu isso em seu manifesto de quase 4 mil palavras, publicado depois que um de seus funcionários pediu demissão e deu o alarme de que as pessoas que estão desenvolvendo a IA acreditam que ela poderia “matar a todos nós”. Independentemente de quaisquer compromissos que assumam, disse Amodei, “o público merece saber o que está acontecendo”. Ele está certo.
Pequim e Washington talvez não consigam chegar a um acordo sobre muitas questões quando se trata da governança da IA. Mas o episódio do WeChat é um sinal de que o compartilhamento transfronteiriço de riscos é possível. A IA já mudou a internet e a privacidade como as conhecemos.
Imagine um ataque cibernético que expusesse todas as comunicações privadas que você já enviou e o caos que isso causaria nas empresas e comunidades. Criar canais para que pesquisadores e empresas compartilhem o que estão observando e sinalizem ameaças emergentes irá, por si só, amenizar parte da dinâmica da corrida e abrir espaço para debates mais complexos.
Se os EUA e a China não conseguirem cooperar em relação aos perigos já visíveis, há pouca esperança de que consigam lidar com aqueles que os próprios criadores da IA alertam que podem significar o fim de todos nós.
Esta coluna reflete as opiniões pessoais do autor e não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.
Catherine Thorbecke é colunista da Bloomberg Opinion e cobre tecnologia na Ásia. Já foi repórter de tecnologia na CNN e na ABC News.
Veja mais em Bloomberg.com
Leia também
Gestores elevam projeção para o Ibovespa antes da eleição, diz pesquisa do BofA