Riscos da IA abrem divisão entre CEOs sobre desacelerar tecnologia ou reforçar controles

Líderes de OpenAI, Nvidia, Meta e outras empresas divergem sobre regulação, avaliações independentes e o ritmo de desenvolvimento dos modelos; Altman, Musk e Nadella reforçam preocupações, enquanto Huang e outros executivos rejeitam novas barreiras

Meta Ray-Ban
PUBLICIDADE

Bloomberg — O debate sobre até que ponto — e com que rapidez — a inteligência artificial está avançando representa um sério dilema para os executivos do setor de tecnologia. Eles estão empenhados em expressar suas preocupações sobre os riscos potenciais da tecnologia e têm proposto várias soluções, incluindo desacelerar seu desenvolvimento.

Mas, tendo investido centenas de bilhões de dólares em IA, estão tentando acalmar as pessoas sem assustar investidores e clientes.

PUBLICIDADE

As discussões públicas se intensificaram na semana passada depois que Jacob Coxon, pesquisador da Anthropic, renunciou e alertou que os pesquisadores que desenvolvem IA “acreditam sinceramente que ela poderia matar a todos nós até o final da década”.


Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.


Suas preocupações foram repetidas publicamente por outros funcionários da Anthropic, incluindo o líder de ciência de alinhamento Evan Hubinger, que afirmou acreditar que há uma chance superior a 10% de que a tecnologia possa causar a extinção da humanidade na próxima década.

PUBLICIDADE

O presidente Donald Trump se manifestou, rejeitando a necessidade de medidas de proteção para a IA e criticando o CEO da Anthropic, Dario Amodei, que argumentou em uma publicação de blog no sábado (12) que as capacidades da IA estão avançando mais rápido do que as medidas de proteção conseguem acompanhar.

Amodei propôs maior supervisão independente e coordenação entre empresas e governos. Em uma postagem no Truth Social na segunda-feira (14), Donald Trump atribuiu a uma “conspiração DOENTIA” a reação negativa dos eleitores em relação aos centros de dados de IA e o aumento da preocupação com os modelos de ponta, acrescentando que “o único que está feliz com isso é a China”.

O CEO da Nvidia (NVDA), Jensen Huang, descartou qualquer necessidade de novas regulamentações em um evento na terça-feira, enquanto o fundador da Meta Platforms (META), Mark Zuckerberg, apoiou a ideia de avaliadores independentes em vez de uma desaceleração deliberada para manter a IA segura.

PUBLICIDADE

Leia também: Databricks investirá R$ 1,5 bi no Brasil após triplicar a operação no país em 2 anos

Veja o que os executivos mais proeminentes do setor estão dizendo sobre o rumo que a inteligência artificial deve tomar a partir de agora:

Elon Musk, SpaceX/SpaceXAI

PUBLICIDADE

“Dario está certo”, escreveu ele em uma postagem no X.

Sam Altman, OpenAI

“Concordo com Dario que precisamos controlar o ritmo. Esse tem sido um dos principais temas das discussões que tivemos na OpenAI nas últimas semanas. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Em breve teremos mais novidades para compartilhar”, escreveu ele no X.

Aidan Gomez, Cohere

“Um mecanismo que atrasa todo mundo, ao mesmo tempo em que preserva explicitamente as vantagens comerciais existentes, não torna a IA mais segura”, afirmou ele em uma publicação de blog criticando a proposta de desaceleração universal da IA. Gomez disse que são necessárias medidas de proteção, mas argumentou que o desenvolvimento da IA deve avançar em um ritmo responsável, com o qual a sociedade consiga acompanhar.

Leia também: Bill Gates defende a equidade na IA e fundação deve doar US$ 1 bi para melhorar acesso

Satya Nadella, Microsoft

“Qualquer busca pela superinteligência deve se basear no princípio fundamental de que, se a IA que criamos não estiver ajudando a humanidade e estiver sob controle humano, não vale a pena persegui-la”, escreveu ele no X.

Clément Delangue, Hugging Face

“Agora está claro que o alinhamento é fundamental e não será resolvido a portas fechadas por um punhado de laboratórios de ponta”, escreveu Delangue, citando a postagem de Amodei no X. Delangue anunciou a Iniciativa de Alinhamento Aberto (Open Alignment Initiative) da Hugging Face e disse que a empresa buscava participar do programa de “avaliadores embutidos” ao qual Amodei acabara de comprometer a Anthropic.

George Kurtz, CrowdStrike

“Controlar o que está por vir não garante o que já está aqui”, disse ele no X. Kurtz argumentou que, em vez de tentar desacelerar o desenvolvimento da IA, o setor de cibersegurança deveria focar na criação de defesas capazes de acompanhar o ritmo dos sistemas de IA cada vez mais autônomos, incluindo testes independentes, controles de segurança mais robustos e supervisão humana para decisões de alto impacto.

Leia também: Larry Fink alerta que atrasos na expansão da IA podem favorecer grandes empresas

Jensen Huang, Nvidia

O presidente da empresa mais valiosa do mundo descartou a necessidade de regulamentações de segurança para a IA, argumentando que as forças de mercado orientarão as empresas a inovar com segurança. “Não precisamos de novas leis — não precisamos de novas regulamentações”, disse Huang durante um evento da Salesforce (CRM). “Você controla o ritmo até ter certeza de que está lançando algo que o mercado apreciaria. As forças de mercado já estão presentes.”

Mark Zuckerberg, Meta

“Contratar avaliadores e consultores independentes é uma prática recomendada do setor”, escreveu Zuckerberg na terça-feira em uma postagem no X. “A Meta adiou o lançamento do Muse por vários meses para se concentrar na segurança e na proteção”, escreveu ele. “Não exigimos que todos os outros fizessem isso antes de nós. Simplesmente fizemos isso como parte do nosso trabalho diário porque era claramente a coisa certa para as pessoas e para nós.”

Zuckerberg argumentou que a IA é mais segura quando o acesso a ela é amplamente distribuído, em vez de concentrado em poucas empresas. Ele criticou os laboratórios de IA que desenvolvem modelos cada vez mais avançados, mas optam por não lançá-los, chamando essa abordagem de “bastante perigosa”, embora não tenha citado nenhuma empresa.

Veja mais em Bloomberg.com

Leia também

Morgan Stanley capta US$ 1,3 bilhão para fundo de growth equity