Musk, Wozniak e líderes tech pedem pausa em IA e sistemas como ChatGPT

Em carta aberta, lideranças do setor e especialistas defendem que é preciso desenvolver protocolos de segurança compartilhados antes que seja tarde demais

Sistemas de inteligência artificial precisam mais precisos, seguros, interpretáveis, confiáveis e leais, diz carta assinada pelo executivo e outros líderes da indústria de tecnologia
Por Jake Rudnitsky e Mark Bergen
29 de Março, 2023 | 01:32 PM

Bloomberg — Especialistas em inteligência artificial, líderes do setor e pesquisadores, incluindo Elon Musk e o cofundador da Apple Steve Wozniak, pediram a desenvolvedores de IA (Inteligência Artificial) que façam uma pausa no desenvolvimento de qualquer modelo mais poderoso do que a última versão por trás do ChatGPT, da OpenAI - ou seja, o GPT-4.

Mais de 1.100 pessoas do setor assinaram uma petição solicitando que laboratórios de pesquisa e desenvolvimento parem de treinar poderosos sistemas de IA por pelo menos seis meses, com o objetivo de permitir o desenvolvimento de protocolos de segurança compartilhados.

“Nos últimos meses, os laboratórios de IA travaram uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”, disse uma carta aberta publicada no site do Future of Life Institute.

“Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos, e seus riscos, gerenciáveis.”

PUBLICIDADE

O apelo ocorre após o lançamento de uma série de projetos de IA nos últimos meses que executam tarefas humanas de forma convincente, como escrever e-mails e criar arte. A OpenAI, que tem a Microsoft entre os investidores, lançou seu GPT-4 neste mês, uma grande atualização de seu chatbot com inteligência artificial capaz de contar piadas e passar em testes como o exame da ordem de advogados.

Google, controlado pela Alphabet, e Microsoft estão entre as empresas que usam inteligência artificial para aprimorar seus mecanismos de busca, enquanto o Morgan Stanley tem utilizado o GPT-4 desde o ano passado para criar um chatbot destinado a seus gestores de patrimônio.

Desenvolvedores devem trabalhar com autoridades para criar sistemas de governança de IA e órgãos de supervisão, de acordo com a carta. A petição recomenda que os governos intervenham no desenvolvimento de sistemas de IA caso os principais atores não concordem com uma pausa pública e verificável.

PUBLICIDADE

“A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais”, de acordo com a carta.

Yoshua Bengio, fundador e diretor científico do Mila, um instituto canadense de pesquisa em IA, assinou a petição, segundo comunicado de imprensa do instituto. E Emad Mostaque, fundador e CEO da Stability AI, confirmou à Bloomberg que assinou a carta.

A OpenAI não respondeu aos pedidos de comentários sobre a carta. Não houve signatários da OpenAI no documento.

O Future of Life Institute é uma organização sem fins lucrativos que busca mitigar os riscos associados a tecnologias poderosas e conta com a Musk Foundation como sua maior colaboradora.

- Com a colaboração de Rachel Metz.

Veja mais em Bloomberg.com

Leia também

PUBLICIDADE

Rival da Casas Bahia? Apple lança serviço de ‘carnê’ para acelerar vendas

Órgão interno de controle do Fed investiga em paralelo o colapso do SVB