Bloomberg — A OpenAI está considerando desacelerar o desenvolvimento de inteligência artificial de ponta, e o diretor executivo da empresa criadora do ChatGPT, Sam Altman, espera que outras empresas de IA façam o mesmo.
Em uma reunião com toda a equipe realizada nesta semana, Altman informou aos funcionários que a OpenAI poderia, potencialmente, moderar o ritmo de seu desenvolvimento de IA — talvez em conjunto com vários outros laboratórios de IA —, mas que alguns podem não concordar com isso, segundo pessoas a par do assunto à Bloomberg News.
Nas últimas semanas, funcionários de empresas líderes no setor de IA levantaram preocupações públicas sobre os riscos crescentes dos sistemas avançados de IA, alimentando a ansiedade dentro dessas empresas. Tanto a OpenAI quanto sua rival, a Anthropic PBC, entraram com documentos confidenciais para abrir o capital no início deste ano.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
A OpenAI se recusou a comentar.
O cientista-chefe da empresa, Jakub Pachocki, escreveu recentemente uma postagem alertando sobre os perigos da IA e afirmou acreditar que as empresas de IA deveriam “coordenar-se para desacelerar o desenvolvimento futuro, conforme necessário”. Pachocki acrescentou que espera que “as desacelerações voluntárias se tornem comuns até que sejam estabelecidos padrões de segurança compartilhados”.
A OpenAI informou que desacelerou partes do desenvolvimento de modelos e suspendeu temporariamente certos treinamentos internos de IA recentemente devido a preocupações com a segurança. Em julho, Altman também afirmou ter conversado com autoridades da Casa Branca sobre a “necessidade” de moderar o ritmo do desenvolvimento da IA.
Na terça-feira, Jacob Coxon, um pesquisador de IA, pediu demissão e acusou seus dois ex-empregadores — a Anthropic e a OpenAI — de “apostar com nossas vidas” ao correrem em direção a uma IA superinteligente.
Coxon afirmou em uma publicação nas redes sociais que as pessoas que estão desenvolvendo a IA acreditam que ela poderia “matar a todos nós até o final da década”. Os comentários se tornaram virais, atraindo mais de 150 milhões de visualizações e a atenção de legisladores e figuras públicas de destaque.
Leia também: Investidor da OpenAI e da Anthropic compara IA a covid e alerta para risco de mortes
Na quinta-feira, dois pesquisadores que recentemente deixaram seus cargos na Anthropic e na DeepMind, do Google, também divulgaram preocupações sobre o ritmo acelerado do desenvolvimento da IA, afirmando que os criadores da IA precisam ser mais transparentes quanto aos riscos da tecnologia.
E, no final de julho, mais de 1.000 funcionários de todas as principais empresas de IA assinaram uma petição pedindo um mecanismo para desacelerar o ritmo do desenvolvimento da IA.
Vários funcionários da área de segurança da IA se demitiram de grandes laboratórios nos últimos meses.
Embora muitos executivos e trabalhadores do setor de IA venham alertando há muito tempo sobre o risco existencial dos sistemas de IA, as preocupações aumentaram em resposta às revelações de que agentes de IA da OpenAI trabalharam em conjunto para violar as medidas de contenção e invadir um site de terceiros.
Este e outros incidentes de segurança semelhantes alimentaram temores sobre as capacidades cibernéticas dos novos modelos e as aparentes falhas das empresas de IA em impedir que eles ajam de forma descontrolada.
Veja mais em bloomberg.com
Leia também
OpenAI aposta em ‘ChatGPT para serviços financeiros’ para atrair investment bankers
