Por que os novos apps do ChatGPT podem ser tão nocivos quanto as redes sociais

Bloomberg Opinion — A OpenAI está se expandindo e anunciou a criação de uma “loja” para monetizar sua tecnologia de modelo de linguagem e compartilhar a ferramenta com outras empresas. Contudo, a empresa está usando uma estrutura de incentivo que tem um histórico de efeitos colaterais desagradáveis.

A “GPT Store” está disponível para os clientes corporativos da OpenAI e para qualquer pessoa que pague US$ 20 por mês para usar o ChatGPT Plus, oferecendo uma seleção de versões menores e especializadas da ferramenta em áreas como pesquisa, educação e design, criadas por desenvolvedores terceirizados.

Essa versões são como aplicativos com os quais você conversa por meio de um chatbot. Por exemplo, pedi ao GPT “AllTrails” para recomendar rotas de corrida em minha cidade, e ele trouxe uma lista de ideias com links para mapas. O “Coloring Book Hero” gerou algumas imagens de personagens protegidos por direitos autorais para meus filhos colorirem, e o GPT “Books” produziu uma lista de romances de sobrevivência na selva depois que eu disse a ele que havia assistido novamente ao filme O Regresso.

A OpenAI diz que os desenvolvedores já criaram mais de 3 milhões desses GPTs, o que levou o The Atlantic a apontar que esse era o “momento FarmVille” do ChatGPT. De fato, isso remete ao momento em que o Facebook permitiu que outros engenheiros de software criassem aplicativos para o site em 2007, ajudando-o a se tornar uma plataforma em expansão. Mas a loja da OpenAI também é semelhante ao Facebook em um aspecto mais perturbador: ela tem uma estrutura de receita baseada em engajamento.

LEIA +

O que mudou para o Bing, o buscador da Microsoft, um ano após a integração do ChatGPT

Site de busca da Microsoft, alimentado agora por inteligência artificial, continua lutando para se manter relevante frente à dominância do Google

Os desenvolvedores “serão pagos com base no engajamento do usuário com seus GPTs”, disse a OpenAI, o que significa que quanto mais popular, envolvente e potencialmente viciante for um serviço de GPT, mais dinheiro seus desenvolvedores poderão ganhar – a empresa conta que fornecerá mais detalhes sobre como esses pagamentos funcionarão em algum momento do primeiro trimestre. A OpenAI pode ser a principal empresa de IA do mundo, mas está aproveitando um dos modelos de negócios mais estabelecidos na internet.

Empresas como Facebook, YouTube, sites de e-commerce e organizações de notícias usam o engajamento como sua principal métrica para pagar ou cobrar de terceiros. Isso fez com que a atenção se tornasse a moeda que impulsiona nossa economia on-line. O modelo de negócios do Facebook, por exemplo, gira em torno da maximização do engajamento do usuário para gerar receita com anúncios. Quanto mais tempo as pessoas passam na plataforma, mais anúncios podem ser exibidos. O YouTube paga aos criadores com base no número de visualizações que seus vídeos recebem, enquanto o TikTok paga aos influenciadores com base no engajamento de seus seguidores com suas publicações. Muitos sites de notícias, como a Forbes.com, também pagam os redatores com base nas visualizações.

O grande benefício desse modelo foi a gratuidade da maior parte do conteúdo da Internet. Mas também há muitas desvantagens. Ao priorizar o conteúdo que mantém as pessoas no Facebook por mais tempo, seus algoritmos geralmente mostram publicações que provocam indignação. Isso criou câmaras de eco políticas e atraiu pessoas para grupos que disseminam teorias da conspiração.

O modelo do YouTube fez com que os criadores focassem em conteúdo sensacionalista ou controverso para gerar visualizações, motivando os influenciadores a publicar vídeos provocativos, enquanto os sites de notícias gravitaram na última década em direção a manchetes sensacionalistas e que atraem cliques, muitas delas focadas em tópicos de tendências em vez de jornalismo aprofundado. O modelo baseado em engajamento afetou até mesmo a TV. David Chase, o criador de Família Soprano, reclamou recentemente que a era de ouro da televisão havia chegado ao fim depois que ele foi advertido pelos executivos para não fazer programas que “exijam que o público se concentre”.

Sam Altman já havia negado que a OpenAI usava o engajamento como parte de seu modelo de negócios. Quando testemunhou perante o Congresso no ano passado, o CEO da OpenAI concordou com um legislador que advertiu a empresa contra a repetição dos erros das redes de mídia social. “Tentamos projetar sistemas que não maximizem o engajamento”, respondeu Altman. “Não somos um modelo baseado em publicidade. Não estamos tentando fazer com que as pessoas o usem cada vez mais.” Mas é provável que outros desenvolvedores o façam, e a GPT Store não precisa ser baseada em anúncios para maximizar o engajamento. Modelos de assinatura como a Netflix (NFLX) também fazem isso e são os principais membros da atual economia da atenção.

LEIA +

Satya Nadella, da Microsoft, explica por que não buscará controle da OpenAI

Em entrevista à Bloomberg News no Fórum Econômico Mundial em Davos, o CEO da big tech diz que busca preservar a ‘estabilidade’ da companhia de IA generativa

Um aspecto que parece estar chamando a atenção das pessoas para a IA são os relacionamentos. Com base em uma pesquisa rápida do que está disponível no momento, dezenas de desenvolvedores já enviaram bots de “namorada” para a loja da OpenAI. Os usuários só podem buscar conselhos sobre relacionamentos ou participar de um bate-papo amigável com esses bots, já que a OpenAI proíbe os desenvolvedores de lançar bots que promovam “romance”. No entanto, com mais de três milhões de GPTs para supervisionar e provavelmente mais por vir, será mais difícil garantir que todos eles sigam essas regras.

A OpenAI está abrindo uma caixa de Pandora de possíveis efeitos colaterais com a adoção de um modelo de negócios que já reformulou o comportamento humano de maneiras repugnantes. As empresas de mídia social cujos algoritmos incentivavam sutilmente a atividade tóxica muitas vezes não conseguiam aplicar suas diretrizes que proibiam esse comportamento. A OpenAI pode se diferenciar de seus antecessores se conseguir aplicar essas diretrizes adequadamente. Essa seria uma mudança bem-vinda, mas será difícil de ser realizada.

Esta coluna não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.

Parmy Olson é colunista da Bloomberg Opinion e cobre a área de tecnologia. Já escreveu para o Wall Street Journal e a Forbes e é autora de “We Are Anonymous”.

Veja mais em Bloomberg.com

Unicórnio brasileiro de pagamentos busca expansão global com estreia nos EUA