Para empresas que lidam diariamente com grandes volumes de dados, incorporar inteligência artificial (IA) à operação deixou de ser apenas uma necessidade. O desafio, porém, passou a ser encontrar uma forma de fazer isso com eficiência, controle de custos e capacidade de expansão.
Foi diante disso que o Sem Parar Corpay, ecossistema de soluções de mobilidade, meios
de pagamento e benefícios corporativos, decidiu dar um passo de evolução em como opera a inteligência artificial e seus modelos de linguagem. Em vez de tratar cada aplicação como um serviço isolado, contratado e cobrado por uso, a companhia decidiu construir uma nova alternativa, com uma ‘fábrica de IA’ própria: uma infraestrutura dedicada sobre a qual já construiu um portfólio diversificado de soluções baseadas em LLMs de código aberto.
Hoje, a fábrica já sustenta em produção aplicações como o Meu RH, agente que atende os colaboradores da empresa integrado ao Microsoft Teams; a Super Carol, assistente virtual para clientes do Sem Parar no WhatsApp; o Copiloto de Atendimento, que ajuda os operadores da central de relacionamento a terem maior assertividade; o Robô de Resgate de Vendas, que recupera pedidos online interrompidos por erros de cadastro. Cada nova aplicação que entra na fábrica se utiliza da mesma capacidade instalada, aumentando o retorno sobre o investimento.
O ponto de partida para a “Fábrica de IA” foi atender a necessidade de negócio de uma aplicação relacionada ao atendimento ao consumidor: uma solução de reconhecimento de voz baseado em IA generativa capaz de transformar milhares de mensagens de texto e voz do call center em dados que poderiam ser analisados pela empresa, com uma altíssima precisão de transcrição. Esta solução permite acompanhar indicadores como conversão de vendas, cancelamentos e desempenho do atendimento. Com base no dimensionamento do projeto inicial, o processamento alcança tempos de resposta inferiores a meio segundo, e a demanda relacionada ao processamento de mensagens consome apenas cerca de duas horas da capacidade diária disponível.
Para isso, a empresa criou uma infraestrutura própria para IA, desenvolvida em colaboração com a Dell Technologies, com tecnologia da NVIDIA na alocação da infraestrutura de TI.
De uma aplicação específica a uma ‘fábrica de IA’
Tudo começou com um desafio concreto: como processar e analisar grandes volumes de atendimentos do call center com agilidade, segurança e custos previsíveis?
A resposta envolveu servidores Dell PowerEdge equipados com quatro NVIDIA H200 GPUs, armazenamento Dell PowerScale e a plataforma de software NVIDIA AI Enterprise, que atua como uma camada de software empresarial para viabilizar e acelerar o processamento de voz da solução. O projeto contou ainda com a participação da Ascenty na alocação da infraestrutura de TI.
Entre as vantagens da inovação para o projeto estão o processamento de grandes volumes de áudios com menor tempo de resposta; disponibilização de uma plataforma validada, segura e voltada para a execução dos modelos de IA; simplificação da implantação, gerenciamento e escalabilidade do ambiente; processamento local e aumento do controle sobre informações sensíveis, além de transformar os áudios em textos estruturados, o que possibilita análises posteriores, como busca, classificação, identificação de temas e geração de insights. “O NVIDIA AI Enterprise é uma solução completa para acelerar e otimizar o desenvolvimento e a implantação da IA nas empresas ao reunir microsserviços, frameworks, modelos abertos, bibliotecas e ferramentas de ciência de dados que maximizam a performance das GPUs NVIDIA para aplicações de IA agêntica. Por isso, nesse projeto, a plataforma não é apenas um modelo para análise, processamento e transcrição de voz. A tecnologia é a base necessária para operar o projeto com alta performance, escalabilidade e confiabilidade”, pontua Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina.
De forma geral, todos esses componentes formam a infraestrutura necessária para transformar os dados produzidos pela operação em informações que podem ser processadas por modelos de IA. O resultado foi uma estrutura que não ficou limitada ao caso de uso que motivou sua criação, recebendo novas aplicações à medida que elas vem sendo desenvolvidas pela companhia ou são migradas de soluções maduras que anteriormente geravam custo de consumo de tokens.
“A decisão de construir uma alternativa de infraestrutura própria de inteligência artificial partiu da busca por maior controle sobre nossos dados, custos e capacidade de evolução”, afirma Paulo Henrique Scrideli, vice-presidente de TI do Sem Parar Corpay. “Mais do que atender a um caso de uso específico, que justificou o investimento inicial no projeto, queríamos construir uma base que nos desse mais segurança, privacidade e previsibilidade, além da flexibilidade necessária para incorporar algumas das novas aplicações de IA à medida que surgissem novas oportunidades para o negócio.”
Com base no dimensionamento do projeto, o processamento alcança tempos de resposta inferiores a meio segundo, e a demanda relacionada ao processamento de mensagens consome apenas cerca de duas horas da capacidade diária disponível. Com isso, mais de 90% do tempo de processamento pode ser aproveitado para outras iniciativas de IA, ampliando a utilização da infraestrutura e otimizando o investimento realizado.
“O principal desafio foi criar uma infraestrutura capaz de lidar com dados críticos e sensíveis, ampliando o controle e a governança das informações e atendendo aos requisitos da LGPD e de conformidade regulatória. Nesse contexto, processar os dados em ambiente próprio foi estratégico para a companhia. Com a nossa Dell AI Factory com solução da NVIDIA, estruturamos uma base segura e escalável, preparada para atender à demanda atual e suportar novos projetos de IA”, ressalta Diego Puerta, presidente da Dell Technologies no Brasil.
Mais IA, com custos previsíveis
Com a nova estratégia veio uma nova forma de administrar os custos, baseada em capacidade dedicada, mais previsível e compartilhada entre diferentes aplicações à medida que o uso de IA avança na companhia.
Com uma “fábrica de IA” dentro de casa, a empresa passa a contar com capacidade de processamento para diferentes aplicações, mantendo maior controle sobre dados e modelos de IA. A estratégia ganha relevância diante das crescentes exigências de segurança, privacidade e proteção dos dados dos clientes, incluindo a LGPD, e cria um ambiente mais controlado para escalar novas iniciativas de IA.
A eficiência da infraestrutura também é um componente importante da estratégia. Ao combinar uma arquitetura dedicada com tecnologias otimizadas para cargas de trabalho de IA, o Sem Parar Corpay busca aumentar o desempenho e aproveitar melhor os recursos computacionais disponíveis, contribuindo para um custo mais eficiente de processamento.
Essa otimização ganha relevância à medida que o uso de IA cresce dentro da companhia. Uma infraestrutura dedicada e mais eficiente permite ao Sem Parar Corpay ampliar o controle sobre seus recursos computacionais e custos, com maior previsibilidade sobre o investimento necessário para processar volumes crescentes de dados, além de maximizar o aproveitamento da capacidade instalada.
“Quando falamos em escalar inteligência artificial, não basta considerar apenas a capacidade computacional disponível, mas a eficiência com que ela é utilizada. A otimização de modelos e workloads permite realizar mais processamento com a mesma infraestrutura, melhorando o aproveitamento dos recursos e, consequentemente, a relação entre custo e desempenho. No caso do Sem Parar Corpay, essa abordagem ajuda a criar uma base que pode atender ao primeiro caso de uso e, progressivamente, suportar novas aplicações de IA sem que os custos precisem crescer na mesma proporção”, avalia o diretor da divisão Enterprise da NVIDIA para América Latina.
Os ganhos de eficiência e a melhoria na relação custo-benefício do processamento de tokens durante a inferência ajudam a demonstrar o potencial da infraestrutura, mas o aspecto mais relevante está na possibilidade de aproveitar essa mesma base tecnológica para ampliar a adoção de IA e gerar valor em novos casos de uso.
Cinco aplicações, uma mesma base
Esse potencial já começou a se concretizar. Em outubro, o Sem Parar Corpay passou a levar para a fábrica de IA outras quatro aplicações que já fazem parte do dia a dia da companhia, aproveitando a capacidade disponível da infraestrutura. Somadas à análise de chamadas, elas vão do relacionamento com o cliente à experiência dos colaboradores.
Super Carol. Assistente virtual do Sem Parar Corpay no WhatsApp, a Super Carol responde às dúvidas e solicitações dos clientes de forma automática. Com a fábrica de IA, a companhia ganha mais autonomia para personalizar e aprimorar continuamente as respostas da assistente.
Copiloto de Atendimento. A ferramenta apoia os operadores da central de atendimento durante as conversas com os clientes, tornando o atendimento mais ágil e preciso. Na nova estrutura, o copiloto pode ser ajustado com mais flexibilidade às necessidades da operação.
Meu RH. Assistente virtual voltado aos colaboradores, o Meu RH esclarece dúvidas e encaminha solicitações de recursos humanos pelos canais internos de comunicação da empresa.
Robô de Resgate de Vendas. Quando um pedido feito online apresenta erro de cadastro, as informações são enviadas por e-mail para tratamento. O robô identifica essas mensagens, extrai e valida os dados e conclui o registro do pedido automaticamente, sem intervenção manual.
Em comum, as cinco aplicações passam a compartilhar os benefícios que motivaram a criação da fábrica: dados processados em ambiente próprio, mais autonomia para evoluir as soluções e custos mais previsíveis à medida que o uso de IA cresce.
Próximos passos
Além dessas cinco aplicações, a estrutura instalada abre caminho para que o Sem Parar Corpay desenvolva novos projetos de IA. Isso tem incluído iniciativas de IA generativa e agêntica, copilotos para apoiar profissionais, automação de processos, entre outros.
É o caso, por exemplo, do uso de visão computacional para identificar e conferir eixos de caminhões em pedágios. Hoje, esse tipo de conferência pode envolver análise manual das imagens. Com a IA, a empresa irá automatizar parte desse processo e direcionar os profissionais para atividades de maior valor agregado.
A aplicação, que ainda está em estudo, ilustra a lógica por trás da infraestrutura construída pelo Sem Parar Corpay: uma mesma base tecnológica pode sustentar diferentes aplicações, desde que novos casos de uso sejam desenvolvidos e validados.
Para a companhia, ter a tecnologia em casa significa ampliar o controle sobre os dados e sobre a operação, ganhar autonomia para evoluir suas aplicações e criar maior previsibilidade para os custos.
“Esse projeto cria novas opções para otimizar os diferentes perfis de demanda, e estabelece uma base para o próximo estágio da nossa jornada de inteligência artificial. A partir dessa infraestrutura já temos levado para a fábrica soluções para uso interno e suporte aos clientes e, principalmente, abrimos espaço para explorar novas aplicações à medida que identificamos oportunidades de gerar eficiência e valor para o negócio. O desafio é ampliar gradualmente o uso dessa capacidade, levando a IA para diferentes processos e transformando a tecnologia em uma plataforma cada vez mais transversal dentro da companhia”, finaliza Scrideli.
