IT

Como transcrever mensagens de voz de CRM em uma CPU dual-core sem GPU

Aprenda a construir um sistema local de transcrição de voz para texto para um CRM usando faster-whisper, ffmpeg e cron, sem APIs em nuvem ou GPU.

·3 min de leitura
Como transcrever mensagens de voz de CRM em uma CPU dual-core sem GPU

Os clientes adoram enviar mensagens de voz, mas os gerentes em ambientes barulhentos acham inconveniente ouvi-las, e as listas de diálogo continuam sem informações até serem abertas. Para resolver esse problema sem depender de APIs externas em nuvem, os desenvolvedores implementaram um sistema local de transcrição de voz rodando em um pequeno servidor russo com apenas dois núcleos de CPU e nenhuma GPU. Uma mensagem de voz de 35 segundos é convertida em texto em aproximadamente nove segundos usando ferramentas de código aberto otimizadas.

  • Os desenvolvedores integraram um pipeline local de conversão de fala em texto para mensagens de voz de mensageiros dentro do CRM de vendas.
  • O sistema depende do faster-whisper (modelo small com quantização int8) rodando inteiramente em uma CPU.
  • A decodificação de áudio é delegada ao ffmpeg para evitar erros de leitura de metadados em vários formatos de mensageiros.
  • O processamento é automatizado via cron, limitando tarefas concorrentes e evitando o acúmulo na fila de tarefas usando o flock.

Escolhendo a arquitetura e o modelo de reconhecimento de fala Serviços externos de transcrição em nuvem foram rapidamente descartados devido a preocupações com privacidade, já que as mensagens de voz dos clientes contêm dados pessoais sensíveis que não devem sair da infraestrutura local. Os desenvolvedores escolheram o faster-whisper, uma implementação otimizada do Whisper da OpenAI construída sobre o CTranslate2, que oferece velocidades de inferência significativamente mais rápidas em CPUs padrão em comparação com a implementação original. O processamento foi isolado em uma máquina de nuvem separada com apenas dois núcleos de CPU e sem aceleração de hardware. O sistema utiliza a variante de modelo small com quantização de peso int8. Embora a fala conversacional em russo possa ocasionalmente resultar em pequenos erros de palavras, o contexto geral e o significado são preservados com precisão, o que é perfeitamente suficiente para os gerentes de vendas. Para maximizar o desempenho em hardware limitado, vários parâmetros foram ajustados: compute_type='int8' para execução rápida na CPU, beam_size=1 para decodificação gulosa em frases curtas e vad_filter=True para remover automaticamente o silêncio e as pausas comuns em notas de voz.

Nuances técnicas de decodificação e integração com o CRM Por padrão, o faster-whisper lida com a abertura de arquivos através do PyAV, mas essa abordagem falhou ao processar arquivos de áudio brutos de mensageiros que chegam em vários formatos, como ogg, m4a e mp3, frequentemente disparando erros de leitura de metadados. Os desenvolvedores resolveram isso delegando a decodificação de áudio inteiramente ao ffmpeg, convertendo os arquivos recebidos em um array float32 bruto padronizado a 16 kHz mono. Isso desacoplou o pipeline dos formatos de arquivo originais, garantindo estabilidade em diversos dispositivos de clientes. Seguindo a filosofia Unix, o script de transcrição opera via fluxos de entrada e saída padrão (stdin para stdout), o que significa que os arquivos de áudio nunca são gravados no disco do servidor, aumentando a segurança. O servidor principal do CRM invoca o script por meio de chamadas de subprocesso. A automação é tratada pelo cron, emparelhado com o flock para evitar execuções sobrepostas e um limite estrito de mensagens processadas por execução para proteger o servidor de reconhecimento contra picos de tráfego.

Impacto nos negócios e aprendizados práticos Essa abordagem de automação local eliminou a necessidade de APIs pagas externas em nuvem, mantendo todos os dados de áudio e texto armazenados de forma segura em servidores próprios. Uma mensagem de voz é transcrita automaticamente e exibida na interface do CRM cerca de um minuto após o recebimento, permitindo que os gerentes compreendam instantaneamente a intenção do cliente diretamente da lista de chat, sem clicar em reproduzir. a solução prova que recursos práticos de IA podem ser implantados de maneira econômica em hardware modesto, sem GPUs caras. Para equipes técnicas que constroem ferramentas internas semelhantes, começar com uma pequena configuração de CPU int8, aproveitar o ffmpeg para uma decodificação de áudio robusta e evitar armazenamento em disco desnecessário fornece um modelo confiável. Proteger os dados do usuário e, ao mesmo tempo, aprimorar a eficiência operacional torna essa integração de IA local um ativo valioso para plataformas de CRM modernas que operam sob restrições rígidas de privacidade de dados.

Fonte: Все публикации подряд на Хабре

Artigos relacionados