IT

GPUなしのデュアルコアCPUでCRMの音声メッセージを文字起こしする方法

クラウドAPIやGPUを使用せず、faster-whisper、ffmpeg、cronを活用してCRM向けのローカル音声文字起こしシステムを構築する方法を解説します。

·3 分で読めます
GPUなしのデュアルコアCPUでCRMの音声メッセージを文字起こしする方法

顧客は音声メッセージを送るのが好きですが、騒がしい環境にいるマネージャーにとっては聞き取りづらく、対話リストも開封するまで中身がわかりません。外部のクラウドAPIに依存せずにこの問題を解決するため、開発者たちはGPUを搭載せず、わずか2つのCPUコアを持つ小規模なロシア製サーバー上で動作するローカル音声文字起こしシステムを実装しました。最適化されたオープンソースツールを使用することで、35秒の音声メッセージが約9秒でテキストに変換されます。

  • 開発者たちは、営業向けCRM内のメッセンジャー音声メッセージに対応するローカル音声認識パイプラインを統合しました。
  • このシステムは、完全にCPU上で動作するfaster-whisper(int8量子化されたsmallモデル)を採用しています。
  • さまざまなメッセンジャー形式におけるメタデータの読み取りエラーを防ぐため、音声のデコード処理はffmpegにオフロードされています。
  • 処理はcronによって自動化されており、flockを使用して同時実行数を制限し、タスクキューの肥大化を防いでいます。

アーキテクチャと音声認識モデルの選定 外部のクラウド文字起こしサービスは、顧客の音声メッセージに機密性の高い個人情報が含まれており、ローカルのインフラストラクチャの外に出すべきではないというプライバシー上の懸念から、早々に除外されました。開発者たちは、CTranslate2を基盤にOpenAIのWhisperを最適化した実装であるfaster-whisperを選択しました。これにより、オリジナルの実装と比較して、標準的なCPU上で大幅に高速な推論速度を実現しています。処理は、ハードウェアアクセラレーションを持たず、2つのCPUコアのみを備えた専用のクラウドマシン上に隔離されました。 システムでは、int8の重み量子化を行ったsmallモデルのバリアントを採用しています。日常的なロシア語の会話ではごく稀に軽微な単語の誤りが発生することがあるものの、全体的な文脈や意味は正確に保持されており、営業マネージャーの業務には十分すぎる品質です。限られたハードウェア上でパフォーマンスを最大化するため、いくつかのパラメータが調整されました。高速なCPU実行のための `compute_type='int8'`、短いフレーズに対する欲張り法(貪欲デコード)用の `beam_size=1`、そしてボイスノートによく見られる無音やポーズを自動的に除去するための `vad_filter=True` が設定されています。

技術的なデコードのニュアンスとCRM連携 デフォルトでは、faster-whisperはPyAVを通じてファイルを開きますが、ogg、m4a、mp3などさまざまな形式で届く生のメッセンジャー音声ファイルを処理する際、このアプリケーションはメタデータの読み取りエラーを引き起こすことがよくありました。開発者たちは、音声のデコード処理を完全にffmpegに委譲し、受信したファイルを16 kHzモノラルの標準化された生のfloat32配列に変換することでこの問題を解決しました。これにより、パイプラインが元のファイル形式から切り離され、多様なクライアントデバイス間での安定性が確保されました。 Unixの哲学に従い、文字起こしスクリプトは標準入出力ストリーム(stdinからstdout)を介して動作するため、音声ファイルがサーバーのディスクに書き込まれることは一切なく、セキュリティが向上しています。メインのCRMサーバーは、サブプロセス呼び出しを介してスクリプトを起動します。自動化はcronによって処理され、重複実行を防ぐためのflockや、認識サーバーをトラフィックの急増から保護するための1回の実行あたりの処理メッセージ数の厳格な制限と組み合わされています。

ビジネスへの影響と実践的な学び このローカル自動化アプローチにより、外部の有料クラウドAPIが不要になり、すべての音声およびテキストデータが国内サーバー内に安全に保持されるようになりました。音声メッセージは自動的に文字起こしされ、受信後約1分でCRMインターフェース上に表示されるため、マネージャーは再生ボタンをクリックすることなく、チャットリストから直接顧客の意図を即座に把握できます。このソリューションは、高価なGPUを使用せずとも、実用的なAI機能を控えめなハードウェア上で費用対効果高く展開できることを証明しています。 同様の社内ツールを構築する開発チームにとって、小規模なint8のCPU構成から始め、堅牢な音声デコードにffmpegを活用し、不要なディスクストレージを避けることは、信頼性の高い設計指針となります。ユーザーデータを保護しながら業務効率を向上させるこのローカルAI統合は、厳格なデータプライバシー制約の下で運営される現代のCRMプラットフォームにとって貴重な資産となります。

出典: Все публикации подряд на Хабре

関連記事