IT

Videokartasiz va ikki yadroli serverda CRM uchun ovozli xabarlarni matnga o'girish

Faster-whisper, ffmpeg va cron yordamida videokartasiz serverda CRM ovozli xabarlarini bulutli API'larsiz matnga aylantirish usuli.

·3 daqiqa o‘qish
Videokartasiz va ikki yadroli serverda CRM uchun ovozli xabarlarni matnga o'girish

Mijozlar messenjerlarda ovozli xabarlar yuborishni yaxshi ko'radi, ammo shovqinli muhitda ishlaydigan menejerlar uchun ularni eshitish noqulay. Shuningdek, xabarni ochmasdan turib uning mazmunini tushunib bo'lmaydi. Ushbu muammoni hal qilish uchun dasturchilar tashqi bulutli API'larga murojaat qilmagan holda, Rossiyadagi kichik ikki yadroli va videokartasiz serverda ishlaydigan lokal transkripsiya tizimini yaratdilar. Natijada 35 soniyali ovozli xabar taxminan 9 soniyada matnga o'giriladi.

  • CRM tizimidagi mijozlar ovozli xabarlarini lokal ravishda matnga aylantirish mexanigi yaratildi.
  • Asos sifatida CPU uchun optimallashtirilgan faster-whisper (small modeli va int8 kvantlashi) tanlandi.
  • Ffmpeg yordamida tovushni oldindan dekodlash fayl formatlaridagi xatoliklarning oldini oladi.
  • Skript cron yordamida ishga tushirilib, bir vaqtning o'zida ortiqcha yuklamalarning oldi olinadi.

Arxitektura va sun'iy intellekt modelini tanlash Ovozli xabarlar mijozlarning shaxsiy ma'lumotlarini o'z ichiga olgani sababli ularni xorijiy bulutli xizmatlarga yuborish maqsadga muvofiq emas edi. Shu sababli barcha jarayonlar lokal serverda bajarilishi shart edi. Dasturchilar CTranslate2 asosida ishlovchi va oddiy Whisper'ga qaraganda protsessorda sezilarli darajada tezroq ishlaydigan faster-whisper kutubxonasini tanladilar. Serverda ikkita yadro mavjud bo'lib, videokarta umuman ishlatilmagan. Model sifatida int8 kvantlashiga ega small versiyasi tanlandi. Rus tilidagi so'zlashuv nutqida bu konfiguratsiya ayrim so'zlarda kichik xatolarga yo'l qo'ysa-da, asosiy ma'noni aniq yetkazib beradi va bu menejerlar uchun yetarli hisoblanadi. Tezlikni oshirish uchun compute_type='int8', beam_size=1 hamda pauzalarni kesib tashlash uchun vad_filter=True parametrlari ishlatildi. Natijada resurslar tejalib, qisqa parchalarni qayta ishlash tezlashdi.

Dekodlash jarayoni va CRM bilan integratsiya Prolar uchun mo'ljallangan faster-whisper odatda fayllarni PyAV yordamida ochadi, biroq messenjerlardan keladigan turli xil ogg, m4a va mp3 formatidagi ovozli xabarlarda bu kutubxona xatoliklarga duch keldi. Muammoni hal qilish uchun dekodlash jarayoni ffmpeg dasturiga topshirildi va modelga tayyor monoxromatik massiv uzatildi. Natijada dastlabki faylning formati qanday bo'lishidan qat'i nazar, tizim barqaror ishlay boshladi. Skript stdin va stdout interfeysi asosida ishlaydi, ya'ni audio fayl hech qachon server diskiga saqlanmaydi va xavfsizlik ta'minlanadi. Asosiy server skriptni chaqiradi va natijada tayyor matnni oladi. Cron rejalashtiruvchisi va flock yordamida bir vaqtning o'zida bir nechta bir xil jarayonlarning ishga tushishi cheklanib, serverning haddan tashqari yuklanishining oldi olindi.

Biznes uchun ahamiyati va natijalar Ushbu lokal yechim qo'shimcha xarajatlarsiz va bulutli xizmatlarga haq to'lamasdan mijozlar bilan muloqotni avtomatlashtirish imkonini berdi. Ovozli xabar kelib tushgandan taxminan bir daqiqa o'tgach, CRM interfeysida matnli ko'rinishga ega bo'ladi. Menejerlar endi xabarni tinglab o'tirmasdan, dialoglar ro'yxatining o'zidayoq uning mazmuni bilan tanishishlari mumkin. Mazkur tajriba zamonaviy sun'iy intellekt texnologiyalarini qimmatbaho videokartalarsiz, oddiy va kichik server resurslarida ham muvaffaqiyatli tatbiq etish mumkinligini ko'rsatadi. Shaxsiy ma'lumotlarning maxfiyligi saqlangan holda lokal infratuzilmada ishlaydigan bunday tizimlar kichik biznes va CRM yaratuvchilari uchun foydali amaliy tajriba bo'lib xizmat qiladi.

Manba: Все публикации подряд на Хабре

O‘xshash maqolalar