OpenAI ning Jalapeño chipi inferens tezligi va samaradorligidagi yangi rekordlarni o'rnatdi
Semianalysis InferenceX testi bo‘yicha, Jalapeño prosessor foydalanuvchi boshiga daha ko‘p token va bir kilovatga daha yuqori tarqatish ko‘rsatkichini beradi, hozirgacha eng yuqori darajadagi AI chiplaridan.
OpenAI Jalapeño chipni katta hajmli inferens yuklarini past gecikmaga ega bajarish uchun maxsus tayyorlangan tezlashtiruvchi sifatida e'lon qildi.
Uning samaradorligini baholash uchun Semianalysis InferenceX benchmarhti ishlatildi, bu foydalanuvchi boshiga hosil bo‘lgan tokenlar sonini va bir kilovat elektr energiyasiga qancha hisoblash kuchli yetkazib berishini o'lchaydi.
Natijalarda ko‘rildi ki, Jalapeño hozirgacha eng yuqori darajadagi AI prosessorlaridan ikkita ko‘rsatkichda ham yuqoriroq natija beradi: foydalanuvchi boshiga daha ko‘p token va bir kilovatga daha yuqori tarqatish.
Bu esa markaziy hisoblash markazlari uchun xarajatlarni kamaytiradi va energiya sarflashini orttirmasdan murakkab AI xizmatlarini ishga tushirishni mumkin qiladi.
O'zbekiston va Markaziydavlat Hodimlari (MDH) hududlari uchun, yerli yuqori samaradorlikdagi AI infrastrukturi hali rivojlanayotgan bo‘lsa, Jalapeño chipi keng tarqalgan AI ilovalarini tezroq qo'llashga yordam berishi mumkin.
