MacBook Pro va to'rtta SSD yordamida Kimi K3 modelini ishga tushirishdi

Texnologiya olamida yana bir qiziqarli yutuqqa erishildi. Mutaxassislar Apple'ning mashhur MacBook Pro noutbuki hamda to'rtta yuqori tezlikdagi SSD xotira qurilmasidan foydalangan holda ulkan sun'iy intellekt modelini ishga tushirishdi.

Gap shundaki, 2.8 trillion parametrga ega bo'lgan Kimi K3 modeli odatda juda katta hisoblash quvvatlarini talab qiladi. Biroq maxsus yondashuv va to'rtta SSD'dan ma'lumotlarni oqim shaklida uzatish orqali bu muammoni hal qilishdi va sekundiga 1 token tezlikka erishildi.

Hacker News platformasida muhokama qilingan ushbu tajriba apparat ta'minoti cheklovlarini chetlab o'tish bo'yicha yana bir ijodiy yechim bo'ldi. Odatda bunday yirik modellarni faqat maxsus ma'lumotlar markazlari va kuchli serverlar orqali ishlatish mumkin edi.

Bunday yechimlar texnologiya ixlosmandlari va dasturchilarga kelajakda yanada ulkan sun'iy intellekt modellarini oddiy qurilmalarda ham sinab ko'rish imkoniyatlari haqida o'ylashga turtki beradi. O'zbekistonlik IT mutaxassislari uchun ham mahalliy sharoitda katta hajmli modellarni optimallashtirish bo'yicha qiziqarli tajriba bo'lib xizmat qiladi.