Ripple-65B Preview: yangi ochiq til modeli va uning imkoniyatlari

Ricursive Intelligence sun'iy intellekt laboratoriyasi o'zining chip loyihalash platformasini quvvatlantiruvchi Ripple-65B Preview til modelining umumiy foydalanish uchun mo'ljallangan versiyasini e'lon qildi. Model noldan boshlab 12 trillion tokenda o'qitilgan bo'lib, 1 million tokenli kontekst uzunligini qo'llab-quvvatlaydi va agentli dasturlash bo'yicha AQShning ochiq vaznli eng yaxshi natijalarini ko'rsatmoqda.

• Ripple-65B Preview TerminalBench 2.1 testida 80.52 ball to'plab, Reflection Beam va Meta Muse Spark kabi yirik modellardan o'zib ketdi.
• To'liq R&D va noldan o'qitish jarayoni atigi $32 millionni tashkil etdi, bu esa oldingi SOTA modellarga qaraganda o'n barobar arzon.
• Zich (dense) arxitektura tufayli model NVIDIA DGX kabi lokal qurilmalarda ham samarali ishlay oladi.

Arxitektura va texnik xususiyatlar

Ko'plab laboratoriyalardan farqli o'laroq, yaratuvchilar MoE o'rniga zamonaviy zich Transformator arxitekturasini tanladilar. Bu qaror o'qitish infratuzilmasi murakkabligini kamaytirishga va hatto maxsus yadrolarsiz ham 40% MFU samaradorligini saqlab qolishga yordam berdi. Model tor d_model va 80 ta qatlamdan iborat bo'lib, e'tibor mexanizmlari mantiqiy fikrlashni kuchaytirish uchun optimallashtirilgan.

Modelni ishlab chiqish jarayonida Olmo 3 arxitekturasi asos qilib olindi va bosqichma-bosqich takomillashtirildi. Muhandislar ma'lumotlar bazasini boyitib, kod yozish samaradorligini taqqoslaganda 16 barobargacha oshirishga erishdilar. Shuningdek, tashqi ma'lumotlarni sotib olish o'rniga o'zlarining sintetik ma'lumotlar quvurlaridan foydalanildi.

Taqdimot va foydalanish imkoniyatlari

Ripple-65B Preview hozirda Hugging Face, Together AI, GMI Cloud va OpenRouter platformalarida mavjud bo'lib, dasturchilar uchun keng yo'l ochadi. Ushbu model agentli dasturlash sohasida ochiq kodli tizimlar uchun yangi standartni o'rnatib, yuqori unumdorlik va past kechikishli token generatsiyasini ta'minlaydi.