AI

Weight-space programming: sun'iy intellektni o'qitmasdan yaxshilash usuli

Olimlar sun'iy intellekt modellarini qayta o'qitmasdan, ularning vaznlarini tahrirlash orqali yaxshilash usulini taklif qilishdi.

·2 daqiqa o‘qish
Weight-space programming: sun'iy intellektni o'qitmasdan yaxshilash usuli

MIT Kompyuter fanlari va sun'iy intellekt laboratoriyasi (CSAIL) tadqiqotchilari sun'iy intellekt modellarining samaradorligini oshirish bo'yicha yangi yondashuvni taqdim etishdi. «Vaznlar fazosida dasturlash» (Weight-space programming) deb nomlangan ushbu metod modelni an'anaviy tarzda qayta o'qitmasdan, uning sonli parametrlarini bevosita tahrirlash orqali ish faoliyatini tezlashtirish imkonini beradi.

  • OpenAI kompaniyasining GPT-6 Astra modeli yordamida ochiq Qwen3.5-0.8B modeli tahrir qilindi.
  • MATH-500 benchmarkida ko'rsatkich 7,9% dan 48,1% gacha oshirildi.
  • Model parametrlarining atigi 0,016 foizi o'zgartirildi, xolos.
  • Muvaffaqiyat asosan takrorlanuvchi mantiqiy mulohazalarni bartaraf etish evaziga erishildi.

Tajribalar va texnologiyaning imkoniyatlari

Tadqiqot davomida sun'iy intellekt modeli boshqa neyrotarmoqni tahlil qilib, uning xatti-harakatlarini o'rgandi va qaysi vaznlarni o'zgartirish kerakligini mustaqil aniqladi. Bu jarayonda gradientlarga asoslangan an'anaviy o'qitish jarayonidan foydalanilmagan. Tadqiqotchi Yuchen Jin bu texnologiyani neyrotarmoqlar uchun genetik muhandislik deb atadi.

Agar ushbu usulni yetarlicha ishonchli qilish imkoni tug'ilsa, dasturchilar modellarning ishlashini tezkor sozlash vositasiga ega bo'lishadi. Maqsadli tahrirlash hisoblash resurslari va vaqtni tejashi mumkin, garchi texnologiya hozircha eksperimental bosqichda bo'lsa va aniq tejamkorlik ko'rsatkichlari hali belgilanmagan bo'lsa ham.

Shuningdek o‘qingGPT-6 Astra va MIT CSAIL: neyrotarmoq vaznlarini to‘g‘ridan-to‘g‘ri o‘zgartirish

Cheklovlar va mutaxassislar fikrlari

Yangi yondashuv universal emasligi ta'kidlanmoqda. Masalan, Gemma 3 270M modelida o'tkazilgan tajribada Astra tomonidan kiritilgan o'zgartirishlar matematik qobiliyatlarning oshishiga olib kelmadi, chunki bu modelda takrorlanish muammosi yo'q edi. Shuningdek, qo'shimcha ma'lumotlarsiz model turlicha xatti-harakatlarni farqlay olmagani aniqlandi.

SI hamjamiyati vakillarining fikrlari ikki xil bo'ldi: ayrimlar buni resurslarni tejash va modellarga xizmat ko'rsatish vositasi deb bilsa, boshqalar xavfsizlik kafolatlanmagan holda jarayonning keskin tezlashishidan xavotirda. Pause AI rahbari Maksim Furn bu kabi tadqiqotlarni insoniyatni falokatga yaqinlashtirishi mumkinligini ta'kidladi.

Sanoat uchun ahamiyati

Vaznlarni to'g'ridan-to'g'ri tahrirlash usuli kelajakda yirik til modellarini optimallashtirish jarayonini tubdan o'zgartirishi mumkin. Agar texnologiya xavfsiz va barqaror deb topilsa, kompaniyalar hisoblash quvvatlarini sezilarli darajada tejash imkoniga ega bo'ladilar.

Shu bilan birga, sun'iy intellektning nazoratsiz o'z-o'zini takomillashtirishi bilan bog'liq xavflar va axloqiy masalalar hamjamiyatda jiddiy muhokama qilinmoqda. Texnologik taraqqiyot tezligi va xavfsizlik muvozanatini saqlash kelajakning asosiy vazifalaridan biri bo'lib qolmoqda.

Manba: 3DNews:

O‘xshash maqolalar

Weight-space programming: sun'iy intellektni o'qitmasdan yaxshilash usuli · TECC.UZ