Anthropic Claude foydalanuvchilarini modellar o'qitishi uchun bloklamoqda

Anthropic kompaniyasi o'zining xavfsizlik tizimlari orqali pullik foydalanuvchilarning hisoblarini ommaviy ravishda cheklay boshladi. Bunga katta til modellarini o'qitish va sozlash jarayonlarini avtomatlashtirishga urinishlar sabab bo'lgani aytilmoqda.

• Gonkong universitetining aspiranti Tsziaxo Shao X ijtimoiy tarmog'ida Anthropic tomonidan cheklovlarga uchragani haqida yozdi va uning posti 277 mingdan ortiq ko'rish yig'di.
• Anthropic xavfsizlik tizimi tadqiqot jarayonini raqobatchi modelni yaratishga tayyorgarlik deb baholagan.
• Foydalanuvchilar sessiyalar uzilishi, versiyalarning majburiy almashtirilishi va SFT hamda RFT usullarida blokirovkalarga duch kelmoqda.

Gonkonglik tadqiqotchi bilan yuzaga kelgan mojaro

Gonkong fan va texnologiya universiteti aspiranti Tsziaxo Shao Claude xizmatidan foydalanishda qattiq cheklovlarga duch kelganini ma'lum qildi. U ochiq kodli kuchli model yordamida o'quv namunalarini yaratib, Claude'dan esa jarayonlarni avtomatlashtirish, vazifalarni yuborish va natijalarni tahlil qilish uchun foydalanganini aytdi. Biroq Anthropic xavfsizlik tizimi bu harakatlarni shubhali deb topgan.

Shaoning so'zlariga ko'ra, uning faol sessiyalari tugatilib, Opus 5.5 versiyasidan Opus 5'ga majburiy tushirib yuborilgan va modellarni moslashtirish bilan bog'liq ish jarayonlari bloklangan. Tadqiqotchi Anthropic rahbari Dario Amodeiga murojaat qilib, kompaniyaning ikki xil standartlarga tayanayotganini tanqid qilgan.

Texnik tafsilotlar va modellarni moslashtirish usullari

Cheklovlar supervised fine-tuning (SFT) va reinforcement fine-tuning (RFT) kabi ikkita asosiy usulni qo'llashga urinishlar paytida kuzatilgan. Birinchi yondashuv oldindan tayyorlangan to'g'ri javoblar asosida o'qitishni nazarda tutsa, ikkinchisi model natijalarini yaxshilash uchun mukofot mexanizmidan foydalanadi.

Ushbu usullarning ikkalasi ham sun'iy intellektni muayyan vazifalarga moslashtirishda keng qo'llaniladi. Shunga qaramay, Anthropic monitoring algoritmlari bunday avtomatlashtirishni raqobatdosh mahsulotni yaratishga urinish deb baholagan ko'rinadi.

API xavfsizligi va tadqiqotchilar duch kelayotgan muammolar

Ushbu hodisa dasturchilar uchun muhim savolni o'rtaga tashlaydi: API'dan ruxsat etilgan foydalanish va provayder raqobatbardosh tizim yaratish deb hisoblaydigan harakatlar orasidagi chegara qayerdan o'tadi? Eksperimentlarni avtomatlashtirish va sintetik ma'lumotlarni yaratish ilmiy tadqiqotlarning ajralmas qismidir.

Hodisa sodir bo'lgan vaqtda Anthropic kompaniyasi vaziyat yuzasidan rasmiy izoh bermadi. Kompaniyaning tushuntirishlarisiz qaysi harakatlar aynan cheklovlarga sabab bo'lganini aniqlash qiyin, biroq bu munozara sun'iy intellekt platformalari qoidalari qanchalik shaffof bo'lishi kerakligini ko'rsatdi.

Dasturchilar va biznes uchun ahamiyati

Mazkur holat mustaqil tadqiqotchilar va startaplar yirik provayderlarning yopiq siyosatiga qanchalik bog'lib qolganini ko'rsatadi. Pullik foydalanuvchilar o'z ish jarayonlari uchun sababsiz bloklanishi bulutli xizmatlarga bo'lgan ishonchga putur yetkazadi.