Anthropic va OpenAI xavfli sun'iy intellektni to'xtatish bo'yicha o'z yechimlarini taklif qildi

Sun'iy intellekt sohasining yetakchi kompaniyalari Anthropic va OpenAI Kaliforniya rasmlariga potentsial xavfli SI tizimlarini to'xtatish bo'yicha o'z takliflarini taqdim etdi. Ushbu tashabbuslar shtat gubernatori Gavin Nyusomning 18-sentabrdagi farmoyishiga javoban ishlab chiqilgan bo'lib, u 16-noyabrgacha xavfsizlik choralari bo'yicha tavsiyalar tayyorlashni buyurgan edi.

• Anthropic sud orqali xavfli modellar faoliyatini to'xtatishni taklif qilsa, OpenAI majburiy avariya o'chirish mexanizmlarini talab qilmoqda.
• Har ikki kompaniya mustaqil texnik baholashni qo'llab-quvvatlaydi, biroq audit va moliyalashtirish usullarida farqlanadi.
• OpenAI texnik nazorat va qoidalarga rioya qilish auditini ajratishni hamda NIST bilan birgalikda standartlar ishlab chiqishni so'raydi.
• Anthropic mustaqil baholovchilarni moliyalashtirish uchun shtat boshqaruvidagi umumiy jamg'arma tuzishni yoqlamoqda.

Tizimlarni avariyali o'chirishdagi farqlar

OpenAI mutaxassislari barcha SI tizimlari uchun yagona "o'chirish tugmasi" mavjud emasligini ta'kidlab, "avariya o'chirish mexanizmlari" tushunchasini qo'llashni taklif qilmoqda. Vaziyatga qarab modelni o'qitishni to'xtatish, agentni izolyatsiya qilish yoki tarmoqqa kirish huquqini qaytarib olish talab etilishi mumkin, mas'uliyat эsa dasturchilar va bulutli provayderlar o'rtasida taqsimlanishi kerak.

O'z navbatida, Anthropic "avtomatik o'chirgich" (circuit breaker) konsepsiyasini ilgari surmoqda. Bunday mexanizmlar muammoni alohida agent yoki butun model darajasida lokalizatsiya qilish imkonini berishi kerak. Shuningdek, Anthropic mustaqil tekshiruvlar falokat xavfini tasdiqlasa, shtat bosh prokuroriga sud orqali tizim ishini vaqtincha to'xtatish huquqini berishni taklif qilmoqda.

Mustaqil baholash va xavfsizlik standartlari

Har ikki kompaniya muntazam mustaqil tekshiruvlar va insidentlar haqida batafsil hisobot berish muhimligini ta'kidlaydi. Anthropic xavf-xatarlar haqida har yarim yilda hisobot berishni va tekshiruvchilarni manfaatlar to'qnashuvining oldini olish uchun davlat jamg'armasi orqali moliyalashtirishni taklif etadi.

OpenAI esa texnik tekshiruvlarni xavflar yuzaga kelganda, yillik auditni эsa kompaniya qoidalariga rioya etilishini tekshirish uchun o'tkazishni taklif qilmoqda. Kompaniya, shuningdek, AQSh Standartlar va texnologiyalar milliy instituti (NIST) bilan yagona baholash standartlarini ishlab chiqishga chaqirdi.

Sanoat va biznes uchun ahamiyati

Kaliforniya darajasidagi ushbu muhokamalar va yetakchi kompaniyalarning tashabbuslari kelgusida butun dunyo bo'ylab sun'iy intellekt xavfsizligini tartibga solish uchun asos bo'lib xizmat qilishi mumkin. Ishlab chiqaruvchilar davlat nazorati va texnik imkoniyatlar o'rtasidagi muvozanatni topishga harakat qilmoqda, bu esa kelajakdagi xavflarning oldini olishda muhim qadamdir.