Anthropic asoschisi sun'iy intellekt uchun majburiy o'chirish tugmasini joriy etishni taklif qildi

Sun'iy intellekt texnologiyalarining jadal rivojlanishi nafaqat yangi imkoniyatlar, balki insoniyat uchun jiddiy xavflarni ham keltirib chiqarmoqda. Shu fonida yetakchi AI kompaniyalaridan biri bo'lgan Anthropic asoschilaridan biri BBC telekanaliga bergan intervyusida muhim bayonot bilan chiqdi. Uning fikricha, texnologiya nazoratdan chiqib ketishining oldini olish uchun sun'iy intellekt modellariga majburiy o'chirish mexanizmini – ya'ni 'kill switch'ni tatbiq etish zarur.

Hozirgi kunda sun'iy intellekt laboratoriyalari o'z modellari xavfsizligini ta'minlash ustida jiddiy ish olib bormoqda, biroq ixtiyoriy choralar har doim ham yetarli bo'lmasligi mumkin. Taklif etilayotgan majburiy tizim favqulodda vaziyatlarda texnologiyaning faoliyatini zudlik bilan to'xtatish imkonini beradi. Bu esa xavfsizlik standartlarini qonuniy darajada mustahkamlash va umumiy nazoratni saqlab qolish yo'lidagi muhim qadam sifatida ko'rilmoqda.

Texnologiya olamida bu tashabbus qizg'in muhokamalarga sabab bo'ldi. Dasturchilar, muhandislar va xavfsizlik bo'yicha mutaxassislar bunday mexanizmlarni ishlab chiqish qanchalik murakkab va samarali bo'lishi haqida o'z fikrlarini bildirishmoqda. Bir tomondan, bu tizim potentsial xavflarni kamaytirsa, ikkinchi tomondan, uning noto'g'ri ishlatilishi yoki suiiste'mol qilinishi ehtimoli ham muhokama qilinmoqda.

O'zbekiston va mintaqamizdagi IT-hamjamiyat uchun ham bu kabi xavfsizlik standartlari asta-sekin dolzarb ahamiyat kasb etmoqda. Sun'iy intellekt yechimlari kundalik hayotimiz va biznes jarayonlarimizga chuqur kirib borar ekan, global miqyosdagi xavfsizlik tendentsiyalari va tartibga solish qoidalari mahalliy bozorga ham ta'sir ko'rsatishi tabiiy. Shuning uchun global darajada muhokama qilinayotgan bu kabi tashabbuslar mahalliy mutaxassislar e'tiboridan chetda qolmasligi lozim.