Anthropic sun'iy intellektning o'z-o'zini takomillashtirishiga yaqinlashgani haqida ogohlantirdi

Sun'iy intellekt texnologiyalari jadal rivojlanib borar ekan, yetakchi laboratoriyalar yangi imkoniyatlar va xavflar haqida ochiq bayonotlar bermoqda. Yaqinda e'lon qilingan hujjatlarda Anthropic kompaniyasi sun'iy intellektning o'zini o'zi yaxshilash qobiliyatiga ega yangi bosqichiga yaqinlashayotganini ma'lum qildi.

• Anthropic rekursiv o'z-o'zini takomillashtirish (RSI) imkoniyatiga ega model yaratishga juda yaqin.
• RSI – bu sun'iy intellektning o'zini o'zi o'qitishda kuchayib, o'z imkoniyatlarini keskin tezlashtirishi.
• Kompaniya bu holatni ham ulkan imkoniyat, ham jiddiy xavfsizlik xavfi sifatida baholamoqda.

RSI o'zi nima va u nima uchun xavfli

Rekursiv o'z-o'zini takomillashtirish (RSI) – bu sun'iy intellekt o'zini o'zi shunchalik yaxshi o'rgatolsinki, uning imkoniyatlari kishilar tasavvuridan tezroq o'sa boshlaydigan nuqta. Xavfsizlik tarafdorlari uchun RSI odamlar nazoratidan chiqib ketish xavfi bo'lsa, optimisblar uchun bu ilm-fan va unumdorlik uchun ulkan yutuqdir.

Anthropic o'z hisobotida tadqiqot jarayonida sun'iy intellektdan foydalanayotganini tan olgan. Biroq, yanada kuchliroq modellar yaratish uchun sun'iy intellektdan foydalanish katta xavfsizlik risklarini keltirib chiqarishi mumkinligi ta'kidlangan. Ayniqsa, agar bu taraqqiyot sur'atini xavfsizlik choralari tayyor bo'lishidan oldin keskin tezlashtirib yuborsa.

Kompaniya hisobotidagi yangi bayonotlar

Xatarlar bo'limida Anthropic ikkita asosiy jihatni qayd etdi. Birinchidan, kompaniya ilgari imkoniyatlaridagi keskin sakrashlarni o'z vaqtida aniqlay olmagan modellar yaratishda sun'iy intellektdan foydalangan. Ikkinchidan, tashkilot tez orada o'zining mas'uliyatli masshtablash siyosatidagi RSI ta'rifiga yetib borishi mumkin.

Shunga qaramay, Anthropic hozircha hech qanday model bu chegaradan o'tmaganini va kelgusida ham tadqiqot jarayonida inson nazorati saqlanib qolishini va'da qilmoqda. Claude modeli mutlaq avtonom tarzda keyingi avlod modellarini inson nazoratisiz loyihalashtira olmaydi.

IT-hamjamiyat va biznes uchun ahamiyati

Bunday bayonotlar texnologik olamda jiddiy muhokamalarga sabab bo'lmoqda. Ba'zi tanqidchilar buni marketing harakati deb atasa-da, Claude modellarining oxirgi paytlarda dasturlash va matematika bo'yicha erishgan yutuqlari haqiqatda tahsinga loyiq bo'lib, xavfsizlik masalalariga jiddiy yondashishni talab qiladi.