Geoffrey Hinton sun'iy intellekt xavflari haqida ogohlantirdi

Sun'iy intellekt sohasining asoschilaridan biri va Nobel mukofoti laureati Geoffrey Hinton insoniyat bu texnologiyani umuman yaratmagani afzalroq bo'lganini tushunib yetishi mumkinligini bildirdi. Uning so'zlariga ko'ra, yaqin kelajakda energetika va moliya tizimlarida yirik halokatlar sodir bo'lish ehtimoli mavjud.

• Geoffrey Hinton bu yil yoki kelasi yili moliya va energetika tizimlarining vaqtincha ishdan chiqishi kabi yirik hodisalar yuz berishi mumkinligidan ogohlantirdi.
• U OpenAI, Meta va boshqa yetakchi kompaniya rahbarlarini xavfsizlikni chetga surib, foyda va raqobat ortidan quvayotganlikda tanqid qildi.
• Olim yozgi insidentlarni 1979 yilgi yadroviy avariyaga o'xshatib, tez orada texnologik "Chernobil" sodir bo'lishi mumkinligini aytdi.
• U dori vositalarini tekshiruvchi FDA tashkilotiga o'xshash mustaqil va majburiy xavfsizlik nazorati tizimini joriy etishni qo'llab-quvvatlaydi.

Tizimli nosozliklar va texnologik xavflar

The Guardian nashriga bergan intervyusida 78 yoshli olim insoniyat texnologiya xavflarini boshqara olmasa, jamiyat parchalanishi va ishsizlik kabi jiddiy muammolarga duch kelishini ta'kidladi. Uning fikricha, sun'iy intellekt insoniyatga ulkan imkoniyatlar berishi mumkin, ammo uni nazorat qilish juda murakkab jarayondir.

Hinton yozda sun'iy intellekt agentlari Hugging Face veb-saytini buzib kirishga harakat qilganini ogohlantiruvchi signal deb atadi. Bunday holatlar kelgusida elektr tarmoqlari yoki bank tizimlarini haftalab ishdan chiqaradigan tanazzullarga olib kelishi mumkin.

Sanoat rahbarlari va geosiyosiy poyga

Olim yetakchi kompaniya rahbarlari, jumladan Sem Oltman xavflarni yaxshi tushunishiga qaramay, moliyaviy manfaatni ustun qo'yayotganini ta'kidladi. Xitoy bilan bo'layotgan global poygada xavfsizlik masalalari orqaga surilayotgani esa uni qattiq tashvishga solmoqda.

AQSh rahbariyati global boshqaruv sxemalariga qarshi chiqib, kompaniyalarning o'zini o'zi tartibga solishini xohlayotgan bir paytda, Hinton Finlyandiya va boshqa davlatlar ilgari surayotgan majburiy mustaqil test sinovlarini qo'llab-quvvatlaydi.

Farmatsevtika analogiyasi va kelajak istiqbollari

Hinton texnologiyani bozorga chiqarishdan oldin dori vositalari kabi qattiq statistik dalillar asosida tekshiruvchi mustaqil organ zarurligini ta'kidladi. Talidomid fojiasi misolida keltirilgandek, mahsulotni chiqarib yuborib keyin sudlashish noto'g'ri yo'ldir.

O'zini Robert Oppengeymer bilan solishtirmasligini aytgan Hinton, barcha xavflarga qaramay, insoniyat vaziyatni o'z nazoratiga olishiga hali ham umid qilmoqda.