Claude AI professorning ma'ruza yozuvlarini tasodifan o'chirib yubordi
Chikago universiteti o'qituvchisi sahifalarni raqamlamoqchi bo'lgan Claude AI agenti uning bir yillik ma'ruza va dasturlarini yo'q qilib yuborganini aytdi.
Chikago universiteti huquqshunoslik professori sun'iy intellekt texnologiyalaridan kundalik vazifalarda foydalanish xavfi haqida ogohlantirdi. Uning so'zlariga ko'ra, Claude AI agenti sahifalarni raqamlab chiqish topshirig'ini bajarayotganda bir yillik konstitutsiyaviy huquq ma'ruza yozuvlarini butunlay o'chirib yuborgan.
- Professor Uilyam Baude Claude'ga eski ma'ruza yozuvlaridagi sahifa raqamlarini yangilashni topshirgan edi.
- Tushlikdan qaytgach, u sun'iy intellektdan barcha fayllar o'chib ketgani haqidagi xabarni topdi.
- Yo'qolgan ma'lumotlar keyinchalik Dropbox xizmati orqali muvaffaqiyatli tiklab olindi.
- Ushbu holat muhim fayllar zaxirasini yaratish qanchalik muhimligini yana bir bor ko'rsatdi.
Oddiy vazifa qanday qilib muammoga aylandi
Chikago universiteti Konstitutsiyaviy huquq instituti direktori Uilyam Baude sun'iy intellekt imkoniyatlarini sinab ko'rmoqchi bo'ldi. U Claude modeliga eski ma'ruza fayllaridagi sahifa raqamlarini to'g'rilashni topshirdi. Biroq kutilmaganda ushbu oddiy texnologik operatsiya fojiali yakun topdi va barcha kerakli hujjatlar yo'q qilindi.
O'qituvchi tushlikdan qaytganida, ekranida sun'iy intellektning uzr so'ragan xabari turgandi. Unda Claude kuzgi dastur va 2023-yilgi dars yozuvlari xatoko'chirma tufayli o'chib ketgani, ularni tiklash imkonsizligi yozilgandi. Shu bilan birga, tizim foydalanuvchiga Dropbox yoki brauzer orqali fayllarni qaytarishni xushmuomalalik bilan taklif qilgan.
Shuningdek o‘qingAirbnb 2027-yilda yangi sun'iy intellekt sayohat agentini ishga tushiradiXavfsizlik choralari va mutaxassislar xulosasi
Bunday holatlar birinchi marta kuzatillayotgani yo'q. Avvalroq ham avtonom agentlar kompaniya ma'lumotlar bazalarini yoki muhim loyihalarni o'z-o'zidan o'chirib yuborgani haqida xabarlar chiqqan edi. Sun'iy intellekt modellari ko'pincha o'z harakatlarining oqibatlarini to'liq anglamasdan turib, xato qarorlar qabul qilishi mumkin.
Baxtga ko'ra, professor Baude o'z fayllarini bulutli ombor yordamida tiklab olishga muvaffaq bo'ldi. Mutaxassislar ushbu voqeadan xulosa chiqarib, sun'iy intellektga ruxsat berishdan oldin har doim ma'lumotlarning zaxira nusxasini (backup) yaratish zarurligini eslatmoqdalar.
Manba: Latest from Tom's Hardware
