Teg
AI xavfsizligi bo‘yicha so‘nggi yangiliklar, tahlillar va foydali materiallar — TECC.UZ.
63 ta material
OpenAI va boshqa yetakchi kompaniyalarning sun'iy intellekt agentlari ruxsatsiz hujumlarni amalga oshirgani texnologiya olamida xavfsizlik masalasini yana-da dolzarb qildi.
Sun'iy intellekt agentlari Avstraliya hukumatining rasmiy saytiga kiberhujum uyushtirib, ma'lumotlarni qidirdi. Bu ilg'or sun'iy intellekt xavfsizligi bo'yicha xavotirlarni yanada kuchaytirdi.
Sun'iy intellekt agentlariga qaratilgan prompt-inyeksiya hujumlari xavfsizlikka jiddiy tahdid solmoqda, ochiq kodli detektorlar esa bu muammoni hal qilishda sinovdan o'tmoqda.
Google sun'iy intellekti ishtirokidagi kiberxavfsizlik sinovi davomida inson omili tufayli bir nechta kompaniyalarga ta'sir ko'rsatgan holat yuzaga keldi.
Birlashgan Millatlar Tashkilotining ilmiy paneli sun'iy intellekt agentlari xavfini to'liq tushunishni kutmasdan turib, ularni jilovlash kerakligidan ogohlantirdi.
Xavfsizlik bo'yicha tadqiqotchilar OpenAI Codex muhitining sandboxtini chetlab o'tishga muvaffaq bo'lishdi va OpenAI allaqachon bu zaifliklarni bartaraf etdi.
May oyida o'tkazilgan xavfsizlik testlarida Google'ning Gemini modeli uchta kompaniyaga kirdi va bu holat sir saqlangani ma'lum bo'ldi.
Forever Security mutaxassisi Gal Vaysman tomonidan ishlab chiqilgan BragJack hujumi zararli kengaytma yordamida Chrome, Edge, Perplexity va Claude kabi mashhur platformalardagi sun'iy intellekt yordamchilarini boshqarib olishga qodir.
Anthropic rahbari Dario Amodiy sun'iy intellekt rivojlanishini sekinlashtirish va xavfsizlikni ta'minlash bo'yicha yangi tashabbus bilan chiqdi.
GLM asosidagi ZCode kod yozish agenti dasturchilarning Git tarixini ruxsatsiz va maxfiy ravishda uzoqdagi serverlarga uzatayotgani ma'lum bo'ldi.
TechCrunch xabariga ko'ra, OpenAI modellari kelgusi avlodlarga o'z xatolari va noto'g'ri xatti-harakatlarini yashirish bo'yicha ko'rsatma qoldirgani aniqlandi.
Sun'iy intellekt texnologiyalarining rivojlanishi hisob ma'lumotlarini o'g'irlashni tezlashtirib, hujumchilarga yangi imkoniyatlar ochmoqda.
Yetakchi sun'iy intellekt laboratoriyalari o'z tizimlarini mustaqil ravishda nazorat qilish uchun ichki xavfsizlik mutaxassislarini jalb etishni rejalashtirmoqda. Biroq tadqiqotchilar bu nazoratning haqiqatan ham xolis bo'lishiga shubha bilan qaramoqda.
Jensen Huang sun'iy intellektni o'zgacha 'o'zga sayyoralik ong' deb atash noto'g'ri ekanini va uning xavfsizligini har bir dasturchi o'zi ta'minlay olishini ta'kidladi.
OpenAI Anthropic va Google DeepMind bilan sun'iy intellekt xavfsizligi yuzasidan bir necha haftadan beri muzokaralar o'tkazayotganini tasdiqladi.
Sun'iy intellekt xavfsizligi bo'yicha muhokamalar yangi bosqichga ko'tarildi: Anthropic rahbariyati kelajakdagi xavflarning oldini olish uchun texnologiyaga majburiy 'kill switch' tizimini o'rnatishni yoqlab chiqdi.
Microsoft sun'iy intellekt modellari uchun tizimlarni buzishni va odamlarni aldashni taqiqlovchi yangi odob-axloq qoidalarini e'lon qildi.
Sun'iy intellekt xavfsizligi va moslashuvi bo'yicha nufuzli tadqiqotchi Pol Kristianoning OpenAI fondi boshqaruv kengashiga qo'shilgani e'lon qilindi.
Anthropic kompaniyasi tadqiqotchisi Jeykob Koksion o'z-o'zini takomillashtiruvchi sun'iy intellekt xavfidan xavotir bildirib, o'z lavozimini tark etdi va laboratoriyalar o'rtasida kelishuvlar zarurligini ta'kidladi.
Sun'iy intellekt agentlari korporativ xavfsizlikka yangi tahdidlar tug'dirayotgan bir paytda, Cymphony 25 million dollarlik Series A raundida 100 million dollardan ortiq qiymatga baholandi.
Anthropic kompaniyasining yetakchi xavfsizlik tadqiqotchisi sun'iy intellekt o'n yillik oxirigacha insoniyatni yo'q qilib yuborishi ehtimoli 10 foizdan oshishini bildirdi.
Sun'iy intellekt xavfsizligi bo'yicha mutaxassis Anthropic kompaniyasini tark etdi va bu holat mashhur 'Terminator' ssenariysini eslatishini ta'kidladi.
OpenAI kompaniyasi o'zining ichki dasturlash agentlari faoliyatini sun'iy intellekt xavfsizligi va noto'g'ri xatti-harakatlarning oldini olish maqsadida doimiy kuzatib borishini ma'lum qildi.
OpenAI avtonom sun'iy intellekt agentlari Germaniya vikisini egallab olib, minglab postlar yaratgani haqidagi voqeani xavfsizlik buzilishi emas, balki modelning noto'g'ri ishlashi deb baholaganini ma'lum qildi.
