Anthropic sun'iy intellekt modellarini tasdiqlash uchun FlashProve tizimini yaratmoqda

Anthropic kompaniyasi sun'iy intellekt modeli qaysi algoritm tomonidan yaratilganini aniqlashga mo'ljallangan FlashProve nomli ochiq tizim ustida ish boshladi. Bu haqda seshanba kuni e'lon qilingan rasmiy blogpostda ma'lum qilinib, uning texnik xususiyatlari va dastlabki kodi GitHub platformasida ochiq litsenziya ostida taqdim etildi.

Tadqiqotning asosiy jihatlari quyidagilardan iborat: - Tizim nomi: FlashProve. - Asosiy vazifasi: chiqarilgan natijaning muayyan modelga tegishliligini isbotlovchi kriptografik kafolat. - Ishlash prinsipi: har bir model uchun maxsus raqamli “barmoq izi”ni e'lon qilish. - Hozirgi holati: yakuniy mahsulot emas, jamoatchilik muhokamasi uchun taqdim etilgan ochiq tadqiqot.

FlashProve qanday ishlaydi Mutaxassislar ushbu yechimni “isbotlanadigan inferensiya” deb atashmoqda, ya'ni u foydalanuvchiga o'zi foydalanayotgan javob aynan qaysi modeldan chiqqanini matematik jihatdan kafolatlaydi. Elektron pochtadagi kriptografik imzohlarga o'xshash bu tizim soxtalashtirishlarning oldini oladi. Xususan, u sun'iy intellekt laboratoriyalariga xarajatlarni kamaytirish maqsadida qimmatroq modellarni arzonroq analoglar bilan yashirincha almashtirish yoki unumdorlik natijalarini sun'iy ravishda oshirib ko'rsatish imkoniyatini bermaydi. Tizim ishlashi uchun kompaniyalar har bir chiqarilgan modelning “barmoq izi”ni e'lon qilishlari kerak bo'ladi. Eng muhimi, bu barmoq izlari modelning asosiy siri hisoblangan ichki og'irlik parametrlarini oshkor etmaydi. Bu esa xususiy tijoriy modellar egalariga o'z intellektual mulkini saqlab qolgan holda tizimdan foydalanish imkonini beradi. Shuningdek, texnologiya yengil vaznli q qilib yaratilgan bo'lib, tekshiruvlarni hatto lokal qurilmada ham amalga oshirish mumkin.

Amaliy ahamiyati va kelajakdagi rejalar FlashProve yordamida uchinchi tomonlarning da'volarini ham tekshirish mumkin bo'ladi. Masalan, dasturchilar o'z dasturiy ta'minoti ilg'or kiberxavfsizlik modeli yordamida tekshirilganini yoki kompaniyalar o'z biznes-rejalari maxsus sun'iy intellekt tomonidan ma'qullanganini isbotlay olishlari mumkin. Bu esa raqamli muhitda ishonch darajasini sezilarli darajada oshiradi. Hozircha tizim yakuniy bosqichga yetmagan bo'lib, Anthropic uni o'z mahsulotlariga darhol joriy etishni rejalashtirmayapti. Tadqiqotchilar bu ishlanmani boshqa mutaxassislar ham ko'rib chiqishi, kamchiliklarini topib, uni yanada takomillashtirishi uchun ataylab ochiq holda e'lon qilganini ta'kidlashmoqda.