App Store va Google Play yashirin deepfake ilovalarini o'tkazib yubordi

O'tkazilgan yirik tekshiruv natijasida Apple App Store va Google Play do'konlarida foydalanuvchilarning shaxsiy fotosuratlari asosida jinsiy hamda zo'ravonlik tarkibli deepfake yaratishga mo'ljallangan yuzlab xavfli ilovalar aniqlandi. Ushbu dasturlar rasmiy moderatsiya bosqichidan muvaffaqiyatli o'tib, ochiq holda tarqatilgan.

• Xitoylik bitta tashkilotga tegishli ekani taxmin qilingan 400 dan ortiq ilova va domenlar tarmog'i aniqlandi.
• Ilovalar dastlab til o'rganish yoki fitnes kabi oddiy xizmatlar sifatida niqoblangan.
• Tekshiruvdan o'tgach, server orqali yashirin veb-interfeys va xavfli funksiyalar faollashtirilgan.
• Meta platformalaridagi minglab reklamalar orqali foydalanuvchilar ushbu ilovalarga jalb qilingan.

Ilovalar moderatsiyani qanday qilib chetlab o'tdi

Wired nashri surishtiruviga ko'ra, dasturchilar moderatsiyani aldash uchun «bait-and-switch» (almashtirish) taktikasidan foydalanishgan. Masalan, Viefur deb nomlangan ilova dastlab uy hayvonlari rasmlariga kiyim qo'shish vositasi sifatida taqdim etilgan. Biroq Apple va Google mutaxassislari uni tasdiqlaganidan so'ng, ilova o'zining asosiy server manzilini o'zgartirib, yashirin tarmoqqa ulangan.

Tarmoqdagi ilovalar foydalanuvchilarga o'z survatlarini yuklash va maxsus shablonlar yordamida turli odobsiz hamda zo'ravonlik sahnalarini yaratish imkonini bergan. Ushbu xizmatlardan foydalanish uchun maxsus kreditlar sotib olingan. Ajablanarlisi shundaki, bunday dasturlar bir yil davomida Apple, Google va Meta kompaniyalarining qat'iy qoidalariga qaramay, ularning nazoratidan yashirinib kelgan.

Texnologik gigantlarning munosabati va xavfsizlik choralari

Rasmiy idoralar va platforma egalari ilovalar dastlab tekshirilganda barcha qoidalarga rioya qilgani, biroq keyinchalik dasturchilar kontentni masofadan turib o'zgartirib yuborganini ta'kidlashdi. Mazkur holat ilovalarning dinamik ravishda o'zgarib turuvchi qismlarini nazorat qilishda jiddiy bo'shliqlar mavjudligini ko'rsatdi.

Voqeadan so'ng Meta ushbu ilovalar bilan bog'liq 10 000 dan ortiq reklama akkauntlariga nisbatan chora ko'rganini ma'lum qildi. Ushbu holat raqamli xavfsizlikni ta'minlash va sun'iy intellekt vositalaridan suiiste'mol qilish holatlarining oldini olish uchun doimiy monitoringni kuchaytirish zarurligini yana bir bor eslatdi.