Google приостановила программу поиска уязвимостей из-за наплыва ИИ-отчетов
Компания Google временно заморозила программу вознаграждений за найденные ошибки в открытом коде из-за резкого роста числа некачественных заявок, сгенерированных искусственным интеллектом.
Стремительное развитие технологий искусственного интеллекта создает новые вызовы для ведущих технологических гигантов. Как сообщает издание TechCrunch, компания Google приняла решение приостановить свою программу поиска уязвимостей в проектах с открытым исходным кодом. Причиной стал значительный рост числа заявок, созданных с помощью ИИ.
В последнее время наблюдается тенденция, когда участники программ отправляют огромный поток автоматически сгенерированных отчетов, не содержащих реальной ценности или проверенных данных. Так называемый ИИ-мусор начинает серьезно перегружать системы рассмотрения заявок.
Подобные материалы отнимают колоссальное количество времени у инженеров безопасности, которым приходится вручную проверять каждый бесполезный отчет вместо того, чтобы заниматься реальными угрозами. Это вынудило Google поставить программу на паузу для переоценки ситуации и внедрения защитных мер.
Для технологического сообщества региона этот случай служит важным напоминанием о необходимости фильтрации и оптимизации процессов кибербезопасности. По мере роста популярности генеративных моделей разработчикам по всему миру придется адаптироваться к защите платформ от автоматизированного спама.
