OpenAI отказалась от использования языковой модели из-за проблем с безопасностью
Высокопоставленный руководитель лаборатории искусственного интеллекта сообщил Wall Street Journal, что данная модель показала плохую способность следовать инструкциям.
Компания OpenAI приняла решение отказаться от дальнейшей разработки и внедрения одной из своих моделей искусственного интеллекта. Подобные шаги со стороны лидеров индустрии всегда привлекают пристальное внимание экспертного сообщества и пользователей по всему миру.
Как сообщил изданию Wall Street Journal один из топ-менеджеров OpenAI, причиной такого решения стали соображения безопасности. В частности, тестируемая модель продемонстрировала низкую способность следовать сложным инструкциям и выполнять заданные команды.
Вопросы контроля и предсказуемости поведения нейросетей остаются одними из самых острых в современной индустрии ИИ. Разработчики стремятся минимизировать риски и предотвратить ситуации, когда система может повести себя некорректно или опасно при взаимодействии с пользователем.
Для технологического сообщества этот прецедент служит напоминанием о том, что строгое соблюдение этических норм и стандартов безопасности стоит в приоритете перед простой гонкой за инновациями. Подобные новости важны и для развивающегося IT-сектора в Центральной Азии, помогая понимать глобальные тренды качества.
