Anthropic и OpenAI планируют внедрить независимых экспертов по безопасности в свои лаборатории
Ведущие ИИ-лаборатории намерены предоставить независимым оценщикам безопасности доступ к своим разработкам, однако эксперты сомневаются в реальной независимости такого надзора.
Компании Anthropic и OpenAI объявили о намерении внедрить независимых специалистов по оценке безопасности непосредственно внутрь своих исследовательских лабораторий. Этот шаг направлен на усиление контроля за созданием передовых систем искусственного интеллекта и минимизацию потенциальных рисков.
Многие исследователи приветствовали это решение, отметив беспрецедентный уровень доступа к закрытым разработкам. Тем не менее, специалисты предупреждают, что для эффективного надзора требуются абсолютная прозрачность, подлинная независимость и, в конечном итоге, жесткое регулирование.
По мнению экспертов, чтобы внутренние оценщики действительно могли влиять на процессы безопасности, они должны быть защищены от давления со стороны руководства компаний. Без четких правовых механизмов такие инициативы могут остаться лишь декларацией о намерениях.
Обеспечение безопасности масштабных языковых моделей становится глобальным вопросом, требующим не только внутренней саморегуляции технологических гигантов, но и вмешательства со стороны государственных регуляторов.
Для технологического сообщества региона развитие глобальных стандартов ИИ-безопасности имеет важное значение, поскольку передовые практики и регуляторные нормы в будущем неизбежно повлияют и на локальные рынки.
