Anthropic блокирует пользователей за файн-тюнинг и обучение моделей

Компания Anthropic столкнулась с волной критики после того, как ее системы безопасности начали массово ограничивать доступ платящим пользователям. Поводом для блокировок и снижения уровня доступа стали рабочие процессы, связанные с попытками автоматизации или дообучения больших языковых моделей через API сервиса.

• Инцидент затронул аспиранта Гонконгского университета Цзяхо Шао, чей пост в соцсети X собрал более 277 тысяч просмотров.
• Система безопасности Anthropic расценила автоматизацию исследовательского конвейера как подготовку к созданию конкурирующей модели.
• Исследователь сообщил о принудительном переключении версий, сбросе сессий и ограничениях при попытках использования SFT и RFT.

Суть инцидента с аспирантом из Гонконга

Аспирант Гонконгского университета науки и технологии Цзяхо Шао публично заявил, что столкнулся с жесткими ограничениями при использовании чат-бота Claude. По его словам, он задействовал сильную открытую модель для генерации обучающих примеров, а Claude привлек исключительно для координации процессов: отправки задач и анализа полученных результатов. Однако система безопасности компании посчитала такие действия подозрительными.

Шао рассказал, что в результате его рабочие сессии начали принудительно завершаться, произошло понижение уровня доступа с модели Opus 5.5 до Opus 5, а любые операции, так или иначе связанные с файн-тюнингом, начали блокироваться. Исследователь попытался привлечь внимание главы компании Дарио Амодеи, указав на двойные стандарты в отношении пользователей и разработчиков ИИ.

Технические детали и методы дообучения

Под ограничения попали рабочие процессы, затрагивающие методы supervised fine-tuning (SFT) и reinforcement fine-tuning (RFT). Первый подход предполагает обучение языковой модели на тщательно подготовленных примерах с правильными ответами, а второй опирается на механизм вознаграждения для оптимизации и улучшения итоговых результатов работы системы.

Оба метода являются стандартной практикой при адаптации искусственного интеллекта под узкоспециализированные исследовательские или коммерческие задачи. Тем не менее, алгоритмы мониторинга безопасности Anthropic интерпретировали автоматизацию этих процессов как попытку синтеза данных для создания альтернативного ИИ-продукта.

Границы дозволенного и реакция разработчиков

Данный случай обнажил острую проблему для всей индустрии: где именно проходит тонкая грань между легитимным использованием API и действиями, которые провайдеры моделей считают созданием конкурирующей системы. Автоматизация экспериментов и генерация синтетических данных составляют основу современной науки об данных.

На момент публикации материала компания Anthropic никак официально не прокомментировала этот инцидент. Отсутствие прозрачных правил и четких объяснений со стороны разработчиков ставит под удар независимых исследователей и стартапы, которые строят собственные конвейеры поверх коммерческих платформ.

Что это значит для IT-сообщества

Ситуация демонстрирует, насколько уязвимы разработчики перед лицом закрытой политики безопасности крупных ИИ-лабораторий. Когда платящие пользователи сталкиваются с внезапными блокировками без объяснения причин, это подрывает доверие к облачным платформам и заставляет исследовательские команды искать более открытые или децентрализованные альтернативы для своих проектов.