Anthropic использует ИИ для создания ИИ: отчет METR встревожил экспертов

Компания Anthropic активно использует искусственный интеллект для создания еще более мощных систем ИИ, и этот подход демонстрирует впечатляющие результаты. Согласно новому отчету исследовательской организации METR, опубликованному в четверг по итогам 11-недельнного расследования, модели компании развиваются примерно в два раза быстрее, чем год назад, без каких-либо признаков замедления.

• Отчет METR опубликован в четверг после 11 недель изучения внутренних процессов Anthropic.
• Модели компании развиваются примерно в два раза быстрее по сравнению с прошлым годом.
• Около 12 раз возросла продуктивность сотрудников, использующих передовые внутренние модели ИИ.

Ускорение разработки и неафишируемые модели Исследователи METR пришли к выводу, что за последние 12 месяцев Anthropic добилась прогресса, эквивалентного примерно двум годам исторического развития. Примечательно, что эксперты уверены: такое ускорение связано не столько с наращиванием вычислительных мощностей, сколько с непосредственным участием самого ИИ в исследовательском процессе. Опросы сотрудников показали, что их продуктивность при использовании передовых внутренних моделей выросла примерно в 12 раз по сравнению с периодом работы без такой помощи. За последние шесть месяцев Anthropic завершила обучение трех невыпущенных моделей под кодовыми названиями Model 2, Model 3 и Model 4. Это указывает на крайне высокую скорость создания технологий, которая, по мнению аналитиков, приближает будущее, где ИИ сможет совершенствовать себя самостоятельно с минимальным участием человека или вовсе без него.

Проблема цензуры и строгая реакция руководства Несмотря на масштабное исследование, публичная версия отчета столкнулась с серьезными ограничениями. Anthropic воспользовалась правом на цензуру и потребовала заретушировать значительную часть выводов и доказательств, сославшись на коммерческую тайну и риски раскрытия конкурентам готовой дорожной карты. Сооснователь компании Сэм МакКэндлиш признал масштаб правок, однако заявил, что это было правильным решением для предотвращения потенциальных угроз. Подобные действия вызвали бурную реакцию и критику в сообществе исследователей безопасности ИИ. Эксперты отмечают парадокс: руководство Anthropic публично призывает технологические лаборатории притормозить гонку вооружений в сфере искусственного интеллекта, но на практике само ускоряет этот процесс с помощью внутренних разработок.