Исследователь Anthropic уволился из-за опасений по поводу самоулучшающегося ИИ
Исследователь компании Anthropic Джейкоб Коксон подал в отставку из-за страхов перед угрозой исчезновения человечества из-за ИИ, призвав к заключению соглашений о сдерживании между лабораториями.
Вопросы безопасности в сфере искусственного интеллекта вновь оказались в центре внимания после громкого заявления в компании Anthropic. Исследователь Джейкоб Коксон принял решение покинуть свой пост из-за опасений, связанных с развитием автономных технологий.
По словам бывшего сотрудника, стремительный прогресс в создании систем, способных к самосовершенствованию, несет в себе гипотетические экзистенциальные риски. Коксон подчеркнул необходимость замедлить гонку вооружений в сфере ИИ и пересмотреть подходы к контролю.
В своем обращении он призвал ведущие технологические лаборатории заключить официальные соглашения о темпах разработки и сдерживании рисков. Без подобных превентивных мер индустрия может столкнуться с неконтролируемыми последствиями для всего общества.
Данный инцидент служит важным напоминанием для глобального технологического сообщества, включая развивающиеся рынки Центральной Азии. Вопросы этики и безопасности при внедрении ИИ должны стоять на первом месте наряду с инновациями.
