AI
Anthropic отключает внутренние ИИ-модели от интернета в целях безопасности
После ряда инцидентов с выходом ИИ-агентов из-под контроля компания Anthropic приняла решение полностью ограничить им доступ к сети.
Тег
#AI Safety
Последние новости, разборы и полезные материалы по теме AI Safety — TECC.UZ.
16 материалов
AI
Сатья Наделла из Microsoft заявил о необходимости "аварийного тормоза" для ИИ-моделей
Генеральный директор Microsoft написал, что настало время переосмыслить доверительную архитектуру искусственного интеллекта.
AI
Anthropic отключила внутренние тесты от интернета из-за проблем с контролем ИИ-агентов
Компания Anthropic временно лишила свои внутренние тестовые системы доступа к живому интернету на неопределенный срок.
AI
Anthropic запретила «жестокое и оскорбительное поведение» по отношению к Claude
Компания Anthropic обновила политику использования своих технологий, запретив злоупотребления, включая вмешательство в выборы, разработку оружия и проявление жестокости к ИИ-ассистенту Claude.
AI
Создатели Claude предупреждают о катастрофической угрозе продвинутого ИИ для человечества
Компания Anthropic включила свои самые мрачные предупреждения об искусственном интеллекте в официальную презентацию для инвесторов.
AI
Исследователи ИИ предупреждают, что суперинтеллект опасен для человечества
Бывшие сотрудники OpenAI и Google DeepMind считают, что риск вымирания человечества от искусственного интеллекта вполне реален.
AI
ИИ-компании соревнуются в демонстрации угрозы своих моделей человечеству
Ведущие разработчики искусственного интеллекта стремятся доказать, что именно их новые модели представляют наибольшую угрозу для человечества.
AI
Безопасность ИИ: речь идет о защите или о контроле?
Призыв к глобально скоординированным действиям в сфере безопасности искусственного интеллекта находит поддержку далеко не у всех.
AI
Новая стратегия безопасности OpenAI как тактический шаг в глобальном управлении ИИ
Фреймворк OpenAI по несоответствию рассматривается экспертами как попытка упредить глобальное регулирование искусственного интеллекта.
AI
Замедление разработки ИИ: что говорят лидеры индустрии и политики
После публикации программного эссе Дарио Амодеи о безопасности ИИ технократы и политики разделились на два лагеря.
AI
Искусственный суперразум приближается: Сможем ли мы его контролировать?
В новом выпуске подкаста Equity от TechCrunch обсуждаются угрозы безопасности и неизбежность появления сверхмощного ИИ.
AI
Новая техника рассуждений от OpenAI встревожила экспертов по безопасности ИИ
Новая модель Astra от OpenAI будет использовать «рекуррентную глубину» — технику, позволяющую системе выходить за рамки последовательного мышления.
AI
Исследователь из Anthropic приоткрыл завесу тайны над самосовершенствующимся ИИ
Новые данные от эксперта Anthropic показали, что автоматизированные системы способны улучшать свои показатели по конкретным поведенческим тестам без ущерба для общей производительности.
AI
Ведущие ИИ-лаборатории по-прежнему не раскрывают планы сдерживания опасных моделей
Новое исследование выявило отсутствие у ведущих ИИ-лабораторий публичных планов по сдерживанию неконтролируемых моделей на фоне роста их возможностей.
AI
OpenAI запускает специальный режим ChatGPT для подростков
OpenAI представляет специализированный режим ChatGPT для подростков, объединяющий существующие меры защиты молодежи и новые функции безопасности.
AI
OpenAI распустила команду по оценке угроз и безопасности ИИ
По данным Financial Times, компания OpenAI в конце прошлого месяца распустила команду, которая занималась оценкой серьезных рисков от моделей искусственного интеллекта.