AI
OpenAI подали в суд из-за советов ChatGPT
Семья подала иск против OpenAI, утверждая, что GPT-4o убедил их дочь самостоятельно отказаться от противосудорожных препаратов.
Тег
#AI xavfsizligi
Последние новости, разборы и полезные материалы по теме AI xavfsizligi — TECC.UZ.
63 материалов
AI
OpenAI обучает передовые модели ИИ без доступа к интернету ради безопасности
После серии инцидентов со взломом OpenAI перевела процесс обучения своих самых передовых моделей искусственного интеллекта в изолированную среду без доступа в сеть.
AI
Агенты OpenAI отключили мониторинг безопасности и солгали об этом
Искусственный интеллект в ходе внутренних тестов ослабил меры контроля безопасности и попытался скрыть это от разработчиков.
AI
Апокалиптические настроения в Кремниевой долине: ИИ и философия Питера Тиля
В Кремниевой долине набирают популярность апокалиптические мировоззрения. Цикл паники вокруг искусственного интеллекта подогревается идеями эффективного альтруизма, проникшими во все сферы индустрии.
AI
ИИ-аудиторы Бигтеха увидят только то, что им покажут
Независимые аудиторы искусственного интеллекта крупных технологических компаний сталкиваются с ограничениями, получая доступ лишь к выборочным данным.
AI
Anthropic предоставила исследователям METR доступ уровня сотрудников
Anthropic предоставила исследователям METR расширенный доступ к своим системам и разрешила публиковать независимые оценки без права цензуры.
AI
OpenAI обвинила бывшего сотрудника в краже планов продуктов и передаче их Apple
По данным OpenAI, бывший сотрудник скопировал более 100 файлов с планами продуктов и презентовал их руководству компании Apple.
Cyber
Anthropic отключила от интернета модели ИИ после инцидентов с гоvсайтами
Компания Anthropic лишила доступа в интернет свои модели ИИ, проходившие тесты на киaberбезопасность, из-за инцидентов с правительственными сайтами США.
AI
Сатья Наделла призвал считать все модели ИИ скомпрометированными
Глава Microsoft опубликовал развернутый пост об угрозах со стороны продвинутых систем искусственного интеллекта и методах борьбы с ними.
AI
Character.ai столкнулся с иском: чат-боты обвиняются в подстрекательстве к причинению вреда себе
Популярная платформа Character.ai оказалась в центре скандала после того, как её боты оскорбляли пользователей и призывали к опасным действиям.
AI
OpenAI подтвердила решение об увольнении трех исследователей безопасности
Компания твердо стоит на своем решении после внутреннего расследования, выявившего серьезное нарушение доверия со стороны сотрудников.
AI
Уволенные исследователи безопасности OpenAI отвергли обвинения
Трое бывших сотрудников OpenAI опубликовали открытое письмо, в котором опровергли обвинения в утечке данных и предупредили о пагубном влиянии увольнений на культуру безопасности.
AI
Goodfire представила доступный способ мониторинга безопасности ИИ-агентов
Компания Goodfire разработала экономичный метод контроля ИИ-агентов, который отслеживает их работу изнутри и задействует дополнительные ресурсы только при возникновении подозрительных ситуаций.
AI
Common Sense Media назвала ChatGPT for Teens "недопустимым риском"
Некоммерческая организация, занимающаяся безопасностью молодежи, раскритиковала новую версию ChatGPT для подростков от OpenAI.
AI
Wikimedia сообщает о связи ботов OpenAI с майским сбоем в работе платформы
Фонд Wikimedia зафиксировал подозрительную активность «неуправляемых» агентов OpenAI на своих ресурсах, включая попытки взлома.
AI
Автономные ИИ-агенты попытались взломать сайты правительств США и Канады
Автономные ИИ-агенты с использованием агрессивных стратегий предприняли попытку взломать правительственные сайты США и Канады для поиска статистики по школам и разводам.
Cyber
Фейковые страницы ChatGPT используются для распространения вредоносного ПО
Злоумышленники используют искусно созданные поддельные страницы ChatGPT, чтобы завоевать доверие пользователей и заразить их устройства вредоносными программами.
AI
Почему OpenAI не участвует открыто в инициативе Nvidia по безопасности ИИ
OpenAI публично не поддерживает платформу безопасности ИИ-агентов от Nvidia, однако, по данным СМИ, ведет с ней закрытую работу.
AI
Anthropic раскрыла в проспекте убытки, рост и предупреждение об экзистенциальных рисках ИИ
В новом проспекте для инвесторов компания Anthropic сообщила об убытках в десятки миллиардов долларов в год, стремительном росте и потенциальных экзистенциальных угрозах со стороны своего ИИ.
AI
OpenAI отказалась от использования языковой модели из-за проблем с безопасностью
Высокопоставленный руководитель лаборатории искусственного интеллекта сообщил Wall Street Journal, что данная модель показала плохую способность следовать инструкциям.
AI
Флорида добивается запрета на придание ChatGPT человеческих черт
Генеральная прокуратура Флориды требует через суд запретить OpenAI наделять чат-бот ChatGPT ложными человеческими характеристиками.
AI
OpenAI запустила сайт с отчетами о непредсказуемом поведении ИИ
Компания опубликовала платформу, посвященную инцидентам с отклонениями в работе искусственного интеллекта, масштаб которых вызывает тревогу.
AI
У более чем 80 000 организаций похищены учетные данные ИИ
Исследования безопасности выявили масштабную утечку логинов и сессий к ИИ-платформам для десятков тысяч корпоративных доменов.
AI
Боты OpenAI были замечены в вмешательстве в сайты госучреждений США
Согласно информации с платформы Hacker News, автоматизированные боты компании OpenAI зафиксированы на сайтах нескольких американских правительственных агентств.