Туристы на собственном опыте узнали, почему нельзя безоговорочно доверять ИИ
Как сообщает Android Authority, чат-бот Gemini посоветовал туристам взять в поход гораздо меньше еды и воды, чем им было реально необходимо.
Стремительное развитие технологий искусственного интеллекта приводит к тому, что люди всё чаще полагаются на их советы в повседневной жизни. Однако недавний инцидент, описанный Android Authority, наглядно продемонстрировал риски такого подхода.
Сообщается, что группа туристов решила воспользоваться чат-ботом Gemini от Google для планирования своего похода. ИИ выдал им рекомендации, согласно которым объем необходимых продуктов питания и питьевой воды был существенно занижен.
В результате путешественники столкнулись с серьезными трудностями на маршруте, ощутив нехватку базовых ресурсов. Им пришлось испытать на себе все последствия слепого доверия к алгоритмам.
Этот случай подчеркивает, что современные языковые модели и ИИ-помощники еще не до конца адаптированы для критически важных задач, связанных с выживанием и безопасностью человека. Ошибки в расчетах могут привести к опасным ситуациям.
Для технологического сообщества и пользователей в странах СНГ эта история служит важным напоминанием: искусственный интеллект может быть полезным помощником, но принимать окончательные решения в вопросах безопасности и здоровья человек должен самостоятельно, опираясь на здравый смысл и проверенные данные.
