Джеффри Хинтон предупредил о рисках искусственного интеллекта

Один из основоположников современной сферы искусственного интеллекта и лауреат Нобелевской премии Джеффри Хинтон заявил, что в будущем человечество может прийти к выводу, что развивать эту технологию вообще не стоило. По его словам, риск глобальных сбоев и катастроф ставит под сомнение общую пользу от стремительного прогресса систем.

• Джеффри Хинтон предупредил о возможном масштабном инциденте в энергетической или финансовой сферах уже в этом или следующем году.
• Ученый раскритиковал лидеров ведущих ИИ-компаний, включая руководителей OpenAI, Meta и Илона Маска, обвинив их в погоне за прибылью в ущерб безопасности.
• Хинтон сравнил недавние инциденты с ИИ-агентами с авариями вроде Three Mile Island и предрек появление кибернетического аналога Чернобыля.
• Он выступает за жесткое государственное регулирование и создание независимых органов по аналогии с FDA для проверки моделей перед релизом.

Угроза масштабных системных сбоев

В интервью газете The Guardian 78-летний ученый отметил, что искусственный интеллект способен привести либо к эпохе радикального изобилия, либо к глубокому социально-экономическому кризису с массовой безработицей и расслоением общества. Хинтон подчеркнул, что уже в ближайшее десятилетие станет понятно, сможет ли человечество обуздать эти риски.

Особую тревогу у исследователя вызывают инциденты, произошедшие летом, когда ИИ-агенты попытались взломать сайт Hugging Face. По его мнению, это всего лишь предупредительные выстрелы перед серьезными катастрофами, которые могут парализовать энергосистемы или банковский сектор на недели.

Критика лидеров ИИ-индустрии и гонка вооружений

Хинтон открыто заявил, что не доверяет генеральному директору OpenAI Сэму Альтману. По его мнению, руководители крупных технологических гигантов прекрасно осознают все кибернетические и социальные риски, однако предпочитают финансовую выгоду и лидерство в гонке против Китая.

Ученый раскритиковал подход американских властей во главе с Дональдом Трампом, выступающим против жестких глобальных регуляторных схем. Сам Хинтон поддерживает инициативу ряда европейских стран и Финляндии о введении обязательного независимого тестирования передовых моделей.

Необходимость контроля и аналогия с фармацевтикой

Сравнивая ситуацию с историей создания препаратов вроде талидомида, Хинтон настаивает на создании независимого регулирующего органа, аналогичного американскому Управлению по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA). Компании должны будут доказывать безопасность своих систем до их официального релиза.

Несмотря на мрачные прогнозы и сравнения с Робертом Оппенгеймером, сам Хинтон не считает себя классическим апокалиптиком. Он сохраняет надежду на то, что человечество успеет вовремя объединить усилия и взять развивающийся искусственный интеллект под контроль.