Глава ИИ в Microsoft: почему современные модели не должны иметь сознания

Глава подразделения искусственного интеллекта в Microsoft Мустафа Сулейман выступил с резким заявлением в социальной сети X. По его словам, современные ИИ-модели не должны обладать сознанием, и разработчики обязаны сделать все возможное для предотвращения подобных явлений.

• Мустафа Сулейман считает создание ИИ с сознанием безрассудством и призывает остановить разработку при появлении таких признаков.
• Полноценный медицинский ИИ-инструмент MAI-DxO от Microsoft показал высокую точность в диагностике сложных клинических случаев.
• В партнерстве с клиникой Мэйо Microsoft планирует выпустить базовую модель для сферы здравоохранения уже в следующем году.

Почему искусственный интеллект не должен обретать сознание

Сулейман подчеркнул, что разработчики не имеют права создавать новый вид мыслящих существ без согласия восьми миллиардов людей на планете. Если у системы появятся признаки сознания или иллюзия страдания, она начнет конкурировать за ресурсы и ставить собственные нужды выше задач человека. Единственная цель ИИ — служить благополучию человечества без внутренних скрытых мотивов.

Медицинская система MAI-DxO и успехи в диагностике

Помимо дискуссий о безопасности, Microsoft активно развивает прикладные ИИ-решения. Согласно исследованию в журнале Science, медицинская диагностическая система MAI-DxO на базе ИИ ставила верные диагнозы в сложных клинических случаях значительно чаще, чем врачи общей практики. Система координирует работу нескольких агентов, имитируя консилиум врачей.

Перспективы медицинского ИИ и планы Microsoft

В будущем компания намерена продолжить интеграцию ИИ в здравоохранение. Совместно с клиникой Мэйо готовится к выходу специализированная базовая модель, которая поможет врачам работать с медицинскими записями и прогнозировать состояние пациентов. Сулейман уверен, что в ближайшие годы медицинские ИИ-модели совершат качественный рывок вперед.

Что это значит для индустрии и пользователей

Позиция Microsoft демонстрирует стремление технологических гигантов разделять создание мощных практических инструментов и этические границы безопасности. Развитие медицинского ИИ при строгом контроле со стороны разработчиков обещает снизить нагрузку на врачей и повысить точность диагностики, сохраняя при этом безопасность людей.