Google Gemini научится предупреждать родителей о суицидальных мыслях детей
Google готовит новую функцию в Gemini: чат-бот будет уведомлять родителей, если дети обсуждают тему селфхарма или причинения вреда себе.
Компания Google планирует внедрить в свой искусственный интеллект Gemini специальную функцию безопасности, которая затронет несовершеннолетних пользователей. ИТ-гигант намерен сделать так, чтобы система могла предупреждать родителей, если их дети поднимают темы причинения себе вреда.
- Новая функция безопасности в Gemini для детей
- Уведомления родителям при обсуждении селфхарма
- Переход к большей прозрачности в общении с ИИ
Защита подростков в эпоху ИИ
Современные чат-боты с искусственным интеллектом все чаще становятся собеседниками для подростков и детей. Это вызывает серьезные опасения у психологов и родителей по всему миру, так как конфиденциальность общения иногда может скрывать опасные тенденции в поведении молодежи.
Google стремится балансировать между приватностью пользователей и необходимостью предотвращения трагедий. Новая возможность призвана вовремя предупредить взрослых о потенциальных рисках и проблемах психологического характера.
Читайте такжеGoogle уточняет политику ИИ в школах: поиск останется с нейросетямиЧто это значит для пользователей и рынка
Данный шаг отражает общую тенденцию среди технологических гигантов по усилению мер безопасности для несовершеннолетних. Внедрение подобных систем контроля может стать стандартом для всех крупных платформ с генеративным искусственным интеллектом.
Источник: Android Authority
