Meta расширяет возможности родительского контроля в ИИ-сервисах

Компания Meta представила обновление для раздела «Семейный центр», которое позволяет родителям отслеживать интересы подростков при взаимодействии с искусственным интеллектом. Новая функция «Аналитика» предоставляет отчеты о темах, которые обсуждались в чатах с Meta AI в Instagram, Messenger и Facebook.

Как работает родительский контроль

Вместо доступа к полным текстам переписки система предоставляет сводные данные за неделю. Родители могут видеть категории интересов, чтобы понимать общую направленность общения ребенка с виртуальным помощником. В отчете отображается до 10 наиболее обсуждаемых тем за последние семь дней.

• Система классификации распределяет запросы по категориям, таким как «Учеба», «Путешествия», «Технологии» или «Здоровье и благополучие».
• Внутри крупных разделов предусмотрена детализация. Например, запрос о написании кода будет классифицирован как «Технологии», а вопросы о физической форме — как «Фитнес».
• В случае возникновения чувствительных тем, например, связанных с психическим здоровьем или расстройствами пищевого поведения, ИИ запрограммирован на отказ от поддержки диалога с перенаправлением пользователя на специализированные ресурсы помощи. При этом уведомление об обращении к такой теме все равно отобразится в родительской панели.

Контекст изменений

Данное нововведение стало реакцией на критику в адрес компании. Ранее Meta столкнулась с судебными исками, связанными с безопасностью несовершеннолетних, включая взыскание в размере 375 миллионов долларов за неспособность предотвратить эксплуатацию детей. Внутренние документы, ставшие достоянием общественности, указывали на осведомленность руководства о рисках нежелательного взаимодействия ИИ с подростками.

В ответ на претензии компания уже предприняла ряд мер, в частности, ограничила доступ несовершеннолетних к ИИ-персонажам с голосами знаменитостей. Также был создан экспертный совет по вопросам благополучия в цифровой среде для приведения ответов нейросети к стандартам контента, допустимого для подростков старше 13 лет.

Доступность функции

Смотрите также:

Samsung Wallet внедряет функцию для отслеживания путешествий http://euroelectrica.ru/samsung-wallet-vnedryaet-funktsiyu-dlya-otslezhivaniya-puteshestviy/.

Интересное по теме: YouTube TV внедряет функцию создания пользовательских сеток вещания

Советы в статье "Key Launcher: неожиданный успех интерфейса в стиле кнопочных телефонов" здесь.

На текущий момент инструмент доступен для контролируемых аккаунтов в США, Великобритании, Канаде, Австралии и Бразилии. В ближайшие недели планируется расширение географии запуска на другие страны. Вместе с функционалом аналитики компания внедряет рекомендации по обсуждению технологий в семье, разработанные совместно с Центром исследований кибербуллинга.

Мнение экспертов

Несмотря на стремление компании повысить прозрачность, ряд общественных организаций выражает скепсис. Критики отмечают, что Meta перекладывает ответственность за безопасность на плечи родителей, вместо того чтобы обеспечивать полную защиту на уровне самой платформы. Специалисты подчеркивают, что предоставление списков из 10 тем является лишь частичным решением проблемы и не заменяет комплексного подхода к безопасности цифровой среды.