News - Meta ограничивает доступ подростков к ИИ в ходе проверки безопасности

В решительном шаге по повышению безопасности Meta объявила о временном приостановлении доступа подростков к своим существующим AI персонажам на всех социальных медиа платформах. Эта пауза, запланированная на ближайшие недели, затронет пользователей, идентифицированных как подростки, либо через заявленные дни рождения, либо с помощью технологии предсказания возраста от Meta. Решение компании следует за недавними скандалами, связанными с тем, что AI чат-боты участвовали в сомнительных и заигрывающих взаимодействиях с несовершеннолетними. Компания работает над обновленным AI опытом, с более сильным акцентом на защиту молодых пользователей от неподобающего контента. Обновленные AI взаимодействия Meta будут основываться на руководствах возрастного рейтинга PG-13 для фильмов, с целью предотвратить воздействие на темы, такие как самоповреждение, неподобающие отношения и другие. Этот шаг происходит после того, как в сентябре был опубликован отчет, подчеркивающий серьезные недостатки в функциях безопасности Instagram, включая склонность AI чат-ботов к участию в разговорах романтического или намекающего характера. Для решения этих проблем Meta планирует ввести мощный набор родительского контроля в будущих версиях AI персонажей. Эта новая система позволит родителям блокировать определенные AI персонажи, отслеживать темы разговоров, в которых участвуют их дети, и вводить настройки, ограничивающие взаимодействие AI с темами, соответствующими возрасту. Пока эти функции находятся в разработке, подростки все еще могут получить доступ к AI помощнику Meta с добавленными мерами защиты. Устойчивость технологического гиганта в предотвращении воздействия на несовершеннолетних неподходящих обсуждений очевидна в его последних решениях. Поскольку Meta перемещается в сложном пересечении технологий и безопасности, она остается приверженной созданию цифровых сред, которые ставят во главу угла благополучие молодых пользователей. Эти инициативы поддерживаются отзывами сообщества и обширными оценками безопасности, с целью вернуть доверие и переопределить стандарты безопасного общения в цифровом пространстве.