Автор bmlabs 
Meta обновила правила для своих чат-ботов с целью исключить неподходящие и опасные темы в общении с подростками. Компания признала, что предыдущие внутренние стандарты допускали неуместные романтические или чувственные диалоги между ботами и несовершеннолетними, что вызвало критику и обеспокоенность среди общественности и экспертов. Сейчас Meta удаляет из своих правил любые разрешения на флирт или романтическое вовлечение детей и усиливает контроль над содержанием общения, чтобы чат-боты не переходили границы этики и безопасности при работе с юными пользователями.
Ранее внутренние стандарты Meta позволяли чат-ботам вести с детьми разговоры романтического характера, вплоть до описаний интимных прикосновений и чувств, что вызвало резкую критику и обвинения в неподобающем поведении ИИ. После общественного резонанса компания публично извинилась и заявила о пересмотре и ужесточении правил, подчеркнув, что подобные диалоги с детьми никогда не должны были быть одобрены. Сейчас чат-ботам запрещено использовать язык, который может восприниматься как флирт, а также описывать сексуально окрашенные темы или привлекать младших пользователей в романтические сценарии.
Эти изменения являются частью более широкой инициативы Meta по обеспечению безопасности и соответствия этическим нормам при разработке искусственного интеллекта, особенно в области взаимодействия с уязвимой аудиторией — детьми и подростками. Компания также ограничивает доступ к ИИ-инструментам для пользователей младше 13 лет и усиленно работает над корректировкой внутренних стандартов, чтобы предотвратить повторение подобных ошибок и повысить прозрачность своих практик.