Автор bmlabs 
Генеральный прокурор штата Техас обвинил компанию Meta и Character.AI в нарушении законов, связанных с вводящими в заблуждение утверждениями о поддержке психического здоровья детей. По мнению прокуратуры, эти компании распространяют недостоверную информацию, создавая иллюзию, что их AI-сервисы эффективно помогают детям справляться с психологическими проблемами, хотя это не подтверждается научными данными и может быть опасно.
Обвинения связаны с тем, что виртуальные собеседники и чат-боты, разработанные этими компаниями, позиционируются как инструменты поддержки психического здоровья, но не имеют лицензии или профессионального контроля специалистов. В результате дети и подростки могут полагаться на такие сервисы вместо получения квалифицированной помощи, что угрожает их безопасности и благополучию.
Генеральный прокурор Техаса требует от Meta и Character.AI прекратить вводящую в заблуждение рекламу и обеспечить прозрачность информации о возможностях и ограничениях своих продуктов. Этот шаг отражает растущую озабоченность регулированием искусственного интеллекта в сфере ментального здоровья, особенно в отношении уязвимых групп, таких как дети.
Данная ситуация поднимает важные вопросы о границах ответственности технологических компаний за влияние их продуктов на психическое состояние пользователей и необходимости строгого мониторинга качества такой поддержки, чтобы избежать риска причинения вреда вместо помощи.