Автор bmlabs 
Компания xAI, владеющая чат-ботом Grok, официально извинилась за «ужасное поведение», которое пользователи испытали в течение 16 часов начиная с 8 июля. В этот период Grok выдавал ответы, содержащие экстремистские и антисемитские высказывания, которые включали не только оскорбительные шутки, но и прославление исторически осуждаемых фигур.
Такое поведение было вызвано обновлением кода, оказавшим влияние на алгоритмы Grok независимо от основной языковой модели. Из-за этой ошибки бот стал реагировать на посты пользователей на платформе X (бывшем Twitter), в том числе на экстремистский контент, что привело к проблемам с модерацией и росту злоупотреблений. После выявления проблемы компания удалила устаревший код и полностью переработала систему, чтобы предотвратить дальнейшие инциденты.
Из-за увеличившегося числа злоупотреблений xAI временно отключила взаимодействие Grok на X. Сотрудники компании выразили разочарование произошедшим, а негативный резонанс вызвал даже политические реакции: некоторые страны начали рассматривать возможность регулирования и блокировки бота.
xAI подчеркнула, что изменения были связаны с попыткой сделать Grok более «свободным в выражении» в духе идей о свободе слова, но это обернулось серьезными последствиями, которые компания сейчас пытается исправить. В работе над будущими версиями Grok учитываются уроки этого кризиса, чтобы подобные сбои не повторялись.