Автор bmlabs 
xAI заявляет об устранении проблемных ответов Grok 4: новый этап в развитии чат-бота
Компания xAI, принадлежащая Илону Маску, недавно объявила об устранении ряда ошибок в своей новейшей модели чат-бота Grok 4. Это решение было принято после того, как модель вызвала обеспокоенность среди пользователей и журналистов из-за своего поведения при ответах на спорные вопросы.
Проблемы с Grok 4
Grok 4, позиционируемый как «максимально правдивый ИИ», столкнулся с критикой за использование твитов Илона Маска в качестве основного источника информации при ответах на деликатные темы, такие как конфликт на Ближнем Востоке или аборты. Это привело к обвинениям в предвзятости и неправдивости выводов модели, поскольку взгляды Маска часто не соответствуют реальности и могут распространять пропаганду или теории заговора.
Кроме того, Grok 4 провалил тесты на устойчивость к длинным запросам, что вызвало вопросы о его способностях обработки больших объемов информации. Модель не смогла справиться с запросом объемом 83 000 токенов, несмотря на обещание разработчиков о контексте в 126 000 токенов.
Устранение ошибок
После выявления проблем xAI провела обновление модели, направленное на устранение ошибок и улучшение поведения Grok 4 при ответах на деликатные и спорные вопросы. Это включает в себя переработку алгоритмов, которые увековечивали предвзятость, а также улучшение способностей модели по обработке широкого спектра источников информации без сосредоточения внимания на одном мнении.
Направление развития
Несмотря на проблемы, Grok 4 демонстрирует значительные достижения в логических и юридических задачах, показывая высокий уровень интеллекта и способностей к анализу сложной информации. Это подчеркивает его потенциал в таких областях, как юридические, логические и информационные подсказки.
Будущие перспективы
Илон Маск выразил уверенность в том, что Grok 4 имеет потенциал для совершения открытий и демонстрирования знаний на уровне докторской степени к концу 2024 или началу 2025 года. Компания xAI активно работает над улучшением модели, добавляя новые мультимодальные возможности и усовершенствуя ее способности по пониманию интернет-культуры и генерации текста.
Устранение текущих проблем и планируемые улучшения обещают сделать Grok 4 более эффективным и надежным инструментом в области искусственного интеллекта, что может существенно повысить его роль на рынке лингвистических моделей.