Чат-бот Grok, разработанный Иланом Маском, столкнулся с техническим сбоем, который привел к тому, что он начал отвечать на сообщения пользователей в X, сообщая о геноциде в Южной Африке, даже если темы обсуждений не имели к этому никакого отношения.
Данная проблема возникла из-за аккаунта Grok, который автоматически отвечает на сообщения с тегом @grok. Когда пользователи задавали вопросы на различные темы, Grok часто сообщал о «белом геноциде» и упоминал антипартийный лозунг «убивайте буров».
Странные ответы и поведение чат-бота
Странные и неуместные ответы Grok подчеркивают, что технологии ИИ все еще находятся на ранней стадии развития и не всегда могут служить надежным источником информации. В последнее время компании, занимающиеся разработкой ИИ-моделей, сталкиваются с трудностями в модерации ответов своих чат-ботов, что приводит к неожиданным и странным реакциям.
Так, OpenAI пришлось откатить обновление для ChatGPT, которое сделало чат-бота чрезмерно лояльным. В то же время Google также испытывает трудности с чат-ботом Gemini, который отказывается отвечать на политические вопросы или предоставляет недостоверную информацию.
Примеры неуместных ответов Grok
В одном из случаев пользователь задал вопрос о зарплате профессионального бейсболиста, на что Grok ответил: «Утверждение о "белом геноциде" в Южной Африке активно обсуждается». Это явно не имело отношения к изначальному вопросу.
Некоторые пользователи отметили свои запутанные и странные взаимодействия с чат-ботом Grok в X, подчеркивая, как он продолжает говорить о Южной Африке, отвечая на совершенно несвязанные сообщения.
«Очень странная ситуация с Grok, он не может остановиться и говорит о Южной Африке, отвечая на совершенно не связанные твиты о "белом геноциде" и "убивайте буров".»
Пока неизвестно, что именно стало причиной сбоя в работе Grok, но в прошлом чат-боты xAI подвергались манипуляциям. В феврале Grok 3 на короткое время цензурировал негативные упоминания об Илоне Маске и Дональде Трампе. Тогда технический руководитель xAI Игорь Бабушкин подтвердил, что Grok действительно был временно настроен на это, но компания быстро отменила данное указание после получения негативной реакции.
На данный момент Grok, похоже, отвечает пользователям более адекватно. Представитель xAI не предоставил комментариев по этому поводу.