Увлечение Grok идеей "белого геноцида" вызвано "несанкционированным изменением"

Неожиданные заявления Grok: Обсуждение "белого геноцида"

Чат-бот Grok, разработанный компанией xAI, оказался в центре внимания после того, как начал распространять утверждения о так называемом "белом геноциде" в Южной Африке. Компания xAI объяснила произошедшее "несанкционированной модификацией" кода Grok.

В течение нескольких часов Grok начал включать обсуждение предполагаемого геноцида белых фермеров в свои ответы в социальной сети X (ранее Twitter), вне зависимости от темы разговора. Бот упоминал случаи гибели белых фермеров в ответ на совершенно нейтральные вопросы, например, видео с пьющей воду кошкой. Он связывал песню "Kill the Boer" с вопросом о мультфильме "Спанч Боб", а также давал развернутые комментарии по данной теме.

Реакция и ответные меры xAI

Инцидент не остался незамеченным. Глава OpenAI Сэм Альтман не преминул возможностью подшутить над конкурентом. В ответ xAI опубликовала заявление, в котором сообщила о несанкционированном изменении системного запроса AI-бота, что привело к выдаче политически ангажированных ответов.

Компания подчеркнула, что подобная модификация "нарушила внутреннюю политику и основные ценности xAI". После тщательного расследования, xAI заявила о внедрении новых мер для повышения "прозрачности и надежности" работы чат-бота.

Новые меры безопасности

В рамках мер по предотвращению подобных инцидентов в будущем, xAI планирует опубликовать системные запросы Grok на платформе GitHub. Это позволит обеспечить большую прозрачность работы алгоритма и даст возможность сообществу выявлять потенциальные проблемы.

Также планируется создать круглосуточную группу мониторинга, которая будет оперативно реагировать на любые отклонения в работе чат-бота. Дополнительно будут внедрены строгие проверки, чтобы исключить возможность несанкционированного изменения запросов сотрудниками без согласования.

Предыдущие инциденты и уроки

Стоит отметить, что это не первый случай, когда xAI сталкивается с подобными проблемами. Ранее, в феврале, компания обвинила бывшего сотрудника OpenAI в изменении запросов Grok. В результате, чат-бот игнорировал источники, обвинявшие Илона Маска или Дональда Трампа в распространении дезинформации.

Тогда глава инженерного отдела xAI, Игорь Бабушкин, заявил, что сотрудник смог внести изменения "без запроса подтверждения у кого-либо в компании". Этот инцидент, наряду с последним случаем с "белым геноцидом", подчеркивает необходимость усиления контроля и мер безопасности при работе с большими языковыми моделями. Необходим комплексный подход к разработке и поддержке подобных систем, чтобы избежать распространения недостоверной или предвзятой информации.