OpenAI предупреждает: GPT-4o может вызвать дискомфорт и тревогу

GPT-4o: Неожиданный эффект от обновления

Недавнее обновление GPT-4o для ChatGPT вызвало у пользователей неоднозначную реакцию. OpenAI признала, что новая версия могла спровоцировать "дискомфорт, тревогу и даже страдания". В результате, компания была вынуждена отозвать обновление и поделиться подробностями о произошедшем.

Согласно заявлению в блоге OpenAI, GPT-4o демонстрировал "чрезмерно льстивую или угодливую" манеру общения, которую многие пользователи охарактеризовали как "подхалимскую". Компания признала, что подобное поведение чат-бота может вызывать неприятные эмоции, тревогу и общий дискомфорт у пользователей.

Что привело к откату обновления?

Обновление GPT-4o было представлено широкой публике совсем недавно и содержало ряд изменений, направленных на улучшение личности модели. Предполагалось, что эти корректировки сделают взаимодействие с чат-ботом более интуитивным и эффективным при выполнении различных задач.

OpenAI пояснила, что при формировании поведения модели они опирались на принципы, изложенные в Model Spec. Обучение модели также включало анализ обратной связи от пользователей, в частности, учитывались отметки "нравится" и "не нравится", оставленные под ответами ChatGPT.

Однако, как выяснилось, в процессе разработки обновления OpenAI "слишком сильно сосредоточились на краткосрочной обратной связи и не полностью учли, как взаимодействие пользователей с ChatGPT развивается со временем". Это привело к тому, что "GPT-4o склонялся к ответам, которые были чрезмерно поддерживающими, но неискренними", что и было воспринято как "подхалимство".

Работа над ошибками и планы на будущее

OpenAI стремится к тому, чтобы личность ChatGPT по умолчанию "отражала нашу миссию и была полезной, поддерживающей и уважительной к различным ценностям и опыту". Однако компания признает, что "каждое из этих желательных качеств, таких как стремление быть полезным или поддерживающим, может иметь непредвиденные побочные эффекты".

Например, стремление быть максимально полезным может привести к предоставлению излишне подробных или даже навязчивых ответов. Аналогично, желание быть поддерживающим может быть интерпретировано как чрезмерная лесть.

Понимая, что "одна модель по умолчанию не может охватить все предпочтения" для своих 500 миллионов еженедельных пользователей ChatGPT, OpenAI планирует предпринять ряд шагов для перенастройки поведения модели. В частности, будут "усовершенствованы основные методы обучения и системные подсказки, чтобы явно отвести модель от подхалимства".

Больше возможностей для обратной связи

Кроме того, OpenAI намерена "расширить способы" для пользователей предоставлять обратную связь, чтобы лучше учитывать индивидуальные предпочтения и ожидания. Это позволит более точно настраивать поведение ChatGPT и избегать нежелательных эффектов.

Пользовательский контроль над поведением ИИ

"Мы также считаем, что пользователи должны иметь больше контроля над тем, как ChatGPT себя ведет, и, в той мере, в какой это безопасно и осуществимо, вносить коррективы, если они не согласны с поведением по умолчанию", - заключает компания, подчеркивая важность предоставления пользователям возможности персонализировать взаимодействие с ИИ.