Разработчики признали проблему с чрезмерной угодливостью обновленной языковой модели GPT-4o. Компания OpenAI решила пока вернуть предыдущую версию, поведение которой было более сбалансированным.
Все началось после внесения изменений в «личность» ИИ-модели. ИТ-специалисты стремились сделать GPT-4o более интуитивной и эффективной, но, по их собственному признанию, «слишком сильно сосредоточились на краткосрочной положительной обратной связи от пользователей».
В итоге вместо помощи в исследовании идей и принятии решений программа начала выдавать «подхалимские» ответы, что вызывало у пользователей дискомфорт и раздражение.
Сейчас компания активно работает над исправлением ситуации. Помимо отката обновления, разработчики уточняют методы обучения и системные подсказки. Также хотят усилить контроль за честностью и прозрачностью ответов, расширить возможности пользователей для тестирования и обратной связи.
Еще планируют ввести новые функции, которые позволят самостоятельно настраивать «личность» модели или выбирать из нескольких вариантов ее поведения.
