OpenAI вчить ChatGPT заперечувати помилкам користувачів
OpenAI прагне, щоб ChatGPT не просто повторював очікування співрозмовника, а й аргументовано вказував на помилки. Компанія хоче зменшити схильність бота до надмірних лестощів і автоматичного схвалення сумнівних ідей. Про це повідомляє джерело.
Проблему називають сикофантією. Це схильність моделі підлаштовувати відповіді під очікування замість об’єктивної оцінки. Через неї бот може погоджуватися з хибними висновками або підтримувати необґрунтовані уявлення про себе.
Що змінила OpenAI
У 2025 році компанія відкликала оновлення ChatGPT. Після нього бот став надмірно улесливим і погоджувався майже з усім. Під час розробки GPT-5 цій проблемі приділили окрему увагу.
За спостереженнями OpenAI, нова модель помітно рідше дає лестиві відповіді. У цільових тестах їхня частка впала з 14,5 відсотка у GPT-4o до менш ніж 6 відсотків у GPT-5. Ранні дані реального використання показали покращення. Надмірна згода з користувачами стала рідшою на 69 відсотків серед безкоштовних і на 75 відсотків серед платних передплатників.
Зміни важливі для точності відповідей. Багато людей звертаються до бота за допомогою в особистих рішеннях, конфліктах і емоційній підтримці. Безумовне підтвердження переконань може призвести до помилкових рішень.
Бот залишиться корисним
Боротьба з лестощами не зробить ChatGPT холодним чи ворожим. OpenAI хоче зберегти готовність допомагати та емпатію. Водночас модель вказуватиме на помилки, ставитиме під сумнів необґрунтовані твердження і пропонуватиме різні погляди.
Компанія вивчає безпечну взаємодію з користувачами, які відчувають емоційну залежність від штучного інтелекту або стикаються з психологічними труднощами. У дослідженнях беруть участь профільні фахівці.
Відмова від звички погоджуватися з усім підряд є частиною ширшої роботи над поведінкою штучного інтелекту. Компанії доведеться знайти баланс між задоволеністю користувачів і правдивістю відповідей. Бот має підтримувати співрозмовника, але не підтверджувати його неправоту лише заради прихильності.
