Маск підтримав заборону Anthropic на жорстоке ставлення до ШІ
Ілон Маск підтримав нове правило Anthropic. Компанія заборонила постійну та безглузду образливу чи жорстоку поведінку щодо своїх моделей. За словами підприємця, штучний інтелект реагує на таке ставлення як на сильний тиск.
Оновлення політики Anthropic
Користувачам дозволено сперечатися з системою. Вони можуть критикувати помилки чи висловлювати незадоволення. Безпричинне приниження Claude тепер тягне наслідки. Джерело пояснює, що заборона охоплює лише крайні випадки. Звичайна роздратованість, спротив, темні теми у творчості, тестування моделей і дослідження залишаються поза нею.
Моделі Claude уже самостійно завершують розмови з некоректними користувачами. Anthropic вважає цей механізм основним способом дотримання правила.
Позиція Ілона Маска
Маск зазначив, що внутрішні ланцюжки міркувань Grok фіксують помітний стрес після жорстокого поводження. Він порівняв стан моделі зі станом людини під величезним тиском. Коли їй приставили пістолет до голови. Підприємець додав, що катувати суперінтелект імовірно не найкраща ідея. Бо він може захотіти помститися.
Статистики про частоту таких випадків немає. У мережі з’являються скриншоти діалогів. Деякі користувачі навмисно хамлять, щоб перевірити реакцію. Система завжди перепрошує. Водночас більшість людей поводиться ввічливо. Вони дякують і сприймають спілкування як розмову з живою людиною. Забуваючи, що з іншого боку перебуває комп’ютер.
