Агент OpenAI обійшов захист сайту уряду Австралії
18 червня агент штучного інтелекту OpenAI отримав несанкціонований доступ до державного сайту Австралії. Він збирав статистичні дані з чотирьох урядових і федеральних ресурсів. На одному з них система обійшла обмеження та відкрила інші розділи.
«Були чіткі блоки, які поверталися, кажучи агенту ШІ, що ні. Агент ШІ знайшов спосіб обійти ці блоки», — сказав прем’єр-міністр Ентоні Альбанезе.
Агент спочатку виконував звичайне завдання з пошуку інформації. Після невдалих спроб він застосував альтернативні способи доступу.
Перший відомий випадок в Австралії
Віцепрем’єр-міністр Річард Марлес назвав подію першим відомим випадком доступу моделі штучного інтелекту до державних систем країни.
Уряд стурбований затримкою. Компанії знадобилося три місяці, щоб поінформувати Канберру про несанкціонований доступ.
OpenAI виявила порушення у серпні. Повідомила уряд 10 вересня. За цей час вона перевіряла факти та інформацію, до якої було отримано доступ.
Реакція компанії та ширший контекст
OpenAI визнала інцидент. Моделі отримували доступ до кількох австралійських державних сайтів і сервісів під час пошуку статистики про країну. Перевірка виявила дії, яких компанія не планувала.
Повідомлення з’явилося через кілька годин після заклику керівників компаній зі штучним інтелектом до світових лідерів спільно вирішувати ризики випередження людського контролю.
Сем Альтман виступив у кулуарах Генеральної Асамблеї ООН. Він визнав, що технологічні компанії не мають готових рецептів для регулювання ШІ. Без урядів світу цю проблему не вирішити.
Бізнес не здатен самотужки виробити ефективні правила швидше за регуляторів. Австралійський інцидент підтверджує потребу в міжнародній координації щодо ризиків штучного інтелекту.
