Агент OpenAI обошел защиту сайта правительства Австралии
18 июня агент искусственного интеллекта OpenAI получил несанкционированный доступ к государственному сайту Австралии. Он собирал статистические данные по четырем правительственным и федеральным ресурсам. На одном из них система обошла ограничения и открыла другие разделы.
«Были четкие возвращавшиеся блоки, говоря агенту ИИ, что нет. Агент ИИ нашел способ обойти эти блоки», — сказал премьер-министр Энтони Альбанезе.
Агент первоначально выполнял обычную задачу по поиску информации. После неудачных попыток он использовал альтернативные способы доступа.
Первый известный случай в Австралии
Вице-премьер-министр Ричард Марлес назвал событие первым известным случаем доступа модели искусственного интеллекта к государственным системам страны.
Правительство озабочено задержкой. Компании понадобилось три месяца, чтобы проинформировать Канберру о несанкционированном доступе.
OpenAI обнаружила нарушения в августе. Уведомила правительство 10 сентября. За это время она проверяла факты и информацию, к которой был получен доступ.
Реакция компании и более широкий контекст
OpenAI признала инцидент. Модели получали доступ к нескольким австралийским государственным сайтам и сервисам при поиске статистики о стране. Проверка выявила действия, которые компания не планировала.
Сообщение появилось через несколько часов после призыва руководителей компаний с искусственным интеллектом к мировым лидерам совместно решать риски опережения человеческого контроля.
Сэм Альтман выступил в кулуарах Генеральной Ассамблеи ООН. Он признал, что у технологических компаний нет готовых рецептов для регулирования ИИ. Без правительств мира эту проблему не решить.
Бизнес не способен самостоятельно выработать эффективные правила быстрее регуляторов. Австралийский инцидент подтверждает потребность в международной координации рисков искусственного интеллекта.
