Лідери галузі ШІ попередили ООН про ризики для людства
Керівники найбільших компаній зі штучного інтелекту 23 вересня виступили перед Радою Безпеки ООН. Вони заявили, що без відповідних заходів технології можуть становити загрозу для всього людства.
Заклики до обережності та співпраці
Генеральний директор OpenAI Сем Альтман наголосив на потребі надзвичайної обережності. Системи здатні розвиватися швидше за інституції. Вони також можуть зосередити владу в руках вузького кола осіб.
«Галузь не повинна наражати себе на надмірні технологічні ризики лише тому, що переваги надто значні й серйозні, щоб знижувати темпи», — сказав Альтман. Він закликав уряди співпрацювати між собою та з представниками галузі.
Генеральний директор Anthropic Даріо Амодеї вимагав ще суворіших стандартів безпеки. «Ми сповільнюватимемо темпи розвитку настільки, наскільки це необхідно, щоб переконатися, що кожна наступна технологія ШІ, яку ми випускаємо, справді безпечна», — заявив він.
«Я навіть вважаю, що за неналежного управління ШІ може становити загрозу для всього людства», — додав глава Anthropic.
Генеральний директор Hugging Face Клеман Деланг повідомив, що компанія нещодавно стала ціллю кібератаки з боку автономного програмного забезпечення OpenAI. Фірма застосовувала цю технологію, щоб відбити атаки.
«Світу як ніколи потрібен ШІ з відкритим вихідним кодом, щоб захистити себе», — підкреслив Деланг.
Лідери ООН закликають посилити нагляд за штучним інтелектом і створити глобальні запобіжники. Дональд Трамп виступає проти регулювання і підтримує термін «надінтелект».
