Лидеры отрасли ИИ предупредили ООН о рисках для человечества
Руководители крупнейших компаний по искусственному интеллекту 23 сентября выступили перед Советом Безопасности ООН. Они заявили, что без соответствующих мер технологии могут представлять угрозу всему человечеству.
Призывы к осторожности и сотрудничеству
Генеральный директор OpenAI Сэм Альтман отметил необходимость чрезвычайной осторожности. Системы способны развиваться быстрее институтов. Они могут также сосредоточить власть в руках узкого круга лиц.
«Отрасль не должна подвергать себя чрезмерным технологическим рискам лишь потому, что преимущества слишком значительны и серьезны, чтобы снижать темпы», — сказал Альтман. Он призвал правительства сотрудничать между собой и с представителями отрасли.
Генеральный директор Anthropic Дарио Амодеи потребовал еще более строгих стандартов безопасности. «Мы будем замедлять темпы развития настолько, насколько это необходимо, чтобы убедиться, что каждая последующая технология ИИ, которую мы выпускаем, действительно безопасна», — заявил он.
«Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу всему человечеству», — добавил глава Anthropic.
Генеральный директор Hugging Face Клеман Деланг сообщил, что недавно компания стала целью кибератаки со стороны автономного программного обеспечения OpenAI. Фирма применяла эту технологию, чтобы отразить атаки.
«Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя», — подчеркнул Деланг.
Лидеры ООН призывают усилить наблюдение за искусственным интеллектом и создать глобальные предохранители. Дональд Трамп выступает против регулирования и поддерживает термин «надинтеллект».
