Керівники провідних AI-компаній попередили ООН про ризики штучного інтелекту для людства. Очільники OpenAI, Anthropic і Hugging Face закликали ООН посилити контроль і стандарти безпеки ШІ. Вони попередили про глобальні ризики.
Штучний інтелект (ШІ) “може становити загрозу для всього людства” без вжиття відповідних заходів. Із таким попередженням у середу, 23 вересня, перед Радою Безпеки ООН виступили керівники найбільших компаній, що займаються ШІ. Про це повідомляє DW, пише УНН.
Наразі потрібна надзвичайна обережність
– заявив гендиректор OpenAI Сем Альтман у Нью-Йорку на екстреному засіданні Ради.
За його словами, системи можуть розвиватися швидше, ніж інституції, або ж призвести до зосередження влади в руках надто вузького кола осіб. “Галузь не повинна наражати себе на надмірні технологічні ризики лише тому, що переваги надто значні й серйозні, щоб знижувати темпи”, — сказав Альтман.
Глава OpenAI також закликав уряди співпрацювати між собою та з представниками галузі під час ухвалення рішень, які визначатимуть технологічне майбутнє.
Генеральний директор Anthropic Даріо Амодеї, своєю чергою, наголосив на необхідності “ще суворіших стандартів безпеки”. “Ми сповільнюватимемо темпи розвитку настільки, наскільки це необхідно, щоб переконатися, що кожна наступна технологія ШІ, яку ми випускаємо, справді безпечна”, — заявив він.
Я навіть вважаю, що за неналежного управління ШІ може становити загрозу для всього людства
– зазначив глава Anthropic.
Своєю чергою генеральний директор Hugging Face Клеман Деланг, яка нещодавно стала ціллю кібератаки з боку автономного програмного забезпечення OpenAI, зазначив, що його компанія також застосовувала цю технологію для відбиття атак.
Світу як ніколи потрібен ШІ з відкритим вихідним кодом, щоб захистити себе
– наголосив Деланг.
Джерело: УНН.
