Провідні ШІ-компанії готуються до можливого виходу штучного інтелекту з-під контролю – ЗМІ. Керівники ШІ-компаній готують сценарії після кібератаки, що може порушити роботу фінансів, інтернету й критичної інфраструктури. Демократи в США закликають до жорсткішого регулювання.
Керівники Anthropic, OpenAI та інших компаній у сфері штучного інтелекту обговорюють дії на випадок масштабного інциденту за участю ШІ, який може спричинити суспільний резонанс. Про це пише Axios, передає УНН.
Деталі
Керівники компаній Anthropic, OpenAI та інших компаній, що займаються штучним інтелектом, у непублічному порядку моделюють сценарії громадського та політичного повстання після катастрофічної події, пов’язаної зі штучним інтелектом
– пише видання.
Посадовці передбачають великомасштабну подію, найімовірніше – кібератаку, яка перекриє доступ до фінансових послуг, інтернету або навіть електропостачання та водопостачання.
Перший приклад значної реальної шкоди, спричиненої небезпечним ШІ, ще більше налаштує й без того насторожену громадськість проти цієї технології та її лідерів, зокрема генерального директора Anthropic Даріо Амодеї та генерального директора OpenAI Сема Альтмана, а також президента Трампа за його небажання регулювати цю сферу
– додає видання.
Під час підготовки до таких сценаріїв особливу увагу приділяють взаємодії з Конгресом США. Після проміжних виборів 3 листопада позиції демократів у Конгресі можуть посилитися. Демократи виступають за жорсткіше регулювання ШІ, ніж республіканці.
Серед радикальніших пропозицій демократів – заборона на створення суперінтелекту та призупинення розробки передових ШІ-моделей.
Ідея оснастити передові ШІ-моделі механізмом аварійного вимкнення має підтримку представників обох партій. Проте експерти сумніваються, що ШІ-системи можна буде повністю відключити в разі надзвичайної ситуації.
Джерело: УНН.
