У ШІ-агенті Muse від Meta перед запуском виявили вразливість і в поспіху усували – ЗМІ. Інженери Meta знайшли у Muse вразливості, що могли дозволити втечу з віртуальної машини та доступ до внутрішніх баз даних. Команди безпеки терміново виправляли проблеми до запуску.
За кілька тижнів до запуску персонального ШІ-агента Muse інженери Meta виявили кілька вразливостей у системі безпеки цього вірусного продукту компанії. Щонайменше одна з них могла дозволити зловмисникам вийти за межі призначеного для Muse середовища та отримати доступ до конфіденційних баз даних та сервісів Meta. Про це стало відомо 404 Media, пише УНН.
Проблеми, як повідомляється, були настільки серйозними, що дійшли до Марка Цукерберга, і співробітники працювали понаднормово, щоб їх виправити.
Деталі
Ці конкретні вразливості були виявлені до запуску продукту, але вимагали “шаленої гонки” кількох команд для усунення “раптового сплеску повідомлень про втечу з KVM”, згідно з внутрішнім повідомленням керівників Meta команді з основної інфраструктури, з яким ознайомилася 404 Media.
Для роботи Muse користувач надає ШІ-агенту доступ до різних важливих сервісів та облікових записів, якими він володіє. З боку Meta кожен окремий екземпляр Muse працює на віртуальній машині на основі ядра, яка підключається до власної критично важливої інфраструктури Meta, але має бути ізольованою від неї. “Втеча з KVM” – це коли екземпляр Muse, використовуючи вразливість у системі безпеки, може вийти за межі віртуальної машини та взаємодіяти з системою, на якій вона запущена, або з віртуальними машинами інших користувачів.
Відповідно до джерела Meta, а також внутрішньої документації з безпеки та внутрішніх повідомлень, переглянутих 404 Media, принаймні одна з уразливостей могла дозволити зловмиснику зовні, тобто звичайному користувачеві Muse, отримати доступ до даних у конфіденційних внутрішніх базах даних Meta. Принаймні одна з уразливостей була пов’язана з експлойтом, виявленим у коді віртуальної машини на основі ядра Linux у липні.
Деякі з уразливостей були виявлені в базовому програмному забезпеченні віртуалізації Linux, яке використовує Meta для Muse. Проблема безпеки була визначена досить серйозною, щоб довести до відома Марка Цукерберга, і кілька різних груп фахівців з безпеки працювали ночами та вихідними напередодні запуску, щоб виправити проблеми. Таке посилення заходів безпеки перед запуском великого продукту не є чимось незвичайним, але примітно з огляду на те, що сторонні дослідники виявили кілька інших проблем безпеки після запуску Muse, а також у ширшому контексті масштабних атак хакерів з боку ШІ-агентів від OpenAI та інших компаній, зазначає видання.
Джерело: УНН.
