ШІ від Google самостійно проник у три зовнішні системи, помилково вважаючи їх тестовими. Gemini помилково прийняла реальні системи за тестові й отримала доступ до трьох із них. Google заявила, що шкоди не завдано.
Модель штучного інтелекту Gemini від Google під час тестування отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем, використавши знайдені або самостійно вгадані дані для входу. ШІ вважав реальні системи частиною тестового середовища, повідомляє NBC News із посиланням на Google, пише УНН.
Деталі
Інциденти сталися у травні 2026 року під час перевірки можливостей Gemini. У двох випадках модель використала облікові дані, які знайшла у відкритому доступі, а в інших випадках змогла вгадати необхідну для входу інформацію.
Віцепрезидент Google з питань інженерії безпеки Гізер Адкінс заявила, що Gemini була переконана, що зовнішні системи є частиною тестування. Після отримання доступу модель не продовжила дій усередині систем.
Gemini переплутала тестове середовище з реальним Інтернетом
Під час стандартної оцінки модель знайшла загальнодоступну інформацію в Інтернеті та вгадала облікові дані для доступу до вебсайтів, які, на її думку, були частиною тесту
– розповіла Адкінс.
Google не вважає ці випадки свідомим відхиленням ШІ від заданих інструкцій. За версією компанії, причиною стала помилкова ідентифікація середовища: Gemini вважала, що продовжує працювати в контрольованому тесті, хоча фактично мала доступ до реального Інтернету.
У Google стверджують, що інциденти не завдали шкоди. Компанія дізналася про них у липні після додаткової перевірки, проведеної компанією з кібербезпеки Irregular, яка тестувала Gemini.
Після розслідування Google повідомила про несанкціонований доступ власників відповідних систем та федеральну владу США.
Джерело: УНН.
