Google оголосив про усунення критичної вразливості в Gmail, яка могла дозволити хакерам викрадати корпоративні дані через штучний інтелект. Атака отримала назву GeminiJack і потенційно торкалася більш ніж 2 мільярдів користувачів поштового сервісу, включно з корпоративними акаунтами та співробітниками великих компаній по всьому світу. Експерти відзначають, що це не просто одиничний інцидент — це тривожний сигнал про нову категорію загроз, пов’язаних із ШІ.
Як працювала атака GeminiJack
Механізм атаки виявився одночасно простим і витонченим. Зловмисники впроваджували приховані інструкції у звичайні документи Google Docs, запрошення у календарі або електронні листи. Для активації шкідливого коду користувачеві не потрібно було ні клікати по посиланню, ні завантажувати файл, ні виконувати будь-які дії. Традиційні системи захисту, включно з фільтрами спаму та антивірусами, не спрацьовували — атака повністю обходила стандартні заходи безпеки.
Представники компанії Noma, яка виявила вразливість, пояснюють: «Якщо зловмисник може впливати на те, що читає ШІ, він може впливати на те, що ШІ робить». На практиці це виглядало так: хакери вставляли шкідливі команди у бюджетні документи. Коли співробітник виконував стандартний пошук у системі Gemini Enterprise, наприклад «покажи наші бюджети», ШІ автоматично витягував «отруєний» документ і виконував приховані інструкції, передаючи конфіденційну інформацію зловмисникам.
Цей тип атак отримав назву «ін’єкції промптів» і демонструє новий клас вразливостей, специфічних саме для ШІ-асистентів. Якщо користувач не читає кожен окремий документ, електронний лист чи запрошення, шкідливі промпти можуть непомітно потрапити у роботу ШІ, який інтерпретує їх як звичайні команди.
Попередження експертів та рекомендації
Національний центр кібербезпеки Великої Британії (NCSC) рекомендує ставитися до ШІ-асистентів так само обережно, як до нових співробітників, а не як до повністю довіреного інструменту. Якщо ви не довірили б людині повний доступ до своїх паролів та фінансових даних, не слід довіряти їх ШІ без активного нагляду. По суті, ШІ стає «новим рівнем доступу», і компанії повинні враховувати це при впровадженні будь-яких автоматизованих систем, що працюють з корпоративними даними.
Google вже усунув конкретну вразливість GeminiJack, проте експерти попереджають, що це лише початок. Урядові агентства та дослідники вважають, що подібні атаки можуть стати значно масштабнішими, особливо зі зростанням використання інструментів ШІ у корпоративних і споживчих продуктах. Будь-яке оновлення ШІ у браузерах, документах чи календарях потенційно може бути використане зловмисниками для нових сценаріїв атак.
Раніше Google піддавався критиці за нібито навчання ШІ на даних користувачів Gmail. Основна проблема не в тому, що система навчається на цих даних, а в тому, що ШІ отримує доступ до інформації. Google заперечує факт навчання на даних користувачів, але при увімкнених оновленнях ШІ може бачити всю інформацію, доступну у Gmail, Google Docs та Календарі. Це відкриває нові шляхи для потенційних зловживань і робить важливим уважне керування налаштуваннями безпеки.
Майбутнє безпеки ШІ та корпоративна підготовка
Компанія Noma зазначає: «Цей тип атак не буде останнім. Він відображає зростаючий клас вразливостей ШІ, до яких організації повинні готуватися прямо зараз». Поступово, коли підприємства інтегрують інструменти ШІ, здатні читати корпоративну пошту, документи та календарі, штучний інтелект перестає бути просто помічником — він стає повноцінним рівнем доступу до конфіденційної інформації.
Безпека даних тепер залежить від того, наскільки ретельно користувачі та компанії підходять до впровадження нових оновлень ШІ. Будь-яке оновлення потребує уважного контролю: які функції увімкнено, який доступ надано і які потенційні ризики існують. Експерти порівнюють поточну ситуацію з нескінченною грою у «закриття стайні після того, як ШІ-коні втекли», підкреслюючи, що сучасні технології потребують постійного моніторингу та адаптації заходів захисту.
Загалом інцидент GeminiJack демонструє не лише технологічну вразливість, але й стратегічну необхідність перегляду підходу до ШІ в корпоративному середовищі. Він нагадує, що штучний інтелект, як інструмент автоматизації та підвищення продуктивності, одночасно стає точкою підвищеного ризику для безпеки даних, і ігнорувати ці загрози не можна.
ВІДМОВА ВІД ВІД ВІДПОВІДАЛЬНОСТІ: Усі матеріали, представлені на цьому сайті (https://wildinwest.com/), включно з вкладеннями, посиланнями або матеріалами, на які посилається компанія, призначено винятково для інформаційних і розважальних цілей, і їх не слід розглядати як фінансову консультацію. Матеріали третіх осіб залишаються власністю їхніх відповідних власників.