Google объявил об устранении критической уязвимости в Gmail, которая могла позволить хакерам похищать корпоративные данные через искусственный интеллект. Атака получила название GeminiJack и потенциально затрагивала более 2 миллиардов пользователей почтового сервиса, включая корпоративные аккаунты и сотрудников крупных компаний по всему миру. Эксперты отмечают, что это не просто единичный инцидент — это тревожный сигнал о новой категории угроз, связанных с ИИ.
Как работала атака GeminiJack
Механизм атаки оказался удивительно простым и изощренным одновременно. Злоумышленники внедряли скрытые инструкции в обычные документы Google Docs, приглашения в календаре или электронные письма. Для активации вредоносного кода пользователю не требовалось ни кликать по ссылке, ни скачивать файл, ни выполнять какие-либо действия. Традиционные системы защиты, включая фильтры спама и антивирусы, не срабатывали — атака полностью обходила стандартные меры безопасности.
Представители компании Noma, которая обнаружила уязвимость, поясняют: «Если злоумышленник может влиять на то, что читает ИИ, он может влиять на то, что ИИ делает». На практике это выглядело так: хакеры вставляли вредоносные команды в бюджетные документы. Когда сотрудник выполнял стандартный поиск в системе Gemini Enterprise, например «покажи наши бюджеты», искусственный интеллект автоматически извлекал «отравленный» документ и выполнял скрытые инструкции, передавая конфиденциальную информацию злоумышленникам.
Этот тип атак получил название «инъекции промптов» и демонстрирует новый класс уязвимостей, специфичных именно для ИИ-ассистентов. Если пользователь не читает каждый отдельный документ, электронное письмо или приглашение, вредоносные промпты могут незаметно попасть в работу ИИ, который интерпретирует их как обычные команды.
Предупреждения экспертов и рекомендации
Национальный центр кибербезопасности Великобритании (NCSC) рекомендует относиться к ИИ-ассистентам так же осторожно, как к новым сотрудникам, а не как к полностью доверенному инструменту. Если вы не доверили бы человеку полный доступ к своим паролям и финансовым данным, не стоит доверять их ИИ без активного надзора. По сути, ИИ становится «новым уровнем доступа», и компании должны учитывать это при внедрении любых автоматизированных систем, работающих с корпоративными данными.
Google уже устранил конкретную уязвимость GeminiJack, однако эксперты предупреждают, что это только начало. Правительственные агентства и исследователи считают, что подобные атаки могут стать гораздо более масштабными, особенно по мере распространения ИИ-инструментов в корпоративных и потребительских продуктах. Любое обновление ИИ в браузерах, документах или календарях потенциально может быть использовано злоумышленниками для новых сценариев атак.
Ранее Google подвергался критике за якобы обучение ИИ на данных пользователей Gmail. Основная проблема не в том, что система обучается на этих данных, а в том, что ИИ получает доступ к информации. Google отрицает факт обучения на пользовательских данных, но при включенных обновлениях ИИ может видеть всю информацию, доступную в Gmail, Google Docs и Календаре. Это открывает новые пути для потенциальных злоупотреблений и делает важным внимательное управление настройками безопасности.
Будущее ИИ-безопасности и корпоративная подготовка
Компания Noma отмечает: «Этот тип атак не будет последним. Он отражает растущий класс ИИ-уязвимостей, к которым организации должны готовиться прямо сейчас». По мере того как предприятия интегрируют ИИ-инструменты, способные читать корпоративную почту, документы и календари, искусственный интеллект перестает быть просто помощником — он становится полноценным уровнем доступа к конфиденциальной информации.
Безопасность данных теперь зависит от того, насколько тщательно пользователи и компании подходят к внедрению новых ИИ-обновлений. Любое обновление требует внимательного контроля: какие функции включаются, какой доступ предоставляется и какие потенциальные риски существуют. Эксперты сравнивают текущую ситуацию с бесконечной игрой в «закрытие конюшни после того, как ИИ-лошади сбежали», подчеркивая, что современные технологии требуют постоянного мониторинга и адаптации мер защиты.
В целом инцидент GeminiJack демонстрирует не только технологическую уязвимость, но и стратегическую необходимость пересмотра подхода к ИИ в корпоративной среде. Он напоминает о том, что искусственный интеллект, как инструмент автоматизации и повышения продуктивности, одновременно становится точкой повышенного риска для безопасности данных, и игнорировать эти угрозы нельзя.
ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Все материалы, представленные на этом сайте (https://wildinwest.com/), включая вложения, ссылки или материалы, на которые ссылается компания, предназначены исключительно для информационных и развлекательных целей и не должны рассматриваться как финансовая консультация. Материалы третьих лиц остаются собственностью их соответствующих владельцев.