ИИ-бабушка — тролль

В эпоху, когда искусственный интеллект все чаще используется преступниками для создания реалистичных голосов, поддельных сообщений и сложных схем обмана, британская компания решила использовать ту же технологию против самих мошенников.

Проект получил название Daisy. Его разработал британский оператор связи O2 совместно со специалистами в области искусственного интеллекта и кибербезопасности.

Идея проста, но необычна: вместо того чтобы просто блокировать подозрительные звонки, система намеренно задерживает мошенников и отнимает у них самое ценное — время.

Когда аферист звонит на специально подготовленный номер, трубку берет не настоящий человек, а искусственный интеллект с голосом добродушной пожилой женщины.

Но Daisy не выглядит как обычный голосовой помощник.

Она создана так, чтобы максимально напоминать реального человека, который не слишком хорошо разбирается в технологиях и легко может стать жертвой мошенничества.

Во время разговора «бабушка Дейзи» специально ведет себя медленно и немного рассеянно:

• долго ищет очки;
• отвлекается на чайник;
• рассказывает истории о семье;
• вспоминает о своей кошке;
• говорит о вязании и повседневных делах;
• путается в цифрах;
• просит повторить информацию несколько раз;
• диктует вымышленные данные банковских карт;
• задает одни и те же вопросы снова и снова.

Для мошенника такой разговор превращается в настоящую ловушку.

Он уверен, что разговаривает с потенциальной жертвой, поэтому продолжает убеждать «бабушку» перевести деньги, назвать пароль, сообщить данные карты или перейти по опасной ссылке.

Некоторые злоумышленники проводят с Daisy по 30-40 минут, пытаясь довести дело до конца.

Но все это время они заняты искусственным интеллектом и не могут звонить реальным людям.

Фактически Daisy превращает классическую схему мошенников против них самих: вместо быстрой атаки они получают длинный, бесполезный разговор.

По данным O2, за время работы система уже успела «пообщаться» более чем с тысячей телефонных мошенников.

Главная цель проекта — не только защитить пользователей, но и изучить методы работы преступников, собрать информацию о популярных сценариях обмана и сделать телефонные сети безопаснее.

Особенно актуально это становится сейчас, когда мошенники активно используют новые технологии:

• голосовые дипфейки;
• автоматические звонки;
• генерацию персонализированных сообщений;
• подделку голоса родственников.

Раньше искусственный интеллект часто воспринимался как инструмент, который помогает создавать новые угрозы.

Но Daisy показывает другую сторону технологии: нейросеть может не только помогать людям, но и сама становиться «цифровым защитником».

Возможно, в будущем подобные ИИ-агенты будут автоматически отвечать на подозрительные звонки, вести долгие разговоры с мошенниками и защищать миллионы людей от финансовых потерь.

Получается, что впервые в истории телефонные аферисты столкнулись с противником, который умеет делать то же, что и они сами — убеждать, разговаривать и тянуть время.

Только с одной большой разницей: Daisy не устает, не нервничает и никогда не переводит деньги.