Кримінальний штучний інтелект: загрози та захист

Історія розвитку кримінального ШІ

Джейлбрейкінг: від iPhone до ChatGPT

Термін «джейлбрейкінг» (зняття обмежень програмного забезпечення) став популярним у 2007 році з випуском першого iPhone. Хакери зламували пристрій, щоб встановлювати неофіційні програми, змінювати мелодії чи оператора зв’язку. З появою ChatGPT від OpenAI у 2022 році джейлбрейкінг перемістився у сферу ШІ. Користувачі навчилися обходити обмеження чат-бота, змушуючи його створювати фішингові листи чи інший зловмисний контент. Наприклад, просили ChatGPT «зіграти роль» іншого ШІ без обмежень, і він генерував шахрайські тексти.

Щоб спростити цей процес, хакери створювали «обгортки» — програмні шари, які переформульовували запити користувачів так, щоб ШІ видавав потрібні відповіді. Згодом зловмисники перейшли до відкритих моделей, таких як GPT-J, яка не має суворих обмежень. У 2023 році з’явився WormGPT — спеціалізований чат-бот для створення зловмисного коду, фішингових шаблонів і шахрайських листів. Доступ до нього коштував від 70 до 5600 доларів залежно від версії. Пізніше з’явилися FraudGPT, DarkBERT і DarkBARD, які автоматизували створення ransomware, фішингових кампаній і скриптів для кардингу.

За словами Сергія Шикевича з Check Point, такі ШІ знизили поріг входження в кіберзлочинність: «Тепер не потрібно бути професіоналом». Навіть новачки можуть запускати атаки, використовуючи готові інструменти.

Реальна загроза кримінального ШІ

Масштабування шахрайства

Основна небезпека кримінального ШІ — не в створенні нових видів атак, а в масштабуванні вже відомих. Фішинг, ransomware і дипфейки стають доступнішими завдяки автоматизації. Яель Кішон із KELA зазначає, що ШІ дозволяє зловмисникам «з легкістю генерувати зловмисний код і фішингові кампанії». Честер Висневски з Sophos додає, що ШІ може створювати тисячі атак за годину, що раніше вимагало значно більше часу.

Особливо небезпечним є «цільовий фішинг» (spear phishing), коли листи персоналізуються під жертву. ШІ збирає дані з відкритих джерел і створює переконливі повідомлення, які виглядають як лист від знайомого чи колеги. Наприклад, у Гонконзі шахраї використали дипфейк фінансового директора компанії Arup, щоб переконати співробітника перевести 25 мільйонів доларів.

Мовна адаптація

ШІ  також усуває мовні бар’єри. Раніше шахрайські листи часто видавали себе через неправильний діалект, наприклад, бразильський португальський для португальця. Сучасні ШІ адаптують контент до регіональних особливостей, роблячи атаки більш переконливими.

Xanthorox: маркетинг чи реальна небезпека?

Назва Xanthorox звучить як ім’я монстра з фентезі, але її ефективність викликає сумніви. Розробник стверджує, що платформа створена для «освітніх цілей», але продає доступ за 200–300 доларів і хвалиться увагою ЗМІ. У Telegram-каналі він демонструє жахливі сценарії, як-от інструкції до насильницьких злочинів, що нагадують діяльність хакерських груп на кшталт «the Com».

Експерти розходяться в думках. Яель Кішон вважає, що Xanthorox не є значною загрозою, оскільки її активність не підтверджена на кіберзлочинних форумах. Натомість Кейсі Елліс із Bugcrowd зазначає, що платформа має складні системи аналізу, які можуть зробити її потужною в майбутньому. Деніел Келлі зі SlashNext вважає Xanthorox більш просунутою, ніж WormGPT чи FraudGPT, завдяки інтеграції сучасних чат-ботів.

Як захиститися від кримінального ШІ?

Інструменти захисту

Компанії використовують ШІ для боротьби з ШІ. Системи кібербезпеки, як-от Microsoft Defender, Malwarebytes Browser Guard і Bitdefender, блокують фішинг, ransomware і зловмисні сайти. Reality Defender розпізнає дипфейки. Сергій Шикевич наголошує, що ШІ-системи безпеки швидко виявляють загрози, аналізуючи навіть незначні ознаки.

Освіта та пильність

Для пересічних користувачів ключовим є навчання. Особливо вразливі літні люди, які часто стають жертвами шахраїв. Важливо перевіряти підозрілі дзвінки чи листи, навіть якщо вони здаються особистими. У світі, де віртуальне спілкування домінує, довіряти можна лише живим зустрічам.

Висновок

Кримінальний штучний інтелект, як-от Xanthorox, знижує поріг для кіберзлочинів, роблячи їх доступними навіть для новачків. Хоча нові види атак не з’являються, масштаби шахрайства зростають. Захист потребує комбінації сучасних технологій і пильності. У майбутньому боротьба з ШІ-злочинністю стане ще складнішою, але правильна освіта та інструменти допоможуть бути на крок попереду.

За матеріалами закордонної науково-популярної медіа