ШІ може створювати дипфейки із захищених фото: що показало нове дослідження
Дослідницька група під керівництвом експерта з кібербезпеки Бімала Вісваната з Virginia Tech виявила серйозні прогалини в сучасних методах захисту візуального контенту. Технології, що мали б заважати зловмисникам використовувати фото для створення дипфейків або навчання ШІ, можна з легкістю нейтралізувати.
Про це інформує РБК-Україна з посиланням на наукове дослідження, опубліковане на сервері препринтів arXiv.
Більше цікавого: Новий тип ШІ може еволюціонувати як живі організми: що це означає для людей Чому кіберзахист більше не працює?Раніше для обходу захисних фільтрів на фотографіях (так званого "захисного шуму") зловмисникам були потрібні спеціалізовані знання та складні алгоритми. Нове дослідження довело: сьогодні для цього достатньо звичайних серійних моделей генеративного ШІ (off-the-shelf models) та простого текстового запиту.
Вчені протестували різноманітні системи захисту, включаючи:
Семантичні збурення: призначені для захисту ідентичності обличчя.
Невидимий шум: що накладається через латентний простір ШІ;
Стійкий захист: спеціально розроблений для виживання під час додаткового навчання нейромереж.
Результати показали, що загальнодоступні ШІ-моделі "image-to-image" не лише обходять ці перешкоди, а й роблять це ефективніше за спеціалізовані хакерські атаки. При цьому зберігаються якість та корисність зображення для зловмисника.
Фальшиве відчуття безпеки?Дослідники наголошують, що на сьогодні не існує математично гарантованого способу захистити публічні фото від копіювання сучасними генеративними моделями. Це створює серйозні ризики для цифрової приватності та автентичності контенту.
"Чинні методи безпеки дають користувачам оманливе відчуття захищеності", - зазначає Бімал Вісванат.
За його словами, будь-яка майбутня технологія захисту повинна проходити стрес-тести саме за допомогою простих текстових атак через поширені ШІ-моделі, а не лише через складний спеціалізований софт.
Дослідження науковців підсвічує необхідність повного перегляду підходів до кібербезпеки у сфері візуальних даних. Оскільки генеративні ШІ-моделі стають дедалі потужнішими, створення надійного "щита" від несанкціонованого використання контенту стає складнішим завданням.
Вчені переконані: сучасний стан справ вимагає нових стандартів перевірки стійкості захисту мультимедіа.
Ще більше цікавого:
- Конкурент Neuralink: стартап Neurable вбудовує інтерфейс "мозок-комп’ютер" у звичайні навушники
- "Помилка природи": вчені відкрили новий механізм створення ДНК
