Розпізнавання Deepfake: виклик сучасності
Виявлення дипфейків – це постійно зростаюча проблема, яка з кожним днем стає дедалі складнішою.
Технологічний прогрес, як правило, має двояку природу. Він відкриває двері для позитивних змін, але водночас створює простір для потенційних зловживань.
Ці рядки можуть здаватися дещо метафоричними, проте розмова про штучний інтелект (ШІ) сьогодні є жорсткою реальністю.
Deepfake – це одна з таких програм на базі ШІ, що дозволяє створювати неймовірно реалістичні відео, зображення та аудіозаписи. Іноді їх розпізнавання вимагає майже надлюдських навичок.
Що таке Deepfake?
Простими словами, це підроблені медіафайли, що створюються за допомогою спеціальних програм для комп’ютерів або смартфонів. Ці програми використовують різноманітні алгоритми для заміни фрагментів оригінального контенту на інші, досягаючи вражаючої схожості.
Мета таких дій різна: від обману до розваги.
Ще нещодавно створення таких переконливих відео було справою складною. Тепер же, маючи потужну відеокарту та декілька днів у запасі, кожен може спробувати себе у цій сфері.
Додатково, для досягнення максимальної переконливості клонують голос, міміку та інші елементи.
З кожним днем, завдяки вдосконаленню алгоритмів та доступності потужних обчислювальних засобів, створення дипфейків стає все простішим і доступнішим.
Тому важливо бути пильними, щоб відрізняти їх від правдивого контенту, особливо враховуючи потенційні небезпеки, пов’язані з їх зловживанням.
Як виявити Deepfake?
Не існує універсального методу для розпізнавання всіх дипфейків, оскільки вони відрізняються за якістю виконання. Деякі з них містять явні ознаки машинного походження, інші ж вимагають уважного аналізу та навіть використання спеціальних інструментів на основі ШІ.
Колір шкіри
Перше, на що варто звернути увагу, це колір шкіри. Змінена частина (найчастіше обличчя) може мати відмінності у відтінку, що створить дисонанс з іншими видимими ділянками тіла.
Зображення зліва – це фейкове відео, де президент України Володимир Зеленський нібито закликає свої війська та народ здатися Росії.
Цю неякісну підробку одразу ж викрили як дипфейк.
Міміка
Міміка – це показовий елемент, особливо у дипфейків, створених аматорами. Їхні низькоякісні творіння часто характеризуються неприродними рухами губ без притаманних людям пауз.
Деякі сучасні алгоритми враховують паузи в диханні, але навіть у цьому випадку ви можете помітити повторювані зупинки, рухи голови та інші шаблонні дії, які виглядають занадто механічно.
Моргання також є ключовим індикатором. Воно часто відбувається циклічно (відповідно до запрограмованого коду), що виглядає неприродно, особливо якщо порівнювати з реальним відео тієї ж людини.
Рух очного яблука також може видати дипфейк. ШІ, якому бракує емоцій, може здаватися більш зосередженим, ніж звичайна людина під час розмови.
В цілому, дипфейки легше помітити, якщо вони не є досконалими.
Деталі
Як переконатися, що це не справжній Морган Фрімен?
Перевагою представленого відео є висока якість. Ви можете переключитись на найвищу роздільну здатність (наприклад, 4K), щоб ретельно вивчити зображення та виявити сліди комп’ютерної обробки.
Чим більший екран, тим краще. Можна зробити скриншот і збільшити його, щоб помітити можливі недоліки.
Чи бачите ви “намальовану” шкіру? Ось де алгоритми можуть давати збій, навіть у дрібницях.
Шкіра виглядає нерівною, а волосся на обличчі та голові – неприродним і ніби склеєним.
Ось ще один приклад для аналізу:
Тут легко розгледіти штучну шкіру, особливо навколо вусів, бороди та лінії росту волосся.
Підборіддя, брови, овал обличчя, ніс – порівняйте їх зі справжніми (праворуч), і все стане очевидним.
Знову ж таки, наявність оригінального відео полегшує виявлення підробки.
Дрібні деталі
Під час розмови відбувається багато різноманітних рухів. У кожної людини є свій індивідуальний стиль, внаслідок чого губи, язик, підборіддя, щоки рухаються за певним унікальним шаблоном.
Крім того, дипфейк-технології поки не досягли досконалості у відтворенні рухів всередині рота під час розмови. Наприклад, на дипфейку Обами ви не зможете розгледіти окремі нижні зуби.
Все, що ми бачимо – це біла смужка внизу, без жодних ознак руху язика.
Якщо переглянути будь-яке реальне відео Обами, ви побачите, що його міміка набагато виразніша та різноманітніша, ніж у цьому штучному відтворенні.
Крім того, якість самого відео досить низька, його стиснули, щоб приховати недоліки, або через обмеження технічних можливостей.
Переходи
Одним із обмежень дипфейків є їх покадрова генерація. Кожен кадр потрібно ретельно опрацьовувати, щоб досягти ідеальної імітації.
Тому більшість переконливих дипфейків мають обмежену міміку та показують обличчя переважно у фронтальній перспективі, оскільки переходи з боку наперед можуть виявити недосконалість.
Погляньте на цей кадр з дипфейку Тома Круза:
Якщо уповільнити відео та уважно поспостерігати протягом 35-40 секунд, переходи з боку на фронтальну перспективу виглядатимуть розмитими.
Саме ці елементи найскладніше імітувати, і вони можуть допомогти у виявленні дипфейків.
Отже, ось декілька порад, які допоможуть розпізнати дипфейки та обмежити поширення дезінформації. Підсумуємо:
1. Перевіряйте, чи немає розбіжностей у кольорі шкіри. 2. Звертайте увагу на неприродну синхронізацію губ, роботизовані рухи, відсутність моргання і т.д. 3. Збільште зображення, щоб оцінити текстуру шкіри, волосся тощо. 4. Порівняйте міміку та манеру мовлення з оригінальним відео. 5. Перевіряйте, чи є в наявності версії високої якості. 6. Швидко пошукайте інформацію про відео у Google, щоб перевірити, чи це не підробка. 7. Зверніть увагу на загальні пропорції обличчя та зіставте їх з оригіналом. 8. Уповільніть відео, щоб помітити погані переходи. 9. Чи виглядає внутрішня частина рота реалістично та деталізовано? 10. Поділіться відео з друзями та родиною, щоб отримати додаткову думку. Deepfake 101: Виявлення
Дипфейки не ідеальні!
Хоча ми зосередилися на відео-підробках, аудіо, згенероване ШІ, матиме схожі недоліки. І хоча технології постійно вдосконалюються, вони завжди трохи відставатимуть від живої реальності.
Проте, навчання не буде повним без практичного досвіду. Саме тому ми підготували цю інструкцію про те, що таке дипфейки та як їх створюють.