Основні моменти
- Шахрайство з використанням клонованого голосу на основі штучного інтелекту (ШІ) використовує технологію для імітації голосів, створюючи емоційний тиск.
- Зловмисники аналізують відкриті дані в соціальних мережах, щоб створювати переконливі сценарії та маніпулювати родинними зв’язками.
- Будьте пильні щодо ознак шахрайства з голосовим клонуванням, переривайте підозрілі дзвінки та перевіряйте інформацію про надзвичайні ситуації.
Уявіть ситуацію, коли пізно вночі вашим батькам надходить голосове повідомлення від вас. У ньому чути паніку, ви повідомляєте, що потрапили в халепу, у вас вкрали гаманець, і ви застрягли в невідомому місці. Вам терміново потрібні кошти, щоб дістатися додому.
Голос у повідомленні звучить настільки переконливо, що не залишає сумнівів, що це голос їхньої дитини. Однак насправді це штучно створений клон голосу, і ваші батьки стали жертвою шахрайства, яке є не лише передовим, а й дуже ефективним.
Принцип дії шахрайства з використанням ШІ-клонування голосу
Клонування голосу за допомогою ШІ дозволяє створити надзвичайно реалістичну цифрову копію голосу людини. Цю технологію, яку часто називають аудіо deepfake, розробляють за допомогою інструментів на базі ШІ, таких як ElevenLabs (приклад клонування голосу ШІ дивіться нижче). У поєднанні з генеративним ШІ та технологією синтезу мовлення, клонований голос здатен відтворювати емоції, інтонації та навіть відчуття страху.
Для прикладу, ось як звучить Крістіан Коулі, виступаючи на The Really Useful Podcast.
Для створення ШІ-клону голосу достатньо невеликого зразка – іноді навіть хвилини чи менше. Зразки голосу часто беруть із загальнодоступних матеріалів у соціальних мережах, тому відеоблогери та інфлюенсери є особливо вразливими. Це пов’язано з тим, що аудіо їхніх публікацій високої якості та є легкодоступним.
Після клонування зразка голосу, зловмисники застосовують синтез мовлення на основі тексту або навіть мовлення в реальному часі для створення фальшивих дзвінків та голосових повідомлень.
Отримавши доступ до соціальних мереж жертви та зібравши її персональні дані, шахрай створює правдоподібний сценарій. Це може бути госпіталізація, арешт, викрадення або крадіжка – усе, що здатне викликати страх. Потім, використовуючи клонований голос, шахрай маніпулює родичами, переконуючи їх, що близька їм людина потрапила в серйозну біду.
Реалістичність голосу, вираження емоцій, а також шок і терміновість прохання можуть переважити скептицизм, що призводить до поспішних рішень щодо переказу грошей або надання особистої інформації.
Чому ШІ-шахрайство з клонуванням голосу є настільки ефективним
Як і більшість шахрайств, націлених на близьких людей, шахрайство з використанням ШІ-клонування голосу ефективне через експлуатацію родинних зв’язків. Паніка, викликана тривожним сигналом від близької людини, може швидко затьмарити розсудливість, призводячи до необдуманих дій. Це схоже на тактику, що використовується у шахрайстві quid pro quo, але ефект підсилюється, коли ви чуєте голос рідної людини.
Особливо вразливі члени сімей тих, хто активно використовує соціальні мережі або часто подорожує, оскільки їхні життєві ситуації створюють правдоподібний контекст для фальшивих історій, вигаданих шахраями. Зловмисники часто збирають та використовують персональні дані своїх жертв з їхніх публічних профілів у соціальних мережах, роблячи оповіді ще більш переконливими.
Основні ознаки шахрайства з клонованим голосом на базі ШІ
Незважаючи на складність, шахрайство з використанням ШІ-клонування голосу можна розпізнати за певними ознаками:
- Терміновість: зловмисник буде стверджувати, що якщо негайно не вжити заходів, то станеться щось жахливе.
- Невідповідності: шахраї можуть не знати усіх деталей ваших стосунків з жертвою, тому звертайте увагу на розбіжності.
- Незвичайні запити: прохання перевести гроші на закордонний банківський рахунок або на гаманець криптовалюти є поширеною тактикою.
У ситуації сильного стресу важко зосередитися на цих деталях, але це може допомогти вберегти вас від шахраїв.
Що робити, якщо ви підозрюєте шахрайство з клонуванням голосу на базі ШІ
Якщо ви отримали дзвінок або голосове повідомлення від близької людини, яка потрапила в біду, намагайтеся зберігати спокій. Шахраї розраховують на вашу паніку та емоційність, оскільки це робить вас більш вразливими до їхньої тактики.
Якщо ви отримали телефонний дзвінок
Якщо хоча б на мить ви запідозрили, що дзвінок може бути шахрайством з використанням клонування голосу, негайно перервіть розмову. Не надавайте жодної інформації та не взаємодійте зі зловмисниками. Замість цього, зателефонуйте близькій людині за відомим номером, щоб підтвердити справжність дзвінка.
Продовження розмови з шахраями може призвести до того, що ваш голос також буде записаний та клонований.
Якщо ви отримали голосове повідомлення
Якщо шахраї залишили голосове повідомлення, негайно збережіть аудіофайл на своєму телефоні або комп’ютері. Цей аудіоматеріал можна використати в інструменті класифікації мовлення на базі ШІ, щоб визначити, чи є цей голос людським. Ці класифікатори працюють за принципом детекторів тексту на базі ШІ. Просто завантажте аудіофайл, і класифікатор визначить, чи створений він людиною, чи штучним інтелектом.
Чудовим інструментом для цього є класифікатор мови ElevenLabs. ElevenLabs підтримує більшість платформ клонування на базі ШІ, що робить його ідеальним інструментом для визначення того, чи є голос клонованим. Ось як його можна використовувати для виявлення голосу, створеного ШІ:
У прикладі нижче повідомлення, записане людиною, було завантажено до класифікатора. Ви бачите, що вірогідність того, що ним маніпулювали, становить 2%.
У наступному прикладі таке ж повідомлення було згенеровано за допомогою інструмента ШІ-клонування голосу. На слух голоси практично ідентичні. Однак інструмент визначив, що вірогідність того, що він згенерований ШІ, становить 98%.
Хоча на цей класифікатор не можна покладатися на 100%, він допоможе підтвердити ваші підозри щодо використання клонованого голосу. Також, для підтвердження, слід зв’язатися з близькою людиною за відомим номером.
Профілактика – найкращий захист від шахрайства з ШІ-клонуванням голосу
Іноді найкращим захистом від високотехнологічного шахрайства є низькотехнологічне рішення.
Заздалегідь встановіть кодове слово, відоме лише близьким членам родини та друзям. У разі термінового дзвінка використання цього кодового слова може бути надійним способом підтвердити особу абонента.
Нарешті, зменшення кількості особистої інформації у соціальних мережах — важливий крок для того, щоб зловмисники не змогли зібрати достатньо даних для створення переконливої історії. Пам’ятайте: якщо ви не хочете, щоб про щось дізналися всі, краще не ділитися цим у соціальних мережах.