Ключові висновки
- Шахрайство з клонуванням голосу використовує штучний інтелект для автентичного відтворення голосів, націлюючись на емоції та терміновість.
- Шахраї використовують дані соціальних мереж, щоб створювати правдоподібні сценарії та використовувати особисті зв’язки.
- Будьте обережні та вивчіть червоні прапорці шахрайства з голосовими клонами ШІ; покласти трубку на дзвінки та перевірити повідомлення про лихо.
Вже пізня ніч. Ваші батьки отримують від вас голосове повідомлення, сповнене паніки, про те, що ви потрапили в біду, твій гаманець вкрали, і ти застряг у нікуди. Вам потрібно негайно перерахувати гроші, щоб ви могли повернутися додому.
Голос у повідомленні звучить настільки справжнім і безсумнівно є голосом їхньої дитини, але це не так. Це голосовий клон штучного інтелекту, і вони стали мішенню шахрайства, яке настільки ж передове, як і жахливо ефективно.
Як працює афера з клонуванням голосу штучного інтелекту?
Клонування голосу може створити неймовірно реалістичні цифрові копії голосу людини. Цю техніку зазвичай називають аудіо deepfake, створено за допомогою інструментів клонування голосу AI, таких як ElevenLabs (перегляньте приклад клонування голосу AI нижче). У поєднанні з генеративним ШІ та синтезом голосу клонований голос може відтворювати емоції, нюанси, інтонацію та навіть страх.
І для довідки, ось як насправді звучить Крістіан Коулі, розмовляючи в The Really Useful Podcast.
Щоб створити голосовий клон ШІ, потрібен лише невеликий зразок голосу — часто лише хвилина або менше. Зразки голосів часто беруть із загальнодоступних публікацій у соціальних мережах, що робить відеоблогерів і впливових людей особливо вразливими, оскільки якість звуку їхніх публікацій є високоякісною та легкодоступною.
Після того, як шахраї клонують зразок голосу, вони використовують синтез мовлення з тексту або навіть мовлення в режимі реального часу для створення підроблених дзвінків і голосових повідомлень.
Отримавши доступ до соціальних мереж жертви та зібравши її особисті дані, шахрай створює правдоподібний сценарій. Це може бути госпіталізація, арешт, крадіжка, викрадення — все, що викликає страх. Потім клонований голос використовується для маніпулювання членом сім’ї, щоб переконати його кохану людину в серйозних бідах.
Реалістичність голосу та емоцій у поєднанні з шоком і терміновістю запиту можуть переважити скептицизм, що призведе до поспішних рішень щодо переказу грошей або надання конфіденційної інформації.
Чому шахрайство з клонуванням голосу ШІ настільки ефективне
Як і більшість шахрайств, націлених на родину та друзів, шахрайство з клонуванням голосу зі штучним інтелектом є ефективним, оскільки використовує особисті зв’язки. Паніка від отримання сигналу лиха від близької людини може швидко затьмарити судження, що призведе до необдуманих рішень. Це та сама тактика, яка використовується під час шахрайства quid pro, але ефект посилюється, коли ви чуєте голос близької вам людини.
Члени сімей тих, хто активно присутні в соціальних мережах, або тих, хто подорожує, знаходяться в зоні особливого ризику, оскільки їхні ситуації створюють правдоподібний контекст для сфабрикованих оповідей шахраїв. Шахраї часто завчасно збирають і використовують особисті дані своїх цілей з їхніх загальнодоступних облікових записів у соціальних мережах, що робить історії ще переконливішими.
Ключові ознаки шахрайства з голосовим клоном AI
Незважаючи на свою складність, шахрайство з голосовими клонами штучного інтелекту може виявитися через певні червоні прапорці:
- Терміновість: шахрай переконає вас, що станеться щось жахливе, якщо негайно не вжити заходів.
- Факти: шахраї не завжди знають всю історію ваших стосунків із жертвою, тому звертайте увагу на невідповідності.
- Незвичайні запити: запити на грошові перекази на закордонні банківські рахунки або платежі на криптовалютний гаманець є поширеною тактикою.
Зважати на ці фактори, коли ви бачите жахливий сценарій, важко, але це може вберегти вас від шахраїв.
Що робити, якщо ви підозрюєте шахрайство з голосовим клоном AI
Якщо ви отримали дзвінок або голосове повідомлення від близьких, які потрапили в біду, зберігайте спокій. Шахраї покладаються на те, що ви будете панікувати та ставати емоційними, оскільки це підвищує вашу вразливість до їхньої тактики.
Якщо ви отримали телефонний дзвінок
Якщо ви хоча б на секунду підозрюєте, що дзвінок може бути шахрайством із клонуванням голосу, негайно покладіть трубку. Не діліться інформацією та не спілкуйтеся з шахраями. Замість цього зателефонуйте коханій людині за відомим номером, щоб підтвердити справжність виклику.
Подальша розмова з шахраями може призвести до того, що ваш голос також буде записаний і клонований.
Якщо ви отримали голосове повідомлення
Якщо шахраї залишили голосове повідомлення, негайно збережіть аудіо на телефоні чи ноутбуці. Цей зразок аудіо можна використовувати в інструменті класифікатора мовлення штучного інтелекту, щоб визначити, чи це людський голос. Ці класифікатори мови AI працюють так само, як детектори письма AI. Просто введіть аудіофайл, і класифікатор позначить його як створений людиною або штучним інтелектом.
Чудовим інструментом для виконання цієї перевірки є класифікатор мовлення ElevenLabs. ElevenLabs підтримує більшість платформ штучного інтелекту для клонування, тому це ідеальний інструмент для визначення того, чи голос клоновано. Ось як ви можете використовувати його для визначення голосу, клонованого ШІ:
У наведеному нижче прикладі тривожне повідомлення було записане людиною та завантажене в класифікатор. Ви бачите, що ймовірність маніпулювання ним становить 2%.
У наступному прикладі те саме тривожне повідомлення було створено за допомогою інструменту клонування голосу ШІ. Для людського вуха голоси нерозрізнені. Інструмент, однак, зазначив, що ймовірність 98% створена ШІ.
Хоча ви не можете покладатися на цей класифікатор на 100%, він може підтвердити ваші підозри щодо використання клонованого голосу. Ви також повинні зв’язатися з коханою людиною за відомим номером для підтвердження.
Профілактика — найкращий захист від шахрайства з клонуванням голосу ШІ
Іноді найкращим захистом від високотехнологічного шахрайства є низькотехнологічне рішення.
Встановіть пароль офлайн, відомий лише близьким людям із вашою родиною та друзями. У разі шаленого виклику використання цього пароля може бути надійним способом підтвердити особу абонента.
Нарешті, приховування вашої особистої інформації в соціальних мережах є величезним кроком до того, щоб шахраї не змогли зібрати достатньо інформації для створення розповіді. Пам’ятайте: якщо ви не хочете, щоб про це дізналися всі, краще не ділитися цим у соціальних мережах.