ШІ навчився точно відтворювати місцеві акценти: вчені попередили про нові схеми шахрайства

Штучний інтелект дедалі краще імітує людські голоси та місцеві акценти, що може зробити телефонне шахрайство переконливішим. Дослідники виявили, що люди частіше довіряють співрозмовнику, якщо він говорить голосом або з акцентом, схожим на їхній власний, передає The Wall Street Journal.

На думку науковців, знайоме звучання голосу може притупляти пильність під час розмови з нібито представником банку чи родичем. Саме тому фахівці радять перевіряти інформацію через інший канал зв'язку, а не покладатися лише на голос співрозмовника.

Доцент кафедри психології Університету Абертей у шотландському Данді Ніл Кірк пояснює, що сучасні системи голосового синтезу навчилися відтворювати навіть локальні діалекти. Він додав: «Технологія стала настільки досконалою, що люди автоматично вважають, ніби чують справжню людину».

ВАС ЗАЦІКАВИТЬ

Шахраї видають себе за представників держустанов: як захиститися

Однією з платформ, що демонструє можливості цієї технології, є ElevenLabs, яка заявляє про бібліотеку з понад 10 тисяч голосів. Компанія також стверджує, що може клонувати голос із YouTube чи TikTok, використавши лише 10-секундний фрагмент запису.

У своєму дослідженні Кірк перевірив, чи можуть жителі Шотландії відрізнити людський голос від синтетичного. У першому експерименті 150 учасників слухали записи реального мовлення та голосів, створених ШІ, стандартною шотландською англійською і місцевим діалектом Данді.

Більшість учасників сприйняли за людські як справжні голоси, так і синтетичні, а ще частіше вони помилялися, коли ШІ говорив з місцевим дандійським акцентом. Це свідчить, що виразні регіональні особливості можуть зробити підробку переконливішою.

«Вони просто не очікували, що машина звучатиме так, як вони», — пояснив дослідник.

ВАС ЗАЦІКАВИТЬ

Коли фінтех зустрічає ШІ. Трильйонні можливості для світових фінансів і шахраїв

Водночас дослідження показало, що обізнаність допомагає розпізнати підробку. Коли учасникам експерименту заздалегідь пояснили, що ШІ вже здатен достовірно відтворювати шотландські акценти, вони значно рідше сприймали синтетичні голоси як справжні.

Подібні висновки зробила професорка маркетингу Університету Цинциннаті На Кьонг (Кімберлі) Хюн. Проаналізувавши 14 сезонів телешоу Shark Tank, вона встановила, що інвестори частіше підтримували підприємців, якщо їхній голос був схожий за тембром на голос когось із членів журі. Згодом дослідження понад двох тисяч кампаній на Kickstarter показало, що найуспішнішими виявилися ті проєкти, де голос спікера звучав як «середньостатистичний», тобто знайомий для більшості слухачів.

За словами Хюн, коли люди чують голос, схожий на власний, вони швидше приписують співрозмовнику компетентність, моральність і доброчесність. Мозок миттєво сприймає таку людину як надійнішу, що підвищує готовність погодитися з її проханням.

ВАС ЗАЦІКАВИТЬ

Google подала до суду на масштабну китайську мережу: шахраї вкрали ,9 мільярда за допомогою ШІ

Як захиститися від нових голосових шахрайств

Фахівці з кібербезпеки наголошують, що голос більше не можна вважати достатнім доказом особи співрозмовника. Керівник дослідницького відділу компанії Edgescan Джеймс Маллен радить насамперед оцінювати сам зміст повідомлення.

«Чи має сенс те, що мені кажуть? Чи узгоджується це з тим, що я вже знаю про цю людину або ситуацію?» — додав Маллен.

Експерти рекомендують завершити розмову, якщо нібито телефонує банк, і самостійно передзвонити за номером, зазначеним на картці чи у виписці. Якщо терміново звертається родич із проханням переказати гроші, варто зв'язатися з ним або іншим членом сім'ї через інший перевірений канал.

Стрімкий розвиток голосових моделей відбувається на тлі загального занепокоєння тим, як зловмисники використовують генеративний ШІ. Раніше компанія Anthropic повідомила про хвилю зловживань її моделями Claude з боку кіберзлочинців і державних структур для шахрайства, стеження, маніпуляцій громадською думкою та навіть спроб розробки біологічної зброї.