ШІ-голос Dessa від Block звучить як людина й лякає шахрайством

Block — компанія Джека Дорсі, якій належать Cash App, Square і біткоїн-гаманець Bitkey, — показала Dessa: голосову ШІ-модель, навчену виключно на людському мовленні. Вона вміє сміятися, робити паузи й не губиться, коли її перебивають, повідомляє CoinDesk. Демонстрації вразили багатьох слухачів, але й повернули давнє побоювання: настільки переконливий голос зробить телефонне шахрайство значно важчим для розпізнавання.

Що оголосила Block

• Мовлення на вході й на виході: більшість голосових асистентів перетворюють ваші слова на текст, генерують текстову відповідь і зачитують її. Dessa працює безпосередньо зі звуком і може слухати, поки говорить, тож реагує на інтонацію, сміх і на те, що її перебили.
• Достатньо компактна для ноутбука: за словами Block, модель навчили з нуля на одній системі Nvidia GB200 NVL72, і вона працює локально на MacBook Pro з чипом M4 Max або потужнішим.
• Поки не продукт: Dessa — дослідницька preview-версія. Ранній доступ отримує невелика група дослідників безпеки ШІ; розмір моделі, результати бенчмарків і дату релізу Block не розкрила, а аудіоприклади — це демонстрації компанії, а не незалежні тести.

«Розмова з нею схожа на розмову з людиною», — написав Дорсі в X. Лабораторія підпорядковується безпосередньо йому, і в ній працюють колишні співробітники торонтського стартапу Dessa, який Square купила 2020 року.

Захват і тривога

Реакції в соцмережах швидко розділилися. Одні користувачі назвали демо «чистою фантастикою»; засновник Binance Чанпен Чжао припустив, що технологія допоможе його освітньому проєкту Giggle Academy навчати дітей. Інші насамперед побачили ризик. Режисерка Джастін Бейтман запитала, навіщо ШІ-голосу взагалі звучати як людина, натякнувши, що відповідь — змусити людей «послабити пильність», а журналіст Шив Арур передбачив, що шахрайські дзвінки досягнуть «масштабів пандемії».

Block стверджує, що моделі, які працюють із мовленням напряму, згодом зможуть розпізнавати емоційні сигнали, як-от стрес, що губляться в текстових розшифровках, і що зовнішні дослідники шукатимуть ризики, які компанія могла пропустити.

Що це означає для власників крипти

Клонування голосу вже використовують у шахрайстві з підміною особи: зловмисник видає себе за підтримку біржі, банк, родича чи колегу й підштовхує жертву переказати кошти або продиктувати код. Природніший ШІ-голос прибирає одну з останніх очевидних ознак підробки. Кілька звичок працюють незалежно від того, наскільки справжнім здається співрозмовник:

• Жодна легальна компанія не попросить вашу сід-фразу, приватні ключі чи коди 2FA — ні телефоном, ні в чаті, ні поштою.
• Покладіть слухавку й передзвоніть за номером, який знайшли самі, а не за тим, що дав співрозмовник.
• Домовтеся з рідними про кодове слово для термінових прохань про гроші.
• Насторожуйтеся, коли вас квапить. «Переведіть монети зараз, або втратите їх» — це сценарій шахрая, а не процедура підтримки.

Найпоширеніші схеми детальніше розбираємо в гайді як розпізнати криптошахрайство, а матеріал про боротьбу Білого дому з криптошахрайством на $833 млн показує, наскільки великою вже є проблема.