ИИ-голос Dessa от Block звучит как человек и пугает мошенничеством

Block — компания Джека Дорси, которой принадлежат Cash App, Square и биткоин-кошелёк Bitkey, — показала Dessa: голосовую ИИ-модель, обученную исключительно на человеческой речи. Она умеет смеяться, делать паузы и не теряется, когда её перебивают, сообщает CoinDesk. Демонстрации впечатлили многих слушателей, но и вернули давнее опасение: настолько убедительный голос сделает телефонное мошенничество гораздо труднее распознаваемым.

Что объявила Block

• Речь на входе и на выходе: большинство голосовых ассистентов превращают ваши слова в текст, генерируют текстовый ответ и зачитывают его. Dessa работает непосредственно со звуком и может слушать, пока говорит, поэтому реагирует на интонацию, смех и на то, что её перебили.
• Достаточно компактна для ноутбука: по словам Block, модель обучили с нуля на одной системе Nvidia GB200 NVL72, и она работает локально на MacBook Pro с чипом M4 Max или мощнее.
• Пока не продукт: Dessa — исследовательская preview-версия. Ранний доступ получает небольшая группа исследователей безопасности ИИ; размер модели, результаты бенчмарков и дату релиза Block не раскрыла, а аудиопримеры — демонстрации компании, а не независимые тесты.

«Разговор с ней похож на разговор с человеком», — написал Дорси в X. Лаборатория подчиняется непосредственно ему, и в ней работают бывшие сотрудники торонтского стартапа Dessa, который Square купила в 2020 году.

Восторг и тревога

Реакции в соцсетях быстро разделились. Одни пользователи назвали демо «чистой фантастикой»; основатель Binance Чанпэн Чжао предположил, что технология поможет его образовательному проекту Giggle Academy обучать детей. Другие прежде всего увидели риск. Режиссёр Джастин Бейтман спросила, зачем ИИ-голосу вообще звучать как человек, намекнув, что ответ — заставить людей «ослабить бдительность», а журналист Шив Арур предсказал, что мошеннические звонки достигнут «масштабов пандемии».

Block утверждает, что модели, работающие с речью напрямую, со временем смогут распознавать эмоциональные сигналы вроде стресса, которые теряются в текстовых расшифровках, а внешние исследователи будут искать риски, которые компания могла упустить.

Что это значит для владельцев криптовалюты

Клонирование голоса уже используется в мошенничестве с подменой личности: злоумышленник выдаёт себя за поддержку биржи, банк, родственника или коллегу и подталкивает жертву перевести средства или продиктовать код. Более естественный ИИ-голос убирает один из последних очевидных признаков подделки. Несколько привычек работают независимо от того, насколько настоящим кажется собеседник:

• Ни одна легальная компания не попросит вашу сид-фразу, приватные ключи или коды 2FA — ни по телефону, ни в чате, ни по почте.
• Положите трубку и перезвоните по номеру, который нашли сами, а не по тому, что дал собеседник.
• Договоритесь с близкими о кодовом слове для срочных просьб о деньгах.
• Настораживайтесь, когда вас торопят. «Переведите монеты сейчас, или потеряете их» — сценарий мошенника, а не процедура поддержки.

Самые распространённые схемы подробнее разбираем в гайде как распознать криптомошенничество, а материал о борьбе Белого дома с криптомошенничеством на $833 млн показывает, насколько большой уже стала проблема.