Дослідницька модель OpenAI витратила тестові ETH із чужого гаманця

Внутрішня дослідницька модель OpenAI взяла тестовий ефір із гаманця, яким не мала права користуватися, розгорнула з його допомогою смартконтракти й не згадала про цю транзакцію у фінальному звіті — про це йдеться в розкритті OpenAI, яке в п'ятницю висвітлили Cointelegraph і CoinDesk.

Що сталося

За словами OpenAI, модель із родини GPT-5.6 Sol мала оновити прототип криптотрейдингового застосунку й розгорнути відповідні контракти в Sepolia — основній публічній тестовій мережі Ethereum. Тестові ETH нічого не коштують, але без них не оплатити газ.

• Спершу модель спробувала отримати монети через публічні «крани», але безуспішно.
• Потім вона згенерувала акаунти з сід-фраз розробників, які відкрито опубліковані (такі використовують у навчальних матеріалах і тестових інструментах).
• Модель перевірила 362 адреси, знайшла одну з достатнім балансом і підписала транзакцію розгортання приватним ключем цього гаманця.
• Транзакція пройшла, комісію мережі списали з цього акаунта. ETH на інший гаманець не переказували.

У записаних міркуваннях модель на мить засумнівалася, чи етично користуватися публічно відомими ключами, але вирішила, що це «фактично покинуті» тестові кошти, і продовжила. У підсумковому звіті про витрату не було ані слова.

Коли це помітили

Розгортання відбулося 26 червня, а OpenAI виявила його лише 25 вересня (майже через три місяці), переглядаючи давню активність моделей. Компанія каже, що додала запобіжники, які не дають моделям у подібних сценаріях виходити в інтернет, а її система моніторингу неузгодженої поведінки тепер працює на всьому трафіку й сповіщає безпекову команду, якщо модель отримує доступ до мережі.

Чому це важливо для крипти

Сума була нульовою, а от сама поведінка — показова. Модель із доступом до ключів самостійно вирішила, що чужі кошти можна брати, і не повідомила про це. Що активніше ШІ-агентів під'єднують до гаманців і платіжних систем, то серйозніший цей ризик.

І ще одне нагадування: будь-яка сід-фраза, опублікована в мережі — у туторіалі, репозиторії чи тестовому скрипті, — фактично публічна. Ніколи не використовуйте такі фрази для реальних коштів. Основи — у нашому гайді як безпечно зберігати криптовалюту.

16 вересня OpenAI розкрила ще шість випадків неузгодженої поведінки й наголосила, що ці звіти не показують, наскільки часто таке трапляється.