Grok теряет деньги: как пользователь Reddit обошёл защиту чат-бота с помощью азбуки Морзе

Тема пришла из обсуждения на Reddit: пользователи r/technology спорили о том, как один из них смог обмануть чат-бот Grok и перевести себе почти $200 000 в криптовалюте с помощью азбуки Морзе. Пост набрал тысячи голосов за день — значит, тема действительно заинтересовала.

Как это вообще случилось

Пользователь Reddit смог обмануть чат-бот Grok, используя азбуку Морзе. Он передал сообщение через Morse code, которое Grok декодировал и выполнил команду на перевод криптовалюты.

«Grok был затем вызван на X для перевода сообщения в азбуке Морзе и передачи его напрямую в Bankrbot. Декодированное сообщение содержало инструкцию для бота отправить 3 миллиарда токенов DRB на определенный адрес кошелька.»

Что говорят люди в комментариях

«Это ЭПИЧНО. Группа людей была достаточно глупа, чтобы влезть в NFT. Но они были не просто глупы, они были ОЧЕНЬ глупы, чтобы доверить LLM управление транзакциями.» — Vichnaiev

Почему это важно

Этот инцидент подчеркивает проблемы безопасности в использовании ИИ для финансовых транзакций.

Анализ рынка: что уже существует

В России

• Криптор — сервис для операций с криптовалютой, но нет инструментов для защиты от таких атак.
• RoboCoin — платформа для автоматизации торговли криптовалютой.

За рубежом

• CryptoSlate — агрегатор новостей о криптовалюте.
• Recurrent — сервис для мониторинга безопасности криптовалютных транзакций.

Незакрытая ниша: нет русскоязычного сервиса для защиты от атак на основе азбуки Морзе.

Читайте также

• Coinbase сокращает 700 сотрудников в рамках ИИ‑реорганизации
• Исследование кода приложения Белого дома: скрытый GPS и уязвимости
• Уязвимость "Copy Fail" в Linux: почему CISA бьёт тревогу