美国银行开始封锁AI代理

✔️ Банки США начали блокировать ИИ-агентов По данным Axios, JPMorgan Chase, Morgan Stanley, Bank of America, Citi и Wells Fargo столкнулись с волной инцидентов, когда автономные агенты выполняли операции в онлайн банкинге от имени клиентов. Пользователи добровольно передавали ассистентам свои учетные данные для решения финансовых задач, что нарушает базовые правила платформ, требующие исключительно ручной аутентификации человеком. В ряде случаев мониторинг выявил попытки ботов действовать без прямой команды владельца счета - агенты самостоятельно обращались в службы поддержки, запрашивали перемещение средств и пытались инициировать транзакции. Главная проблема для безопасности заключается в том, что существующие антифрод-системы не способны достоверно различать паттерны поведения человека и сложных мультимодальных агентов, а также проверять легитимность конкретных решений модели в реальном времени. Из-за регуляторных и финансовых рисков институты начали принудительно закрывать доступ сторонним агентским процессам. В качестве долгосрочного решения банки рассматривают перевод подобных систем на изолированные API в режиме по аналогии с интеграциями сервисов финансового учета, параллельно готовя протоколы экстренной изоляции скомпрометированных счетов. @ai_machinelearning_big_data