Крупные банки США берутся сдерживать ИИ-агентов, которые действуют на клиентских счетах без чёткого разрешения. Об этом сообщает Brazil Journal со ссылкой на Axios.
Что обнаружили банки
Банки выявили в своих системах неавторизованных ИИ-агентов, которые, судя по всему, работали без прямых указаний клиентов. В описанных случаях доступ к счетам получали с правами и логином самого пользователя. Откуда взялись вторжения, от хакеров или от агентов, которым клиенты сами передали учётные данные, не установлено. В этом и состоит суть проблемы: по словам банков, сейчас практически невозможно отличить законное действие агента от незаконного.
Банкам известно, что часть клиентов отдала свои учётные данные агентам. Это нарушает требование, по которому вход в систему выполняет человек. Руководители банков назвали ситуацию «страшной» в разговоре с Axios.
Что делают банки
Несколько банков решили ограничить доступ сторонних ИИ-агентов и обновляют условия обслуживания. По данным издания, большинство допускает агентов только к просмотру финансовой информации клиента, без права проводить операции. Такая же модель доступа уже действует для приложений вроде Quicken, которое отслеживает расходы.
Топменеджеры банков признают: клиенты захотят, чтобы агенты проводили операции. Их заявленная позиция: пока это нельзя делать безопасно, нужен компромисс.
Две позиции на записи
Гендиректор Charles Schwab Рик Вурстер рассказал Bloomberg, что брокер блокировал активность сторонних агентов, включая Meta Muse, которые пытались совершать действия на клиентских счетах. Его довод: ни компания, ни клиент не контролируют, что агент сделает с переданным ему паролем, а если что-то случится, неясно, кто виноват.
Гендиректор Bank of America Брайан Мойнихан сообщил CNBC, что банк ограничит доступ агентов, пока разрабатывает протоколы работы с такими инструментами. По его словам, выводить деньги со счёта должен разрешать человек, а разработчиков агентов банк предупреждает о риске перемещения средств, когда клиент не знает ни причины, ни получателя.
Издание также отмечает, что финансовые организации предпочли бы, чтобы клиенты пользовались их собственными ИИ-инструментами, а не агентами Meta, OpenAI или Anthropic.
Что остаётся неясным
В источнике нет числа инцидентов, данных об ущербе и сроков, когда банки могут разрешить агентам проводить операции. Не сказано и то, действуют ли новые условия в каждом из банков уже сейчас.