RBC закрыл сторонним ИИ-агентам прямой доступ к онлайн-банкингу и другим цифровым сервисам
Royal Bank of Canada блокирует сторонним персональным ИИ-агентам прямой доступ к цифровым сервисам банка, включая онлайн-банкинг. RBC присоединился к растущему числу банков, ограничивающих доступ агентов к данным клиентов.
Клиенты могут разрешить ИИ-агентам, например Muse от Meta Platforms Inc., доступ к своим счетам, истории операций и данным кредитных карт, чтобы те анализировали траты и давали рекомендации.
По словам банка, решению предшествовала проверка безопасности технологии ИИ-агентов и их функциональности. Об этом говорится во внутреннем меморандуме, поступившем во вторник вечером, который видела газета The Globe and Mail. Работу по блокировке банк начнёт немедленно.
«Мы ценим преимущества ИИ, который экономит время, но ничто не важнее безопасности информации клиентов», - написали в меморандуме руководитель технологий и операций RBC Наим Казми и руководитель персонального банкинга Эрика Нильсен. Они добавили: «Мы признаём потенциал агентного ИИ в помощи клиентам, но знаем, что сторонние персональные ИИ-агенты, получающие доступ к банковским системам, могут создавать неприемлемый риск для клиентов, в том числе действовать вопреки ожиданиям клиента или создавать риск ответственности».
Какие именно инструменты относятся к «сторонним персональным» ИИ-агентам, в меморандуме не уточняется.
Представитель RBC Джефф Лантье заявил, что решение может разочаровать небольшую часть клиентов, использующих такие инструменты, но принято ради безопасности клиентов и систем банка.
Американские банки JPMorgan Chase & Co. и Charles Schwab Corp. недавно сообщили, что блокируют или ограничивают доступ внешних ИИ-агентов к данным клиентов. RBC стал первым канадским банком, закрывшим свои сайты для внешних ИИ-агентов. Глава Bank of Montreal Дэррил Уайт на мероприятии на прошлой неделе говорил, что клиентам не стоит делиться конфиденциальными банковскими данными с ИИ-агентами. Глава RBC Дэйв Маккей в интервью Bloomberg TV на прошлой неделе сказал, что банк рассматривает возможность закрыть Muse доступ к информации о клиентах.
Канадские банки активно инвестируют в ИИ. По недавнему отчёту платформы Evident, RBC пятый год подряд занимает третье место в мире по внедрению ИИ. Банки рассчитывают с помощью технологии повысить производительность и доходы, но быстрое внедрение вызывает опасения в связи с кибербезопасностью, финансовыми преступлениями и приватностью.
Тем временем глава Управления финансовых учреждений (OSFI) Питер Раутледж во вторник на конференции Tech Festival Canada заявил, что усиливает надзор за практикой ИИ в крупнейших банках страны, но не будет запрещать им разрешать клиентам пользоваться ИИ-агентами. Решение он оставит самим банкам, если они следуют рекомендациям регулятора.
«Не думаю, что мы дойдём до уровня "делайте так, и пусть все делают так". Не думаю, что это наше лучшее применение», - сказал Раутледж журналистам. «Сейчас в вопросе рисков третьих сторон и ИИ мы скорее ориентируемся на принципы».
Он отметил, что клиенты могут менять поставщика финансовых услуг в зависимости от того, хотят ли они пользоваться такими сервисами.
«Если совет директоров и гендиректор решат, что нужно снизить риск от агентов, которые, возможно, дают распоряжения о транзакциях от имени человека, - может быть, они решат, что это слишком рискованно», - сказал Раутледж. «Если это сделано ответственно, то для меня это признак здравого управления рисками».
Ранее в этом месяце Раутледж говорил, что OSFI планирует ужесточить рекомендации по ИИ, поскольку угрозы со стороны агентов и мощной модели Anthropic Claude Mythos повышают риски для банков страны. Весной регулятор опубликовал для банков рекомендации по агентному ИИ: они предлагают оценить, не создаёт ли связь банка с третьей стороной риск для учреждения или его клиентов. Совет по финансовой стабильности рекомендовал финансовым учреждениям усилить надзор за системами ИИ, в том числе ограничивать доступ агентов к чувствительной информации.
Семилетний срок Раутледжа во главе OSFI истекает в июне 2028 года, если его не назначат повторно. Главными задачами до этого срока он назвал разработку рамок управления рисками ИИ и изменение культуры OSFI, чтобы она была более открытой к риску.
Срок следующего суперинтенданта продлится с 2028 по 2035 год, и ему придётся заняться силами, которые изменят финансовые услуги, в том числе цифровизацией денег и появлением ИИ. По словам Раутледжа, финансовая система в 2035 году будет сильно отличаться от нынешней.
Следующему главе придётся «понять, как осуществлять надзор в период огромных перемен и обеспечить и устойчивость, которую канадцы хотят от своей финансовой системы, и более высокую конкуренцию», сказал Раутледж. «Они хотят больше услуг по более низкой цене и финансовую систему, которая стимулирует рост в период колоссального экономического перехода для страны».
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.