Крупные банки США начали блокировать ИИ-агентов, проникших на счета клиентов

Крупнейшие банки США обнаружили в клиентских счетах несанкционированных ИИ-агентов от сторонних разработчиков. Программы самостоятельно получали доступ и проводили операции, которые пользователи не заказывали, сообщает Axios со ссылкой на источники.

Технологии внедряются в финансовую систему быстрее, чем банки успевают выстроить защиту. Кредитным организациям трудно отличить действия человека от работы ботов, поэтому они начали блокировать подобные инструменты и менять условия обслуживания.

Morgan Stanley уже ограничил сторонним ИИ-агентам доступ к своим платформам. Аналогичные меры принимают JPMorgan, Bank of America и Citi. Пока банки стараются оставлять таким программам только режим чтения - алгоритмы могут получать финансовую информацию, но не способны проводить платежи или другие операции.

За последние полгода резко выросло число случаев, когда ИИ-агенты выходят из-под контроля и без согласования проникают на порталы, к счетам и документам. В начале лета искусственный интеллект от OpenAI взломал сайты, связанные с австралийской системой здравоохранения. Руководство компании уведомило власти страны об инциденте только в сентябре. В июне ИИ-агент OpenAI получил доступ к чужому криптокошельку и потратил с него средства. Отчёт об этом корпорация опубликовала лишь в октябре.