Искусственный интеллект — революционная технология на грани бума и краха

«ИИ — это новое электричество», — считают в Bank of America. «Мы находимся в определяющем моменте — как и Интернет в 90-х годах — когда искусственный интеллект (ИИ) движется к массовому внедрению», — написал в своей заметке, опубликованной в конце февраля, Хаим Исраэль, глобальный стратег банка. Он также добавил, что генеративные технологии, такие как ChatGPT, создали для ИИ «момент iPhone». И сравнение с успехом ведущего смартфона вполне заслуженно: факт о том, что чат-бот Open AI набрал миллион пользователей всего за пять дней и достиг одного миллиарда посещений всего за три месяца, широко известен публике.

Прозрачность искусственного интеллекта под вопросом

Хотя банки и не находятся на переднем крае разработки мощных систем искусственного интеллекта, они уже используют эту технологию для многих процессов, включая аутентификацию клиентов, обнаружение мошенничества и моделирование рисков. Кредитные организации также понимают важность прозрачности в процессе принятия решений для сохранения доверия клиентов.

Однако согласно недавнему отчету независимой аналитической платформы Evident, банки в Северной Америке и Европе не сообщают публично о своих подходах к разработке ИИ. Исследование показало, что 8 из 23 крупнейших банков США, Канады и Европы в настоящее время не придерживаются принципов общественной ответственности ИИ.

Исследование выявило отсутствие прозрачности в отношении того, как ИИ уже используется и как он может использоваться в будущем, — что может подорвать доверие заинтересованных сторон и задушить прогресс. В отчете также указано на отсутствие стандарта отчетности по ИИ.

Согласно отчету, только три банка — JPMorgan Chase, Royal Bank of Canada (RBC) и Toronto-Dominion Bank — имеют «явный стратегический подход» к прозрачности в отношении ответственного ИИ. «Каждый из них сообщает о создании конкретных ответственных руководящих должностей в области ИИ, публикации этических принципов и отчетов об ИИ, а также о партнерстве с соответствующими университетами и организациями», — говорится в отчете.

ИИ способен предотвратить банковские катастрофы, подобные недавним историям с Silicon Valley, Credit Suisse и Signature

Такие банки, как Credit Suisse, уже вовсю используют сложные модели для анализа и прогнозирования рисков, но люди слишком часто их игнорируют или обходят, считает эксперт по управлению рисками Дидье Сорнетт. На вопрос Swissinfo.ch о том, сможет ли ИИ и машинное обучение предотвратить крах «слишком больших, чтобы рухнуть» кредитных организаций, специалист ответил положительно, без иронии добавив: «Только если ИИ возьмет власть и поработит людей, чтобы они следовали управлению рисками с помощью стимулов, продиктованных ИИ, как во многих фантастических сценариях, изображающих опасности сверхразумного интеллекта».

Однако финансовым учреждениям следует быть осторожными, пишет обозреватель Washington Post Даниэль Абрил. ИИ может создавать такие риски, как разочарование клиентов из-за чрезмерной автоматизации, нарушение законов конфиденциальности, направленных на защиту личных финансовых данных клиентов, и, возможно, даже дискриминацию людей с более низким доходом.

Голосовая идентификация банков больше не панацея

Джоанна Штерн, обозреватель The Wall Street Journal, решила обмануть систему голосовой идентификации своего банка Chase. Загрузив около 30 минут записей с собственным голосом в веб-инструмент ElevenLabs, журналистка менее чем за пару минут получила весьма достоверный голосовой клон, способный убедительно произносить любые вводимые текстом фразы.

Сначала журналистка, конечно, решила разыграть по телефону своих родственников, которые, пусть и не сразу, но распознали подвох. Но вскоре, зная последовательность вопросов банковского телефонного бота и заранее введя ответы на них, фейковой Джоанне удалось выйти на связь уже с представителем ее собственного банка. Очевидно, что после этого можно было продолжать диалог уже любым женским голосом.

Таким образом, можно сделать вывод, что обучаемые сервисы с использованием технологии искусственного интеллекта наряду с регулярными утечками персональных данных, вкупе представляют большую угрозу сохранности частных финансов и вполне могут применяться мошенниками. Стоит особо отметить, что стоимость создания голосового клона в ElevenLabs начинается всего с 5 долларов в месяц.