Финансовый мир и Искусственный Интеллект

Click here to see this page in other languages:  English 

В настоящее время автоматизированные алгоритмы управляют более чем половиной объема торговли акциями США, и по мере совершенствования ИИ он будет получать все больше контроля над важными финансовыми решениями. Проблема в том, что эти системы не защищены от случайных ошибок и небольшой сбой может привести к падению акций, что в последствии может стоить инвесторам миллиарды долларов.

Фирмы довольно смело идут на такой риск. Алгоритмы в автоматизированных системах намного более быстры и точны, чем любой человек, и использование самой передовой технологии ИИ способно удержать бизнес на плаву.

Однако для общества в целом последствия не так уж однозначны. Искусственный интеллект дает фирмам конкурентное преимущество, но останутся ли эти быстро развивающиеся системы безопасными и надежными? Что происходит, когда они ошибаются?

Автоматические Ошибки

Майкл Уэллман, профессор компьютерных наук из Мичиганского Университета, занимается изучением угроз, исходящих от ИИ, для финансовой системы. Он объясняет: «Финансовая система является одним из ведущих направлений, где задействован ИИ, и это особенно уязвимый сектор. Его можно легко вывести из равновесия, что повлечет за собой неприятности».

Рассмотрим историю компании Knight Capital. 1 августа 2012 года Knight Capital опробовала новое программное обеспечение, чтобы оставаться конкурентоспособной в новом торговом объединении. Программное обеспечение прошло тесты на безопасность, но когда компания начала его использовать, алгоритм активировал режим тестирования вместо программы реальной торговли. Программное обеспечение в режиме тестирования отправило миллионы плохих заказов в несколько последующих минут, в течении которых в Knight Capital отчаянно пытались остановить этот процесс. Но ущерб уже был нанесен.

Всего за 45 минут Knight Capital потеряла 440 миллионов долларов – почти в четыре раза больше прибыли в 2011 году – и все из-за одной строки кода.

В этом случае ущерб был нанесен одной компании, но что произойдет, если всего одна строка кода повлияет на всю финансовую систему?

Понимание Автономных торговых агентов

Уэллман утверждает, что автономных торговых агентов трудно контролировать, потому что они обрабатывают и реагируют на информацию с беспрецедентной скоростью, их можно легко копировать в больших масштабах, они действуют независимо и адаптируются к своей среде.

С их возрастающими общими возможностями системы могут научиться зарабатывать деньги опасными методами, что вообще не входит в планы программистов. Как сказал Лоуренс Пингри, аналитик из компании Gartner, после инцидента с Knight Capital: «Компьютеры делают то, что им говорят. Если им скажут наворотить плохих дел, они сделают это и сделают это очень, очень хорошо».

Чтобы системы искусственного интеллекта не подрывали прозрачность и стабильность рынка, государственные учреждения и ученые должны исследовать, как они работают.

Манипуляции на рынке

Даже использование ИИ во благо может препятствовать прозрачности рынка, но Уэллман опасается, что системы ИИ научатся манипулировать рынками.

Автономные торговые агенты особенно эффективны при использовании арбитражных возможностей – когда они одновременно покупают и продают актив, чтобы получить прибыль от разницы в ценах. Если, например, акции торгуются по $30 на одном рынке и $32 на втором рынке, агент может купить акции по $30 и сразу же продать их за $32 на втором рынке, получив прибыль в размере $2.

Неэффективность рынка создает возможности для подобной манипуляции. Тем не менее, ИИ может научиться самостоятельно создавать расхождения в ценах, проводя вводящие в заблуждение манипуляции на рынке, для получения собственной прибыли.

Одним из таких манипулятивных приемов является «спуфинг» (выставление мнимых заявок на торгах в целях манипулирования стоимостью актива на рынке – прим. переводчика) Прием заключается в намерении отменить ставку перед исполнением. Это двигает рынок в определенном направлении, и «спуфер» получает прибыль от этого ложного движения.

Уэллман и его команда недавно воспроизвели «спуфинг» в своих лабораторных моделях, в целях разобрать данную ситуацию и понять, когда он может быть эффективным. Он объясняет: «Мы моделируем это в лаборатории, чтобы выяснить, можем ли мы определить «подпись» ИИ, чтобы можно было обнаруживать такие манипуляции и спроектировать рынки так, чтобы уменьшить их уязвимость».

По мере совершенствования агентов они могут научиться использовать арбитраж более злонамеренно, путем создания ложных товаров на рынке для введения других игроков в заблуждение или взлома учетных записей, для сообщения о ложных событиях, которые движут рынками. Работа Уэллмана направлена на создание методов, помогающих контролировать такое манипулятивное поведение.

Секретность финансового мира

Но скрытный характер финансового мира не позволяет ученым полностью понять роль ИИ в нем.

Уэллман объясняет: «Мы знаем, что искусственный интеллект и машинное обучение широко используются в этом секторе и ИИ постоянно пытается улучшить свои алгоритмы. Но мы не знаем, в какой степени такие вещи, как манипулирование рынком и «спуфинг», автоматизированы на данный момент. Однако мы точно знаем, что они могут быть автоматизированы, и что это может привести к  своеобразной «гонке вооружений» между рыночными манипуляторами и системами, пытающимися вести наблюдение за подозрительным поведением рынка».

Правительственные учреждения, такие как Комиссия по ценным бумагам и биржам, следят за финансовыми рынками, но «они не успевают за развитием технологий, – отмечает Уэллман, – у них нет опыта или инфраструктуры, чтобы идти в ногу с тем, как быстро все меняется в этой отрасли».

Однако ученые все же могут помочь. По словам Уэллмана, «даже не занимаясь торговлей самостоятельно, мы можем перепроектировать то, что должно происходить в финансовом мире, и выяснить, что может произойти».

Подготовка к появлению продвинутого ИИ

Хотя Уэллман изучает существующий и разрабатывающийся ИИ, он обеспокоен угрозой появления продвинутого искусственного интеллекта.

«Единственное, что мы можем сделать, чтобы попытаться понять ИИ будущего – это получить опыт работы с приближающимся ИИ, – объясняет он, – вот почему мы хотим изучить как можно контролировать автономных агентов, появление которых уже видно на горизонте. Есть надежда, что мы усвоим некоторые уроки, которые пригодятся нам, когда появится суперинтеллект».

Системы ИИ быстро совершенствуются, и между финансовыми фирмами существует жесткая конкуренция за их использование. Понимание и отслеживание роли ИИ в финансовом секторе поможет рынкам оставаться стабильными и прозрачными.

«Возможно, мы не сможем справиться с этой угрозой на 100%, – признает Уэллман, – но я надеюсь, что мы сможем перестроить рынки так, чтобы сделать их более безопасными, устранить некоторые формы гонки вооружений и предотвратить последствия опасного поведения агентов».

Эта статья является частью серии Института «Будущее Жизни» о грантах на исследования безопасности ИИ, которые были профинансированы за счет щедрых пожертвований Илона Маска и проекта «Открытая филантропия».

Статья переведена Карпуниной Анной