Используем историю планируя будущее искусственного интеллекта. Интервью с Катей Грейс

Click here to see this page in other languages:  English 

“Когда?” В кругах обсуждения искусственного интеллекта это вопрос на миллион долларов. Когда искусственный интеллект станет настолько развитым и разумным, что превзойдет человека в любой задаче?

Влияние ИИ уже заметно в мире благодаря автоматизации труда, алгоритмической финансовой торговле, беспилотным автомобилям и бытовым помощникам вроде Alexa, но эти разработки незначительны по сравнению с идеей общего искусственного интеллекта – ИИ, способного выполнять широкий спектр интеллектуальных задач подобно людям. Многие ученые ожидают появление общего искусственного интеллекта, но их мнения о дате его разработки едва ли совпадают.

Учитывая беспрецедентный потенциал общего искусственного интеллекта по созданию перспективного или разрушительного будущего для общества, многие обеспокоены тем, что человечество не может позволить себе подойти к его внезапному появлению неподготовленными. Однако сюрприза можно избежать. Катя Грейс считает, что если исследователи смогут разобраться со скоростью и последствиями развития ИИ, общество подготовится к более благоприятному результату.

Воздействие ИИ

Грейс, научный сотрудник Института Исследования Искусственного Интеллекта, утверждает, что, хоть мы и не можем наметить точный курс развития ИИ, его можно предугадать. Ее проект “Воздействие ИИ” посвящен выявлению и проведению экономически эффективных исследовательских проектов, которые прольют свет на то, каким образом ИИ повлияет на общество в ближайшие годы. Она стремится “помочь улучшить оценку социальной отдачи в инвестиции ИИ, выявить забытые области исследований, улучшить политику и заинтересовать общество развитием ИИ.”

Проект “Воздействие ИИ” ставит следующие вопросы: Насколько быстро будет развиваться ИИ? Сколько предварительных уведомлений о разрушительных изменениях нам стоит ожидать? Каковы возможные экономические последствия от появления ИИ с интеллектом, подобным человеческому? Какие пути развития ИИ следует считать реальными или вероятными? Можем ли мы сказать что-нибудь значимое о влиянии современного выбора на долгосрочные результаты?

Один из способов получить представление об этих сроках – спросить экспертов. В опросе проекта “Воздействие ИИ” 2015 года 352 исследователей ИИ заявили о 50-процентной вероятности того, что ИИ превзойдет людей почти во всем к 2060 году. Однако, ответив на похожий вопрос эксперты назвали дату больше предыдущей на 75 лет, также множество ответов были уникальны, что затруднило подведение итогов. Грейс надеется, что ее исследование сможет собрать больше информации и улучшить оценочные данные.

Учимся у истории

Существует мнение, что ИИ может развиваться быстро и без особых предостережений. Данная точка зрения основана на наблюдении того, что для алгоритмов не требуется строить предприятия – они формируются в мыслях со скоростью поезда.

Тем не менее, Грейс утверждает, что, хотя мы пока не имеем опыта создания ИИ, близкого к человеческому, обширный опыт разработки других технологий может рассказать многое о том, что произойдет с ИИ. Изучение истории развития других технологий поможет разобраться со сроками создания ИИ.

В одном из своих исследовательских проектов Грейс изучает историю скачков технологического прогресса, измеряя их с точки зрения того, на сколько лет такой скачок опережает время. “Нас интересуют случаи, когда один скачок опережает время более чем на 10 лет”, – объясняет она. “Создание ядерного оружия – это как раз единственный случай, в котором прогресс опередил время более чем на 100 лет.”

Так, например, в 1939 физики начали обсуждение ядерной энергетики, а уже к 1945 году в США успешно прошли испытания ядерного оружия. Как пишет Грейс: “Относительная эффективность взрывчатых веществ увеличилась менее чем в два раза за 1100 лет до появления ядерного оружия, и она увеличилась более чем в одиннадцать раз после его появления. Если предыдущий прогресс считается экспоненциальным, то этот опережает время примерно на 6000 лет по сравнению с предыдущими темпами.”

Грейс также учла историю высокотемпературных сверхпроводников. С момента открытия сверхпроводников в 1911 году пиковые температуры сверхпроводимости медленно росли, увеличившись с первоначальных 4K (Кельвин) до 30K к 1980-м годам. Затем, в 1986 году ученые открыли новый вид керамики, увеличивший максимальную температуру до 130K всего за семь лет. “Это открытие опережало время почти на 100 лет,” – объясняет она.

Ядерное оружие и сверхпроводники – редкие случаи таких огромных технологических скачков. Большинство технологий, которые изучала Грейс, либо не демонстрируют скачков развития, либо опережают время лишь на 10-30 лет. “Основной вывод нашего исследования заключается в том, что большие скачки – довольно редкое явление, поэтому в случае ИИ не стоит “по умолчанию” ожидать такой вариант развития событий”, – объясняет Грейс.

Кроме того, прогресс ИИ во многом зависит от того, насколько быстро улучшается аппаратное и программное обеспечение – процессы, за которыми мы можем наблюдать уже сейчас. Например, если прогресс оборудования замедляется из-за длительного экспоненциального прогресса, появление ИИ следует ожидать позже.

В настоящее время Грейс изучает то, что еще неизвестно об оборудовании. Она хочет знать, “насколько быстро сейчас падает цена аппаратного обеспечения, как аппаратное обеспечение помогает в развитии ИИ по сравнению, например, с алгоритмическими усовершенствованиями, и насколько важно специальное оборудование.”

Взрывной скачок развития ИИ

Исследователи и разработчики ИИ также должны быть готовы к возможности очень быстрого скачка в развитии ИИ – идее того, что мощный ИИ усовершенствует свой интеллект быстрее, чем люди успеют это понять или проконтролировать.

Грейс объясняет: “Мысль заключается в том, что как только ИИ эволюционирует, он станет проводить свои собственные исследования ИИ (вместо людей), а затем появится ИИ, занимающийся исследованиями ИИ по развитию ИИ и эти исследования будут прогрессировать, так что все выйдет из-под нашего контроля.”

Но она предполагает, что этот цикл обратной связи можно частично предугадать. “У нас уже есть специалисты с достаточно высоким уровнем интеллекта, чьи разработки в сфере ИИ открывают нам доступ к новым возможностям,” – объясняет Грейс. “У нас нет идеального представления о том, что произойдет, когда ИИ станет подобен людям и сможет наравне с ними проводить свои исследования, однако у нас есть некоторые доказательства из других областей. Мы не можем сказать, что все выйдет из-под контроля на любой скорости. Уже сейчас мы можем заметить некоторые подсказки. Например, мы можем сказать то, насколько можно увеличить IQ ИИ за год исследований и усилий.”

“Воздействие ИИ” – это бессрочный проект, и Грейс надеется, что ее исследования найдут свой путь в дискуссии о взрывном скачке в развитии ИИ и других аспектах ИИ. Возможно, зная примерные сроки его развития, политики и филантропы смогут гарантировать, что продвинутый ИИ не застигнет человечество врасплох.

Эта статья является частью серии Института “Будущее Жизни” о грантах на исследования безопасности ИИ, которые были щедро профинансированы Илоном Маском и проектом “Открытая филантропия”.

Статья переведена Сидоровой Тамарой