Комплексные системы искусственного интеллекта объясняют свои действия

Click here to see this page in other languages: English US_Flag Chinese  

В будущем роботы, оснащенные искусственным интеллектом и используемые в самых разных сферах услуг станут привычным явлением. Такие боты будут помогать людям ориентироваться в людных аэропортах, подавать еду или даже заниматься организацией графика ваших рабочих встреч.

По мере того как системы ИИ все больше интегрируются в нашу повседневную жизнь, жизненно необходимо найти эффективный способ коммуникации с ними. Для человека, очевидно, более удобно общаться на простом языке, чем при помощи последовательности кодов. С тем как отношения между людьми и роботами будут все больше усложняться и расширяться, будет необходимо поддерживать с ними беседу, а не просто отдавать роботам указания.  

Взаимодействие человека и робота главная тема исследования Мануэлы М. Велосо, профессора Университета Карнеги-Меллона, которая сосредоточила свои исследования на КоБотах (CoBots)  автономных мобильных сервисных роботах, которые транспортируют предметы, помогают людям в навигации по зданию, перемещаются внутри помещений и ездят на лифтах. Роботы CoBot уже несколько лет успешно осуществляют автономную навигацию и прошли уже более 1000 км. Эти достижения позволили ее исследовательской группе продолжить работу над новым направлением, сосредоточив внимание на взаимодействии человека и робота.

«Если мы действительно хотим, чтобы автономные роботы находились рядом с людьми, взаимодействовали с нами и были способны приносить нам пользу, они должны уметь общаться с нами», говорит Велосо.

Общение с CoBots

CoBots Велосо способны к автономной локализации и навигации в Gates-Hillman Center в Питтсбурге (США) с использованием Wi-Fi, LIDAR (лазерного определителя расстояния – прим. переводчика) и/или сенсора Kinect (того же типа, что используется для видеоигр).

Роботы ориентируются в пространстве, распознавая стены как плоскости, которые соответствуют известному им плану здания. Другие объекты, включая людей, распознаются как препятствия, поэтому навигация роботов безопасна и надежна. В целом, CoBots хорошо ориентируются в пространстве и довольно последовательны в своих движениях. Команда разработчиков даже заметила, что роботы могут изнашивать ковровое покрытие, потому что проходят по одному и тому же пути много раз.

Поскольку роботы автономны и, следовательно, способны принимать самостоятельные решения, они находятся вне поля зрения человека в течение большого количества времени, пока перемещаются по многоэтажным зданиям.

Исследовательская группа начала задумываться об этом неучтенном времени. Как роботы воспринимали окружающую среду и достигали своих целей? Как проходили их поездки? Что они планировали делать дальше?

«В будущем я думаю, что постепенно мы можем захотеть задать вопросы таким системам ИИ о том, почему они сделали тот или иной выбор или почему они дают те или иные рекомендации», объясняет Велосо.

В настоящее время исследовательская группа работает над вопросом о том, почему CoBots выбирают именно этот маршрут в автономном режиме. Команда хотела дать роботам возможность записывать свой опыт, а затем преобразовывать данные о своих маршрутах в языковую форму. Таким образом, боты могли бы общаться с людьми, объяснять свои выборы и даже давать логическое обоснование своим поступкам.

Уровни объяснения

«Внутреннее устройство навигации», лежащее в основе функций любых автономных роботов, полностью основаны на числовых вычислениях, а не на естественном языке. Например, роботы CoBot, в частности, вычисляют расстояние до стен, задавая скорость своим двигателям, чтобы обеспечить движение по определенным координатам карты.

«Просить автономного робота о нечисловом объяснении сложно, говорит Велоcо, кроме этого, ответ может быть представлен на многих потенциальных уровнях детализации».

«Мы называем это «вербализацией пространства», в которой перевод на простой язык может происходить с различной степенью детализации, с разными уровнями определения местоположения, с разной степенью конкретизации».

Например, если разработчик просит робота подробно рассказать о своем путешествии, он может получить длинный пересказ с подробностями, включающими уровень заряда батареи. Но случайный посетитель может просто захотеть узнать, сколько времени требуется, чтобы добраться из одного офиса в другой.

Поэтому исследование касается не только перевода с языка на язык, но и с пониманием того, что роботы должны объяснять вещи с большей или меньшей подробностью. Если человек собирался запросить более подробную информацию, этот запрос заставит CoBot углубиться в более подробную точку в «вербализации пространства».

«Мы пытаемся понять, как расширить возможности роботов, чтобы они были более надежными в объяснениях, поскольку они помогают людям получать нужную информацию», говорит Велосо. Способность генерировать объяснения, в частности на нескольких уровнях детализации, будет особенно важна в будущем, поскольку системы ИИ будут принимать более сложные решения.

Без более ясного объяснения людям может быть сложно делать выводы о рассуждениях ИИ. Поэтому бот должен быть более прямолинейным и понятным.

Например, если вы посещаете врача, и ИИ дает вам рекомендации по вашему здоровью, вы можете захотеть узнать, почему он пришел именно к этому решению, или почему он рекомендовал именно это лекарство, а не другое.

В настоящее время исследования Велосо сосредоточены на том, чтобы научить роботов формулировать эти объяснения простым языком. Следующий шаг для роботов включать естественный язык, когда люди предоставляют им обратную связь. The CoBot мог бы сказать: «я пришел оттуда», а вы могли бы сказать: «в следующий раз, пожалуйста, пройди другим путем», объясняет Велосо.

Такого рода исправления могут быть заложены в коде, но Велосо считает, что «надежность» систем искусственного интеллекта выиграет от нашей способности вести с ними диалог, задавать им вопросы и корректировать их автономность. Она и ее команда стремятся внести свой вклад в симбиотические отношения роботчеловек, в которых роботы и люди координируют свои действия и взаимодействуют в процессе своей деятельности, обращая внимание на свои слабые и сильные стороны.

«Мы работаем над тем, чтобы действительно расширить возможности людей случайного человека, который встречает робота чтобы он смог задавать роботу вопросы на естественном языке», говорит Велосо.

В будущем, когда у нас будет все больше систем искусственного интеллекта, способных воспринимать мир, принимать решения и поддерживать принятие решений человеком, способность участвовать в такого рода беседах будет иметь важное значение.

Эта статья является частью серии Института «Будущее жизни», посвященной грантам на исследования безопасности ИИ, которые были профинансированы за счет щедрых пожертвований Илона Маска и проекта «Открытая Филантропия».

Статья переведена Карпуниной Анной