Как приспособить искусственный интеллект к человеческим ценностям?

Надвигаются серьезные изменения, они не имеют временных рамок, но затронут все сегменты общества. Люди, принимающие участие в этих событиях, несут огромную ответственность, но вместе с тем они имеют возможность изменить мир к лучшему. Что является причиной этих изменений? Искусственный интеллект.

Лучшие умы в области изучения искусственного интеллекта собрались вместе, чтобы обсудить вопрос о том, сможем ли мы гарантировать то, что ИИ будет нам выгоден и полезен. Результатом полемики явился свод законов для ИИ, получивший название «Асиломарские принципы ИИ». Цель этих 23 принципов – предложить решение, при котором искусственный интеллект может принести пользу как можно большему числу людей. Но, как сказал эксперт по ИИ Тоби Уолш: «Это только начало… работа продолжается”.

«Принципы» представляют собой начало разговора, и теперь, когда разговор идёт, нам необходимо продолжить обсуждение каждого принципа по- отдельности. Принципы будут означать разные вещи для разных людей, поэтому, чтобы извлечь как можно больше выгоды, мы должны рассмотреть каждый принцип индивидуально.

В рамках этого исследования, я взял интервью у многих учёных в области ИИ, подписавших документ «Принципы», чтобы узнать, почему они это сделали, и какие вопросы стоят перед нами на сегодняшний день.

Соотношение ценностей.

Начнём с принципов, касающиеся соотношения человеческих ценностей и ИИ.

Автономные системы ИИ должны быть разработаны таким образом, чтобы их цели и поведение совпадали с целями человека и его ценностями на протяжении всей их работы.

Стюарт Рассел, который выдвигал идею равных ценностей, любит сравнивать это с историей короля Мидаса. Когда король Мидас попросил, чтобы всё, к чему он прикасался, превращалось в золото, он просто хотел быть богатым. Но он вовсе не хотел, чтобы его еда и любимые люди также обращались в золото. Мы сталкиваемся с аналогичной ситуацией с искусственным интеллектом: как мы можем гарантировать, что ИИ будет делать то, что мы действительно хотим, при этом не причиняя вреда людям?

«Роботы вовсе не собираются восстать против человечества, – объясняет Анка Драган, помощник и коллега Рассела в Калифорнийском университете в Беркли, – они просто оптимизируют всё, что мы скажем им делать. Поэтому важно сказать им, каким мы действительно хотим видеть этот мир».

Чего мы хотим?

Понимание того, что именно мы хотим, – это одна из самых важнейших проблем, с которыми сталкиваются исследователи ИИ.

«Задача заключается в том, чтобы определить, что именно представляют собой ценности. Люди имеют разное представление о ценностях из-за культурных различий и разного социально-экономического положения. И это действительно проблема», – говорит Стефано Эрмон, доцент Стэнфордского университета.

Роман Ямпольский, доцент Университета Луисвилля, согласен. Он объясняет: «Очень сложно передать человеческие ценности на языке программирования, но проблема осложняется тем фактом, что мы не согласны общие ценности, а то, на что мы соглашаемся со временем меняется».

И хотя по поводу некоторых ценностей трудно достичь единого мнения, но существует огромное множество ценностей, где люди всё-таки смогут прийти к единодушному мнению. Но, как отмечает Рассел, любой человек осознаёт важность эмоций и чувств, с которыми он постоянно имеет дело, и нам трудно гарантировать, что робот будет запрограммирован с таким же пониманием.

Но исследователь из IBM (крупнейшей американской компании по производству и поставке аппаратного и программного обеспечения) Франческа Росси полна надежд. Как отмечает Росси, «будет проводиться ряд исследований, чтобы понять, как внедрить человеческие принципы и ценности в систему искусственного интеллекта для работы с людьми».

Драган подходит к проблеме с другой стороны. Вместо того, чтобы пытаться понять людей, она пытается обучить робота быть податливым и уступчивым по отношению к задачам, поскольку он взаимодействует с людьми. Она объясняет: «В Беркли … мы считаем важным то, чтобы робот имел только размытое представление о своих задачах, а не наоборот, тем самым он будет рассматривать человеческий вклад  как ценное наблюдение об истинной цели».

Переписать «Принципы»?

Хотя большинство исследователей согласны с основополагающей идеей Принципа равных ценностей, не все согласны с тем, как это представлено, не говоря уже о том, как его реализовать.

Йошуа Бенджио, пионер ИИ и профессор Монреальского университета, считает, что в деле, касающееся ИИ не может быть никаких гарантий. Он объясняет: «Скорее всего, невозможно сделать робота с человеком абсолютно равными. Существует много врождённых вещей, которым научить машину будет невозможно. То же касается философии или самоанализа. Поэтому на данный момент не совсем ясно, сможем ли мы быть равными. Я думаю, самые подходящие слова – это что-то вроде ‘мы сделаем все возможное’. В противном случае, я абсолютно согласен.»

Уолш, который в настоящее время является приглашенным профессором Берлинского технического университета, ставит под вопрос употребление слова «высоко». «Я думаю, что любая автономная система, даже низко автономная, должна быть оснащена человеческими ценностями. Я бы не употреблял здесь это слово», – отмечает Уолш.

Уолш также считает, что, хотя вопрос равных ценностей часто рассматривается как проблема будущего, лучше решить эту проблему сейчас, а не откладывать на потом. «Я думаю, что уже сегодня мы должны беспокоиться о соблюдении этого принципа», – объясняет он. «Это поможет нам решить более сложные задачи, касающиеся определения разнозначных ценностей человека и робота, поскольку системы становятся более сложными и изощрёнными».

Росси, который всем сердцем поддерживает Принцип уравнивания ценностей согласен с тем, что этот принцип должен применяться к современным системам ИИ. «Я бы добавил ещё кое-что об этом принципе», – говорит он. «Принцип должен иметь дело не только с автономными системами ИИ, но … очень важно и необходимо, чтобы он работал и в системах, которые работают с людьми, где человек является конечным лицом, принимающим решения. Когда человек и машина плотно работают вместе, мы хотим, чтобы это была настоящая команда».

Как объясняет Драган, «это один шаг к тому, чтобы помочь ИИ понять, что он должен делать. Важно то, чтобы постоянное совершенствование целей было непрерывным процессом между людьми и ИИ».

И да начнётся диалог.

И теперь мы переходим к вам. Что для вас значит искусственный интеллект, соответствующий вашим жизненным целям и стремлениям? Как он сможет жить с вами и остальным миром? Как мы сможем гарантировать, что версия идеального человека-робота не осложнит вам жизнь? Как мы пойдём на сделку с общими ценностями, и как мы можем гарантировать, что ИИ поймёт эти ценности? Если бы у вас был личный помощник-робот, как он должен быть запрограммирован себя вести? Если мы – люди и ИИ будем заниматься вместе такими вещами, как медицина, полицейская деятельность, образование, как это должно выглядеть? О чём ещё нас должны спросить?

Источник: futureoflife.org

Оставьте ответ

Ваш электронный адрес не будет опубликован.

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More