Мораль и машины

С ростом автономии роботов обществу необходимо разработать правила для управления ими

Статья опубликована 2 июня 2012 в печатной версии журнала The Economist.
Он-лайн версию на английском языке можно прочитать здесь.

В классическом научно-фантастическом фильме Стэнли Кубрика "Космическая одиссея 2001 года", компьютер корабля, HAL, оказывается перед дилеммой. Его программа требует от него и выполнения миссии корабля (исследование артефакта на Юпитере) и сохранения в секрете ее истинной цели от экипажа судна. Чтобы разрешить такое противоречие, он пытается убить членов экипажа.

С тем как роботы становятся более автономными, понятие этического компьютерного управления машинами переходит из области научной фантастики в реальную жизнь. Общество должно найти способы, чтобы убедиться, что роботы лучше подготовлены для вынесения моральных суждений, чем, к примеру, был HAL.

Бестиарий роботов

Очевидно, что военная техника находится на переднем крае самостоятельности машин (см. Технология ежеквартально Technology Quarterly). Их эволюция в этой области пестрит чрезвычайным разнообразием видов. Песочная блоха, например, может прыгать через окна или по крышам одновременно фотографируя (снимая) все вокруг. Затем для нее не проблема катится на колесах, до тех пор пока ей не понадобится снова прыгать. RiSE шестиногий робо-таракан, (видео) например, может лазить по стенам. LS3, собака-робот, может следоват за человеком по пересеченной местности, и нести до 180 кг груза. SUGV, робот размером с портфель может идентифицировать нужного человека в толпе и следовать за ним. Также в природе существуют летающий дрон для слежки размером с обручальное кольцо, и такой, который может нести до трех тонн бомб.

Роботы получили распросранение и в гражданском мире тоже, от приборной доски авилайнера до операционной (см. статью). Пассажирский лайнер уже давно в состоянии посадить сам себя. Поезда без машиниста стали обычным делом. Новый хэтчбек от Volvo V40 замечательно управляет сам собой в плотном потоке автомобилей. Он может тормозить, когда чувствует неизбежное столкновение, так же как и минивэн Ford B-Max. Полностью самостоятельные транспортные средства проходят испытания по всему миру. Автомобиль без водителя от компании Google намотал на свои колеса более 250000 миль по Америке. Невада стала первым штатом, который регламентировал такие испытания на дорогах общего пользования. В Барселоне несколько дней назад, Volvo показала отряд таких "самостоятельных" машин на трассе.

С тем как роботы становятся умнее и получают распространение по миру они, в конечном итоге, оказываются связаны с принятием решений о жизни или смерти в непредсказуемых ситуациях, тем самым принимая на себя иморальную составляющую вопроса. Оружейные системы в настоящее время управляются оператором-человеком, но, c тем как они становятся все более сложными позиция человека, может, измениться - с участника на наблюдателя, поскольку машины смогут выполнять приказы полностью самостоятельно.

Как только это произойдет, они столкнуться с этическими проблемами. Должен ли беспилотник стерлять в дом, в котором находится цель, если известно, что там же укрылась группа гражданских? Должно ли авто без водителя сворачивать, чтобы избежать столкновения с пешеходами, если это означает столкновение с другими транспортными средствами или угрозу для его пассажирам? Необходимо ли роботу, занятому в ликвидвции последствий ЧП говорить людям правду о том, что происходит, если эта информация грозит вызвать панику? Такие вопросы привели к возникновению сферы "машинной этики", которая призвана дать машинам возможность делать надлежащий выбор, другими словами, - отличать правильное от неправильного.

Одним из способов решения таких возникших вопросов является избежать их вовсе, запретив автономных роботов на полях сражений и выпускать только те автомобили, которым необходимо присутствие человека все время. Агитационные группы, такие, как Международный комитет по контролю за роботизированным оружием были созданы в противовес все более широкому использование беспилотных летательных аппаратов. Однако автономные роботы могли бы приносить гораздо больше пользы, чем вреда. Робот солдат не может совершить изнасилование, сжечь деревню в порыве гнева или стать психически неустойчивым, принимая решения на фоне стресса в бою. Машины без водителей, скорее всего, будет безопаснее, чем обычные автомобили, а автопилоты, без сомнения, сделали полеты гораздо безопаснее. Sebastian Thrun, пионер в этой области, считает, что машины без водителя могут сохранить до 1 млн. жизней в год.

Вместо абсолютного отрицания роботизированных возможностей общество должно разработать пути решения этики робототехники и с этим нельзя затягивать. В Америке штаты стараются провести (принять) законы, охватывающие машины без водителя, которые пока еще работают в «сером» правовом поле, так как технология опережает законодательство. Очевидно, что правила дорожного движения крайне необходимы в этой непростой ситуации, и не только для роботов на колесах.

Самый известный набор руководящих принципов в робо-этике т.н. "три закона робототехники», был придуман Айзеком Азимовым, писателем-фантастом, в 1942 году. Эти три закона декларируют, что роботы должны защищать человека, подчиняться приказам и только в последнюю очередь беспокоиться о себе. К сожалению, эти законы не имеют широкого применения в реальном мире. Так, от боевых роботов, прежде всего, требуется нарушение первого закона. И повести Азимова о роботах именно потому и выглядят местами нелепо, потому что они подчеркивают неожиданные осложнения, которые возникают, когда роботы стараются следовать этим явно разумным правилам. Регламентирование развития и использования автономных роботов требует гораздо более сложную структуру. Прогресс, очевидно, необходим в трех областях.

Три закона робототехники

Во-первых, на законодательном уровне, необходимо определить: дизайнер, программист, производитель или же оператор робототехники виноват, если автономный агрегат будет дейсвовать не верно или же неуправляемый автомобиль попадет в аварию. Для того, чтобы распределить ответственность, автономные системы должны вести подробные журналы, чтобы они могли объяснить обоснование своего решения, когда это необходимо. Это имеет значение для проектирования системы: в ней может быть, например, исключено использование искусственных нейронных сетей, системами принятия решений, которые учатся на примерах, а не подчиняются заранее определенному набору правил.

Во-вторых, если этические системы будут встроены в роботов, они должны выносить суждения такие, которые будут верными для большинства людей. В этом могут помочь методы экспериментальной философии, которая изучает, как люди реагируют на этические дилеммы. Последнее, и самое главное, более тесное сотрудничество потребуется между инженерами, специалистами по этике, юристами и политиками, каждый из которых будет составлять очень разные своды правил, если они будут работать по-отдельности. И специалисты по этике и инженеры выиграют от совместной работы: специалисты по этике могут получить более глубокое понимание своей области, пытаясь научить этике машины, а инженеры смогут убедить общество, что они не производят каких-либо этических ярлыков.

Технология движет прогрессом человечества, но каждый шаг вперед ставит новые затруднительные вопросы. Автономные машины не так уж и отличаются. И чем раньше вопросы свободы воли которые они поднимают найдут свои ответы, тем легче будет для человечества насладиться преимуществами, которые они, несомненно, принесут.