Три закона робототехники [Записки старьевщика]

Перебирал на днях свою библиотеку и наткнулся на интересную книгу. Оказалось, что это стенограмма выступления известного инженера-футуролога Григория Кельвина о законах робототехники и о последствиях их необдуманной модификации.

Стенограмма

Загадки прошлого, загадки будущего. Часто люди не придают значения мелочам, им хочется чего-то большего. И стремятся, бегут куда-то, в погоне за счастьем, не понимая, что оно совсем рядом. Всего лишь надо на минутку остановиться и подумать.
Завтра мы отмечаем праздник – сто лет исполнилось последнему человеку, родившемуся в нероботизированном обществе. Сегодня мы и представить себе не можем такой мир. Роботы повсюду с нами, готовые помочь в трудную минуту. Но когда-то всё было иначе: люди жили среди других людей, а разумные машины были лишь мечтаниями определенной касты людей, именующей себя фантастами.
Был среди них тогда один человек, звали его Айзек Азимов. Айзек был обыкновенным парнем. Как и все, он ходил в школу, влюблялся, учился, находил новых друзей и терял старых. Лишь в одном он отличался от них – Айзек имел талант великого писателя и замечательного ученого. В ниве писательства Айзек Азимов не ограничивал себя каким-то одним жанром, но всегда старался популяризовать науку. Однако сейчас мы поговорим не обо всей деятельности писателя, а лишь об одной вехе его жизни. Роботы и законы, которым они подчиняются. Все вы прекрасно знаете законы робототехники, но я всё же возьму на себя смелость их перечислить.
Первый закон робототехники: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон робототехники: робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.
Третий закон робототехники: робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.
Сегодня многие могут возразить, мол, эти законы неверные, роботы им не подчиняются. На самом же деле они будут одновременно и правы и не правы. Многие роботы действительно основаны на законах робототехники, но не совсем, так как это принято понимать. Дабы разрушить распространённые заблуждения, давайте поговорим именно об этой теме.
Айзек Азимов был одним из первых писателей, кто подошел к осмыслению возможности появления разумных машин не с разрушительной стороны. Свои произведения посвященные робототехнике Азимов начал писать в сороковые года двадцатого века, когда в научной фантастике существовал явный тренд в изображении роботов как рукотворных созданий уничтожающих своего хозяина. Айзек отказался от этого — вместо роботов-убийц писатель показал, что роботы могут играть созидательную роль в жизни человека. Всего лишь необходимо заложить в устройство разумной машины правила, не позволяющие роботу навредить человеку.
Айзек элегантно объяснил, как заложить эти законы в робота. Роботы создаются по образу и подобию человека и так же, как люди они наделены сознанием. Хранилищем сознания является позитронный мозг. Как раз таки в этот мозг писатель и заложил законы робототехники. Законы робототехники являются не вербально записанными предложениями в мозгу робота, а сложными математическими формулами, на которых базируется всё сознание робота. Правила заложенные Азимовым являются для роботов своеобразным аналогом инстинктов людей: роботы чувствуют непреодолимую потребность в исполнении этих правил и получают удовлетворение, когда их исполняют.
Здесь мы наталкиваемся на распространённое заблуждение. Три закона робототехники являются довольно-таки расплывчатыми правилами, поэтому как многие считают, они могут быть неверно истолкованы роботами. И они правы. Задать математическую формулу выполняющую функцию закона робототехники непомерно сложно, а так как позитронный мозг, описанный в произведениях Азимова, в реальном мире не существует, то и вовсе невозможно. Поэтому на первых порах робототехники люди отказались от концепции законов. Впрочем, по мере того как усложнялись роботы всё жестче стоял вопрос об их ограничении, появилась потребность в создании этических норм для роботов. Человечество вернулось к законам робототехники и начало исследования в области их практического применения. Конечный результат несколько отличался от того, что изображал Азимов. Однако сегодня мы не на слете юных инженеров-робототехников, поэтому останавливаться на этом я не буду. Скажу только, что законы в своей формулировке не претерпели сильных изменений.
Перейдем к главному, к самим законам робототехники. Законы робототехники являются неотъемлемой частью любой разумной машины. Несмотря на то что, по сути, законы являются этической надстройкой робота, именно они позволяют роботу осознавать себя в нашем мире. Как и любой человек ассоциирует себя с человеческим обществом благодаря принципам порядочности и законопослушности, так и робот встраивается в это общество благодаря законам робототехники. Как писал сам Айзек:

Айзек Азимов понимал, что его законы существуют не в вакууме, а потому сознательно ставил их в ситуации, где они бы нарушались. Не смотря на то, что Азимов ещё тогда предупреждал о чреватости подобных изменений, нашлись люди, которые начали менять законы. И это, к сожалению, стоило нам нескольких жизней. Одна из смертей, между прочим, произошла в вашем городе. Посему сейчас мы поговорим о последствиях подобных изменений и отсутствия законов робототехники вовсе.
Айзек предвосхитил отказ от своих законов и наглядно показал, к чему это может привести. Когда-то люди использовали неразумный транспорт, но по мере того как развивались используемые ими технологии их транспорт становился умнее и в определенный момент времени, в рассказе «Салли», машины поумнели настолько, что начали осознавать себя личностями. И, естественно, как и любое другое разумное существо, они начали заботиться о своей жизни. Так как законы робототехники отсутствовали у этих машин, они оказались способны замучить человека, который постоянно причинял им боль, до смерти.
Не надо иметь семи пядей во лбу, чтобы понять, что отсутствие законов, ограничивающих поведение роботов, может привести к появлению новой расы существ, конкурирующей с людьми. Вы хотите, чтобы транспорт, на котором все мы ездим, мог убить нас по собственной прихоти? Лично я не особо.
Впрочем, Айзек немного лукавил, так изображая машины. Человек хоть и оснащает свой автомобиль различной умной техникой, но не позволяет ему обрести полноценный разум. Существуют специальные конвенции, накладывающие ограничения на технику, встраиваемую в автомобили и не позволяющие машинам осознавать себя личностью.
Нарушение или искажение Первого закона является не менее опасными для людей, чем отсутствие законов, так как Второй и Третий законы основаны на Первом. Любой дефект в Первом законе ведет к смене приоритетов робота: жизнь человека отступает на второй план по сравнению с жизнью робота. Любой робототехник это знает. Однако чтобы обязать производителей роботов встраивать в свою продукцию Первый закон понадобилось не одно слушание и с десяток разбитых судеб.
Фантаст и сам создавал ситуации в своих произведениях, где первый закон модифицировался, но в мире Айзека это всегда происходило хоть и драматично, но бескровно. Так в произведении «Как потерялся робот» для производства техники в опасных условиях была создана специальная серия роботов с усечённым первым законом, сделано это было из практических соображений: роботы работали вместе с людьми, которые подвергались воздействию небольших безопасных доз радиации. Роботы постоянно бросались спасать людей от радиации, а так как для позитронного мозга радиация смертельна, они стабильно выходили из строя. Усечение Первого Закона до формулировки «Робот не может причинить вреда человеку» решило эту проблему, однако одновременно с этим оно открыло новую: робот хоть и не мог причинить вред человеку, но и при опасных для жизни человека обстоятельствах перестал спасать его жизнь.
Каждый сидящий в зале смотрит на окружающих и оценивает себя в сравнении с ними. Кого-то он считает более достойным человеком, кого-то менее. Ценность жизни каждого человека зависит от того чего он достиг в жизни, что сделал для семьи, в частности, и общества, в целом. Мы считаем это нормой, ведь конкуренция внутри одного вида необходима. Другое дело, когда робот оценивает людей по их поступкам. Это неприемлемо. Робот является отличным от человека видом, а потому люди не могут принять этого.
Сегодня это может показаться очевидным, но в те времена мало кто затрагивал эту тему, а потому рассказ Айзека Азимова «…Яко помниши его» неплохо отрезвлял излишне прытких людей. В нем фантаст напомнил людям, что робот созданы по образу и подобию людей и соответственно критериям оценки они начнут осознавать себя людьми. Робот обладает большими аналитическими и физическими способностями по сравнению с человеком, поэтому он начинает считать себя более важным существом, чем любой другой человек.
Получается, что мало того, что между роботом и человеком начинает проявляться межвидовая конкуренция, так и один из конкурирующих видов не станет осознавать себя таковым. А так как робот в силу своего устройства обладает большими физическими и аналитическими способностями, то и вовсе получается, что люди запросто могут оказаться в положении роботов.
По вашим лицам я вижу, что вам не сильно нравится подобное развитие событий. Поэтому я прошу вас, запомнить, что именно первый закон робототехники позволяет подчинить робота человеку на добровольной основе и изменять его не стоит. Помните историю с исследовательской станцией на орбите Юпитера? Именно роботы с модифицированным Первым законом и стали причиной той аварии. «Франкенштейн» оживший перед глазами, да ещё и в замкнутом до невозможности пространстве. Не знаю, что может быть страшнее. Недаром это событие массово освещали по телевидению.
Изменение Второго закона не так критично для людей, как изменение Первого, но и оно всё равно несет в себе вред. Хоть робот и заботится о жизни человека, но не отдает себе отчет, что человек главенствует над ним. Люди создают роботов для собственных нужд, не считая их равными себя. Поэтому, когда на глазах людей их творение перестает подчиняться своему хозяину, в людях просыпаются их потаенные страхи. В рассказе «Логика» создатель трех законов нарисовал именно такую картину. Робот, собранный людьми, из-за нарушения Второго закона перестает подчиняться людям. Мало того, так он еще и начинает считать более развитой расой по сравнению с людьми, хоть несознательно и оберегает их от любой опасности. Нарушение второго закона может нанести значительный душевный вред людям и вновь разбудить в них комплекс Франкенштейна, поэтому трогать его заранее не разобравшись в принципе работы трех законов тоже не стоит. О третьем законе я позволю себе сегодня умолчать, так как он является самым малозначимым законом, и нарушение его не несет никакой опасности для человека.
Надеюсь, мне удалось донести до вас хоть толику важности законов робототехники и опасности их модификации. И всё же для практического использования этих законов человечеству понадобилось немало различных уточнений. Четко выверенных и прошедших десятки различных испытаний уточнений. В конце, хотелось бы вам напомнить, что и сам Азимов признавал необходимость уточнения законов, называя их двусмысленными. В любом случае мы должны поблагодарить Айзека Азимова за проделанную им работу. Айзек позволил людям по-иному взглянуть на робототехнику и со временем совершить гигантский рывок в будущее…

Отрывок из выступления Григория Кельвина
Январь 2129 года
Для справок

Иное