Но ведь человек может приказать роботу нечто невыполнимое или его воля поставит робота перед дилеммой, которая может повредить позитронный мозг. В расскаже «Лжец», опубликованном в 1940 году, человек совершенно сознательно поставил перед роботом задачу, которая сожгла его мозг, и машина перестала существовать.

Мы можем даже представить ситуацию, когда появятся достаточно разумные роботы, которые будут в состоянии избежать гибели, если их вынудят делать нечто бессмысленно сложное или злостное. Следовательно, Второй закон науки о человеке должен гласить:

2. Человек должен отдавать роботу приказы, которые не вредят существованию робота, если только эти приказы не явятся причиной вреда или неудобства для других людей.

Целью Третьего закона роботехники было защитить роботов, но с точки зрения робота он может показаться не слишком надежным. Робот должен пожертвовать собой, если того потребуют Первый и Второй законы. Когда речь идет о Первом законе, тут не может быть никаких возражений. Робот обязан забыть о собственной безопасности, если это единственный путь защитить человека или предотвратить опасность, которая ему угрожает. Если мы признаем, что любое человеческое существо важнее любого робота (по правде говоря, я признаю это не вполне охотно), то такая формулировка неизбежноа.

С другой стороны, должен ли робот жертвовать собой, выполняя какой-нибудь несущественный или даже вредоносный приказ? В «Двухсотлетнем человеке» хулиганы сознательно приказывают роботу разобрать себя на части исключительно ради собственного развлечения. Получается, что Третий закон науки о человеке должен звучать следующим образом:

3. Человек не должен причинять вреда роботу или своим бездействием допустить, чтобы роботу был причинен вред, кроме тех случаев, когда робот вынужден пожертвовать собой, чтобы спасти человека или выполнить жизненно важный приказ.

Естественно, мы не можем навязать эти законы, как в ситуации с законами роботехники. Мы не в силах запрограммировать мозг человека, как мозг робота. Однако это начало, и я искренне считаю, что, если нам предстоит управлять умными роботами, мы должны быть за них ответственны, как сказал мой герой из рассказа «Двухсотлетний человек».

(adsbygoogle = window.adsbygoogle || []).push({});

1 2

На этой странице вы можете бесплатно читать книгу Законы науки о человеке - Айзек Азимов бесплатно.

Похожие на Законы науки о человеке - Айзек Азимов книги

Новые Миры Айзека Азимова. Том 5 - Айзек Азимов - Научная Фантастика
Основание - Айзек Азимов - Научная Фантастика
Обнаженное солнце - Айзек Азимов - Научная Фантастика
Обнаженное солнце (сборник) - Амброз Бирс - Научная Фантастика
Новые Миры Айзека Азимова. Том 3 - Айзек Азимов - Научная Фантастика
Антология фантастических рассказов - Пол Андерсон - Научная Фантастика
Роботы и Империя (пер. М.Букашкина) - Айзек Азимов - Научная Фантастика
Американская фантастика. Том 14. Антология научно-фантастических рассказов - Роберт Хайнлайн - Научная Фантастика
И грянул гром… (Том 4-й дополнительный) - Вашингтон Ирвинг - Научная Фантастика
Лучшее за год XXV.I Научная фантастика. Космический боевик. Киберпанк - Гарднер Дозуа - Научная Фантастика

Оставить комментарий