<< НАЗАД ко всем статьям

Плодовитый ученый и писатель-фантаст Айзек Азимов (1920-1992) разработал три закона робототехники, в целях защиты от потенциально опасного искусственного интеллекта. Они впервые появились в его рассказе 1942 года «Хоровод» и звучат так:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен подчиняться приказам, отданным ему людьми, за исключением тех случаев, когда такие приказы противоречат Первому Закону.

3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.

Поклонники Азимова говорят, что эти законы были присущи его ранним историям. В книге «роботы и Империя» (1985) был добавлен 0-й закон: «робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред.»

Крис Стокс, философ из Уханьского университета в Китае, говорит: «многие компьютерные инженеры используют три закона в качестве основы для своей концепции программирования — Но беда в том, что они не работают. Крис приводит следующие доводы:

Первый закон терпит неудачу из-за двусмысленности в языке и из-за возникающих сложных этических вопросов, на которые не всегда возможно однозначно ответить «да» или «нет».

Второй закон терпит неудачу из-за неэтичной природы закона, который требует, чтобы живые существа были рабами.

Третий закон терпит неудачу, потому что он приводит к постоянному социальному расслоению, с огромным количеством вариантов потенциальной эксплуатации, вытекающей из этой системы законов.

«Нулевой» закон, как и первый, терпит неудачу из-за неоднозначной идеологии. И, наконец, все законы также терпят неудачу из-за того, что легко обойти понятия закона, в то же время оставаясь связанными буквой закона.

Источник: ЯДзен