В будущем роботы спасут или погубят всех нас

Осенью 1941 года, когда бушевала война в Европе и России, писатель-фантаст Айзек Азимов написал короткий рассказ о далеком-далеком будущем.

Азимов представлял, что в будущем все роботы будут следовать следующим трём законам:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.


Робот должен подчиняться приказам, отданных ему людьми за исключением случаев, когда эти приказы противоречат первому закону.

Робот должен защитить свое собственное существование, пока такая защита не противоречит первому или второму законам.

Сегодня роботы не настолько разумны, как предполагал в своей книге Азимов, но в самом ближайшем будущем, хотя, возможно, в течение жизни одного поколения, роботы, будут умнее и сильнее, чем робот-пылесос Roomba.

Технологический прогресс неизбежен

В Асиломаре в 2009 году исследователи и роботостроителей собрались вместе, чтобы обсудить свои проблемы, начиная от вероятности того, что искусственный интеллект превзойдет органическое разнообразие к 2023 году и, что новый ящик Пандоры генетики, нанотехнологий и робототехники почти открыт, но мы вряд ли это замечаем.

Физик Стивен Хокинг, предприниматель Илон Маск и соучредитель компании Apple Стив Возняк одни из почти двадцати тысяч подписавших письмо, призывающее к запрету применения «автономных оружейных систем».

Мировая гонка вооружений практически неизбежна, и конечная точка очевидна: автономное оружие станет автоматом Калашникова завтрашнего дня. В отличие от ядерного оружия, оно не требуют дорогостоящего обслуживания, поэтому станет дешевым и доступным для всех военных держав и для массового производства. Вопрос времени, когда они появятся на черном рынке и окажутся в руках террористов и диктаторов.

Хокинг и Маск считают, что военные технологии высвободят «демона», представляющего угрозу человечеству.

Но многие утверждают, что это же оружие необходимо использовать для борьбы с теми же ИГИЛ и другими террористами. А так же необходимо ужесточить контроль над производством этого оружия, чтобы не допустить его попадания в злые руки.