Роботы: утопия или апокалипсис?

Ссылка: Информация 150910 (2015), Вестник ОНЗ РАН, 6, url: http://onznews.wdcb.ru/news15/info_150910.html
^ Главная страница

В июле этого года внимание научной общественности привлекло подписание петиции против использования автономных роботов в военных целях в связи с их потенциальной опасностью для человечества. Петиция была составлена на Международной объединенной конференции по искусственному интеллекту (IJCAI) в Буэнос-Айресе с участием выдающихся ученых и бизнесменов, среди которых Стивен Хокинг, Илон Маск и Стив Возняк. Согласно ей, "Автоматические оружейные системы идеальны для таких целей, как убийство, дестабилизация государств, подавление народных волнений и уничтожение отдельных групп людей по этническому признаку".

… "Автоматические оружейные системы идеальны для таких целей, как убийство, дестабилизация государств, подавление народных волнений и уничтожение отдельных групп людей по этническому признаку" …

На первый взгляд, все это кажется сюжетом очередной антиутопии. Как правило, мораль подобных произведений или кинокартин, в которых роботы восстают против человека, довольна проста: роботы роботами, но человека, с его богатым внутренним миром, способностью чувствовать, сопереживать и находить самые нестандартные решения проблем, никогда не заменить. Вместе с тем, нам уже трудно представить современный мир без роботов. Их можно обнаружить как на конвейерах фабрик, так и в армиях наиболее развитых стран. Преимущества роботов налицо: они не устают, не болеют, могут выполнять самые тяжелые задания и не нуждаются в оплате своего труда. Отсюда встает вполне закономерный вопрос: каким будет место человека в скором будущем, если вообще таковое для него найдется?

Немного истории

… первый чертеж человекоподобного робота, дошедший до нас, датируется 1495 годом и принадлежит Леонардо да Винчи. …

Слово "робот" пришло к нам из чешского языка (от чеш. robota — подневольный труд, тяжелая работа), предположительно впервые его употребил чешский писатель Карел Чапек в своей пьесе R.U.R. (Россумские Универсальные Роботы) в 1920 году. Действие данного произведения разворачивается вокруг фабрики по производству искусственных людей — роботов. Автор ставит вопрос об этичности использования подобных "людей" и размышляет на тему возможных последствий такого использования.

Первый чертеж человекоподобного робота, дошедший до нас, датируется 1495 годом и принадлежит Леонардо да Винчи. Он спроектировал механического рыцаря, который был способен сидеть, открывать забрало, двигать руками и головой. В 1738 году Жаном де Вокансоном был спроектирован робот, умевший играть на флейте, в чьем репертуаре было 12 произведений. В конце XIX века отечественный изобретатель Пафнутий Чебышев придумал особый механизм, который обладал высокой проходимостью. В 1898 Никола Тесла провел испытания радиоуправляемого судна в миниатюре.

После выхода пьесы Чапека уже в 1927 году американский инженер Уэксли продемонстрировал на Всемирной выставке простейшего робота, способного, однако, выполнять человеческие команды. В 1950-х роботы начинают использоваться при работе с радиоактивными материалами. К 1970-м появляются аппараты для обезвреживания взрывоопасных предметов, а начиная с 1980-х можно говорить о появлении рынка робототехники как такового, где лидером по производству роботов стала Япония.

До чего дошел прогресс

Пожалуй, человечеству всегда хотелось, чтобы всю тяжелую работу кто-нибудь взял на себя, и вот мечты утопистов начали сбываться. В результате это освободило многих людей от необходимости трудиться на износ, но, в то же время, лишило большое количество низкоквалифицированных работников мест для возможного трудоустройства.

Тяжелый и монотонный конвейерный труд давно уже удел роботов. Одна из крупнейших в мире компаний Amazon также активно использует роботов-грузчиков на своих складах. Совсем недавно начались испытания беспилотных грузовиков. В ДР Конго пятирукий робот Robtocop следит за дорожным движением. Многие сети быстрого питания стремятся к максимизации прибыли, для чего активно внедряют роботов в процесс обслуживания клиентов. К 2016 году самая известная сеть фастфуда Макдоналдс планирует открыть до 25 тысяч ресторанов, которые будут управляться исключительно роботами, хотя и останется пара сотрудников, следящих за работой машин.

Многим людям такой прогресс кажется благом, прежде всего, речь идет о лицах, в чьих руках сконцентрированы большие капиталы. Внедрение роботов на производство или в процесс обслуживания клиентов сулит невероятное сокращение издержек. По оценкам некоторых экспертов через 20 лет рабочих мест лишатся 10 миллионов людей. Так, в Китае уже планируется строительство завода, где всю работу возьмут на себя роботы. В штат такой фабрики на первое время возьмут 200 человек, которые будут обслуживать роботов и следить за соблюдением порядка на производстве. А пока эта технологическая компания Shenzhen Evenwin Precision Technology Co., занимающаяся изготовлением частей для разнообразных гаджетов, собирается сократить количество своих работников на 90%.

Война и роботы

Если промышленные роботы способны отобрать у нас работу, то боевые могут отобрать жизни большого количества людей за короткий промежуток времени.

Преимущества роботизированных армий вполне очевидны. Вновь, как и на производстве, роботам не нужен сон, еда, поддержание морального духа и пр. Кроме того, в процессе проектирования робота его можно наделить теми функциями и характеристиками, которые будут нужны в зависимости от погодных условий, качества армии противника и ее численности.

Основной аргумент, которым оперируют сторонники внедрения роботов в военные кампании, состоит в том, что благодаря механическим бойцам можно будет снизить количество человеческих смертей. Идеалом многих военных является война роботов с роботами, ведь им не нужна медицинская страховка, не требуются затраты на переподготовку, а в случае масштабного уничтожения механических бойцов всегда можно создать новых, что будет гораздо быстрее, чем в случае с человеческими ресурсами. Однако, еще в 2012 году международная неправительственная организация Human Rights Watch выступила против использования автономных военных роботов. Доклад оргазации "Теряя человечность: доводы против роботов-убийц" (Losing Humanity: The Case Against Killer Robots) в целом сводится к тому, что полностью самостоятельные боевые роботы в конце концов будут убивать всех без разбора, а потому стоит запретить разработку, производство и внедрение автономных военных роботов на законодательном уровне.

Авторы доклада классифицируют роботов по степени участия человека в процессе их действия. Три группы роботов определяются как "человек-в-системе-управления" (human-in-the-loop), "человек-над-системой-управления" (human-on-the-loop) и "человек-вне-системы-управления" (human-out-of-the-loop). Последняя категория, к созданию которой, видимо, стремятся развитые страны вроде США, представляет для людей наибольшую опасность в виду своей полной автономности. Автоматические оружейные системы теоретически могут привести к тому, что геноцид и тоталитарные режимы станут проще в претворении в жизнь, чем когда бы то ни было.

Сгущая краски

Очевидно, что использование роботов в промышленных целях стало своеобразной точкой невозврата — производство никогда не станет прежним. Но что это значит для нас и каково наше предполагаемое будущее? Экономист Карл Бенедикт Фрей и инженер Майкл Осборн предполагают, что в ближайшее время в США могут исчезнуть 47% рабочих мест. Некоторые считают, что проблемы нас ждут отнюдь не в будущем, а уже в настоящем. Так, экономисты Георг Грец и Гай Майклс провели исследование, результаты которого заставляют задуматься — современные технологии в области робототехники уже привели к тому, что под ударом оказались низкоквалифицированные рабочие, которые продолжают терять свои места.

Соучредитель Microsoft Билл Гейтс считает, что сам искусственный интеллект (ИИ) несет в себе явную угрозу: "Я принадлежу к той половине людей, которая обеспокоена суперинтеллектом, — пишет Гейтс. — Сначала, машины будут делать за нас много работы, но не будут очень умными. Если мы правильно к этому подойдем, то это принесет пользу. Тем не менее, через несколько десятилетий их интеллект станет настолько развитым, что они будут представлять угрозу."

Позиции некоторых других ученых и исследователей близки к позиции Гейтса. Так, известный благодаря своим передовым компаниям в области технологий Tesla и Илон Маск считает, что ИИ может быть опаснее ядерного оружия, поэтому необходимо создание международного регулирования разработок в области ИИ. Один из самых известных физиков современности, Стивен Хокинг, не менее пессимистичен. "Развитие полноценного искусственного интеллекта может предвещать начало конца для людей. Это начнется само по себе и будет самоизменяться с бешеным темпом. Люди, ограниченные медленной биологической эволюцией, не смогут противостоять и будут вытеснены", — говорит Хоккинг. Большинство исследователей в области ИИ склоняются к мысли, что его использование стоит серьезно ограничить и уж точно не давать ему в управление летальное оружие.

Подведем итоги

Сценарий, согласно которому роботы поработят все человечество или решат его уничтожить из личных побуждений, все еще представляется довольно-таки нереальным. Многие концепции сознания говорят в пользу того, что искусственный интеллект радикально отличается от человеческого и, несмотря на способность отдельных ИИ к обучению, роботы не обладают сознанием в человеческом смысле слова. Опасность, как представляется, все еще исходит от самих людей, от того, какой вектор развития они выберут. Наиболее вероятно нас ждет не самое радостное будущее, в котором владельцы активов не только сосредоточат в своих руках богатства, но и максимум технологий, что приведет к их господству над отдельными группами населения, что, впрочем, в той или иной форме можно наблюдать уже сегодня.

А. Павленко (по материалам из открытых источников)

Сопутствующие линки: