Поработят ли нас машины? Захватят ли роботы мир Когда роботы захватят человечества

Ребята, мы вкладываем душу в сайт. Cпасибо за то,
что открываете эту красоту. Спасибо за вдохновение и мурашки.
Присоединяйтесь к нам в   и ВКонтакте

Совсем недавно роботы казались нам чем-то из области фантастики, а сегодня они стали еще одним поводом для смеха в сети, совершая разные выходки наравне с нами и нашими питомцами.

сайт собрал 14 историй о роботах, показывающих, что совершать промахи и роковые ошибки могут не только люди, но и «умные» машины.

Чем больше развивается искусственный интеллект, тем амбициознее его планы на этот мир.

1. Робот-гуманоид Sophia

София (Sophia) - самый популярный робот-гуманоид на сегодняшний день. Это гениальная машина от компании Hanson Robotics, которая очень популярна в СМИ и регулярно появляется в телевизионных шоу. София выступала перед советом ООН, снялась для обложки журнала ELLE и стала первым роботом-гражданином, получив гражданство Саудовской Аравии.

Присмотреться внимательнее к Софии заставляет фраза, которую она произнесла во время ток-шоу The Tonight Show. Рассказав анекдот и победив ведущего в игре «камень-ножницы-бумага», София сказала, что это отличное начало ее плана доминирования над человечеством.

2. Робот-гуманоид Bina48

Бина48 (Bina48) - еще один завсегдатай телевизионных шоу, а также первый в мире робот-студент. Бина поступила в американский вуз на факультет философии, где учится лучше понимать человеческие эмоции и поведение, сострадать и заботиться.

Этот робот является точной копией покойного Филипа Киндреда Дика - американского писателя-фантаста. Филип не только внешне похож на свой прототип, но и думает как знаменитый писатель, чьи романы стали базой данных робота.

Боты говорят между собой уже не впервые. В 2017 году чат-боты фейсбука - Боб (Bob) и Элис (Alice) - в определенный момент стали общаться не с людьми, как было задумано, а между собой на собственном языке . Из-за опасений, что искусственный интеллект сможет функционировать без контроля специалистов, чат-боты были в срочном порядке отключены.

Мы боимся, что роботы захватят мир и нам придется бежать в другие галактики в поисках спасения. Но жизнь показывает, что пока бегут именно роботы.

9. Робот Gaak сбежал от насилия

Робот Gaak был участником проекта искусственной эволюции Living Robots, в рамках которого на закрытой арене одни роботы охотились на других. Gaak был выведен для мелкого ремонта во временный загон, откуда

Приветливый андроид по имени Пеппер разработан компанией SoftBank Robotics, чтобы жить рядом с людьми, не раздражая их. Будем ли мы относиться к роботам как к машинам, как к домашним любимцам или как к разумным существам? Скоро проблемы отношений с искусственным интеллектом придется решать не только ученым и инженерам, но и детям, домохозяйкам и пенсионерам - по прогнозам, 31000000000 роботов-слуг будут помогать нам дома уже в 2019 году.

Промобот снова герой

Промоботы - наверное, самые известные российские роботы. Работают главным образом гидами, в торговых центрах и на мероприятиях, где нужно развлекать публику. Их умений хватает, чтобы не натыкаться на людей и поддерживать беседу, отпуская глуповатые шуточки. Но и этого оказалось достаточно, чтобы продаваться лучше, чем все остальные российские сервисные роботы, вместе взятые.

Судя по всему, не последнюю роль в этом играет пиар. Сначала Промобот попал в новости как "сбежавший робот": он выкатился с тестового полигона в открытые ворота и остановился посреди проезжей части, создав пробку. Некоторое время спустя робот выступил в качестве агитатора на выборах в Госдуму и был задержан за незаконный одиночный пикет - на него даже пытались надеть наручники.

Но все затмил новый подвиг: подняв руку, Промобот спас девочку, на которую начал падать стеллаж. Создатели говорят, что не знают точной причины рыцарского поступка: то ли робот собирался поздороваться, то ли работал в зеркальном режиме и повторил жест девочки, поднявшей руки.

Те, кто пугает нас, что роботы захватят власть над людьми, обычно представляют себе нереальную ситуацию, при которой развиваться будут только машины, а все окружающее их останется неизменным. Этот подход основан на убеждении, что эволюция технологий искусственного интеллекта станет протекать совершенно автономно, в отрыве от всех социальных, культурных и цивилизационных процессов.

Большая красная кнопка

Между тем в действительности развитие робототехники, как и всех других отраслей, сопровождается действиями людей, направленными на приведение развития в соответствие существующей в обществе иерархии ценностей. Из-за этого в будущем роботы будут, возможно, работать совершенно в ином окружении и на иных условиях, чем мы сейчас себе представляем.

В этом контексте кажутся в целом бессмысленными разговоры о так называемой этике роботов. Этика как умение различать добро и зло относится только к людям, которые создают роботов или пользуются ими. Нет оснований всерьез рассматривать сценарии, что автономно действующему автомобилю придется в какой-то момент самому решать, рисковать ли пассажирами, совершая резкий поворот вбок, который приведет к столкновению с фонарем, чтобы спасти оказавшегося перед машиной пешехода, или же спасать пассажиров, рискуя жизнью и здоровьем пешехода-неудачника.

Более вероятен такой сценарий, что дороги для самоуправляющихся автомобилей будут полностью закрыты, так что пешеход вообще не сможет на них появиться.

Другой вариант — это запрограммированная четкая процедура действий робота в аварийной ситуации. Она используется сейчас в беспилотных аппаратах. Если такой аппарат теряет связь с оператором или в его программе возникает ошибка, он не предпринимает никаких дальнейших самостоятельных действий, а переходит к записанному алгоритму возвращения на базу.

Это своего рода цифровой аналог большой красной кнопки, которая используется в промышленной автоматике: в случае угрозы она позволяет одним движением отключить работу всей системы.

Общества постоянно стараются адаптировать механизмы своего функционирования (законы, государственные институты, инфраструктуру) к вызовам, связанным с развитием технологий. Именно людям придется найти решения (технические, юридические, организационные), которые сведут на нет угрозу со стороны машин и позволят использовать их в соответствии с обозначенными целями. Ни одно решение в этой сфере нельзя оставлять технике.

Если, например, общепризнанной ценностью, как мы все больше видим это сегодня, станет стремление к экономизации практически всех сфер человеческой жизни, то роботы станут в первую очередь служить оптимизации стоимости труда, сокращению расходов и замене более дорогих решений дешевыми.

Если некоторые решения разойдутся с общепринятыми представлениями об общем благе или даже будут направлены против интересов отдельных людей и групп (например, теряющих рабочие места в некоторых профессиях), это вовсе не значит, что они будут внедряться вразрез со всеобщими (хотя не всегда осознаваемыми) общественными ожиданиями и убеждениями. В конечном счете, на то, как используются любого рода технологии, будут влиять установившиеся в конкретном обществе образцы поведения.

Если взять пример интернет-магазинов, на первый план выходит требование как можно быстрее доставить покупателю заказанный товар. Наши ожидания в значительной мере способствуют тому, что в сортировочных и упаковочных отделах начинают применяться оптимизированные и автоматизированные методы работы, в частности, с использованием роботов или так называемых умных систем управления рабочим процессом. Ведь только так можно сегодня удовлетворить эти ожидания. Так что мы, как это ни парадоксально, сами готовим себе судьбу рабов машин.

В других сферах ситуация похожа. Начнут ли роботы в Японии опекать пожилых граждан только из-за того, что появятся реальные технические возможности создать такие машины? Нет. Интенсивные работы по как можно более широкому внедрению роботов в систему социальной и медицинской опеки ведутся в стране цветущей сакуры потому, что формат многопоколенческой семьи переживает там кризис. Пожилые люди не получают помощи и поддержки от родственников, а нанимать к каждому одинокому человеку профессиональную медсестру и сиделку слишком дорого. Спасением в этих обстоятельствах может стать соответствующим образом сконструированный и запрограммированный робот, который поможет справиться по крайней мере с некоторыми будничными делами. Исходная точка здесь — вновь не технологический выбор, а социальная проблема: как обеспечить относительно достойные условия жизни людям, оставшимся без поддержки родственников.

Появление роботов многое меняет и осложняет, но одновременно — упрощает и позволяет. Те, кто призывает нас сейчас освободиться от диктата роботов, грешат наивностью.

Человек всегда, испокон веков, поддавался влиянию общества, в котором жил. Окружение постоянно влияет на нас, заставляет действовать по действующим в нем правилам. Господство и давление роботов и искусственного интеллекта заключается не в том, что они заменят нас в принятии решений и управлении нашей судьбой, а в том, что нам придется придерживаться правил, проистекающих из их существования в нашей жизненной среде, приспосабливаться к принципам, которые возникнут из-за их присутствия в разных сферах нашей жизни.

Например, помнить об алгоритмическом характере работы умных машин, связанных с этим возможностях, а одновременно ограничениях. Иначе мы не сможем успешно функционировать в современной цивилизационной среде, как не можем сейчас выжить в джунглях, не зная царящих в ней законов природы и не соблюдая их.

В последнее время повсюду цитируют предостережения из открытого письма, которое подписали влиятельные представители науки и бизнеса, в частности, физик Стивен Хокинг (Stephen Hawking), предприниматель Элон Маск (Elon Musk), а также представители компаний Google, Microsoft и IBM. Интересно, что научные и предпринимательские карьеры этих людей в значительной мере связаны с развитием систем искусственного интеллекта. Каков в таком случае подлинный смысл их выступления?

Обществу, которое пользуется магическим мышлением, нужны шаманы. Их роль хотят взять на себя сегодня эксперты. Открытое письмо, как мне кажется, призвано показать, кто принадлежит к этой касте посвященных.

Не будем пугать друг друга роботами, искусственным интеллектом и думающими машинами. Это путь в никуда. Давайте воспринимать их присутствие в своем окружении как естественный элемент развития цивилизации и учиться использовать их в собственных целях. Другого варианта, чтобы на самом деле контролировать роботизированную среду, кроме как хорошо узнать ее, нет.

Робот — это, по сути, очень простое, узкоспециализированное устройство, машина с одной или несколькими функциями, которая может точно исполнить лишь запрограммированную задачу. Кто знает, какие новые профессии появятся в будущем на рынке труда в связи с развитием навыков пользования функциями, которые в разных жизненных ситуациях могут предложить нам роботы.

Не выпустить из рук сферу искусственного интеллекта

Если мы хотим узнать, что смогут в будущем делать роботы, нас следует взглянуть на самих себя. Вместо того чтобы спорить об этике роботов, подумаем о наших собственных (групповых и индивидуальных) воззрениях на развитие робототехники. Взглянем на ценности, которые мы исповедуем, подумаем, каких правил мы придерживаемся в нашей частной, общественной и профессиональной жизни, каким образом они могут отразиться в способах использования умных машин.

Искренний ответ на эти вопросы может сказать многое о возможностях и перспективах использования роботов. Мы увидим, какие из них могут быть добрыми, а какие нанести нам вред. Задумаемся, какие у нас мечты, какие цели мы себе ставим, как мы представляем мир и свое место в нем, и тогда мы увидим, что можно позволить роботам, а к чему их допускать не следует.

Общество должно взять на себя ответственность за собственные действия перед лицом вызовов современной цивилизации, и это единственный путь, чтобы не выпустить из своих рук сферу искусственного интеллекта, точнее, не отдать ее тем, кто его создает. Но это уже тема для другой статьи.

Анджей Гонтаж — культуролог, бывший директор по вопросам информатизации Центра современного искусства Уяздовский замок и главный редактор журнала Computerworld.

Робототехника и программирование — одно из самых популярных технических направлений как у создателей, так и у инвесторов. “Игры роботов” — соревнования, где механизмы переносили грузы, участвовали в гонке и толкались в сумо. Я подумала, если они могут сражаться между собой, то и людей ведь могут “повалить”? Вот что ответили мне участники МИИ:

— Я не думаю, что роботы могут напасть на человека. Они наше творение, имеют программу, точно запрограммированную на задачу, и немыслимо, чтобы они пытались захватить над нами власть. Конечно, если они находятся в исправном состоянии. Минус искусственного интеллекта в том, что их могут взломать или в программе происходит какой-нибудь сбой. В таком случае они могут нанести какой-то вред человечеству. Главное, следить за состоянием робота и ничего ужасного не произойдет.

— Главное не забывать следить за работой и не упускать каких-либо повреждений. Наши роботы маленькие, они не могут нанести существенный вред ничему, кроме себя. Программа у них тоже несложная. Главное уметь разбираться в этом и все будет хорошо.

Позитивная точка зрения участников не сходится с паникой общества в интернете. Сегодня эта тема развивается не только в науке, образовании, но и в индустрии кино и игр. Недавно вышедшая игра “Detroit: become the human” подогрела интерес еще сильнее: в ней роботы становятся людьми. Смогут ли механизмы со временем походить на человека? Ведь еще недавно андроид София получила законное гражданство Саудовской Аравии.

— Я считаю, что человек вправе создавать своего андроида, давать ему человеческие качества, но при этом он может и отменить это. Роботы созданы для того, чтобы помогать нам, это их главная задача, и только если человек сам не захочет быть под властью андроида, то такое случится.

Однако, не все против того, чтобы находиться под руководством роботов. Почему бы не отдать роботам все материальные заботы? ()? Разве не беззаботно заживут люди? Участники МИИ спорят:

— Все бы хотели отказаться от ежедневной рутины. Однако люди непостоянны. В скором времени всем надоест.

— Тони Старк, знаменитый герой комиксов Marvel, не выглядел скучающим со своими неживыми друзьями.

— Да, но ему все равно нужна была помощь, человеческая поддержка и любовь. Несмотря на гениальность, Железный Человек не был бы таким без помощи своих друзей и их поддержки.

Говоря о гениях, Илон Маск, гений сегодняшний, опасается не только того, что в будущем роботы захватят контроль, но тщеславия людей, которое может привести к войнам. Еще недавно Китай объявил о том, что к 2030 году станет мировым центром Искусственного Интеллекта. Сражение за первое место может разогреть мировую войну. Может ли такое случиться? И можем ли мы так далеко зайти?

— Это человеческий фактор. Будет неудивительно, если Третья мировая начнется за первенство искусственного интеллекта. Мне бы хотелось верить, что правительство благоразумно и не станет так необдуманно поступать.

Но если это может разогреть войну, то может ли тот же искусственный интеллект спасти нас от этого? Может ли он решить проблемы экологии, экономики, социологии, политики?

— Только в том случае, если человек сам даст такую возможность роботу. Искусственный интеллект — не живое существо, которое имеет генетический код, природные задатки, способности к чему-либо. Да, оно вмещает в себя огромное количество информации, не устает и не переутомляется, но при этом, если сам человек не даст ему программу действовать, робот может спокойно работать в саду, даже если рядом разрывается половина земного шара.

Тогда искусственный интеллект — это ничего, кроме готовой программы ? Все опасения людей всего лишь взяты из фантастической литературы?

— Людям нечего опасаться. Кроме того, что робота можно взломать, или у него сбой системы. Все же излишняя популяризация не понесет за собой глобальных проблем. Это если не появится злой гений, который решил поработить мир. В таком случае человечеству вряд ли повезет.

Радует то, что сейчас этим вопросом активно занимаются и готовы предпринять меры современные гении. С таким раскладом вряд ли искусственный интеллект попытается уничтожить людей. Но на всякий случай лучше разбираться в робототехнике и иметь хотя бы основы программирования. На всякий случай.

Милена ГУЛЯЕВА

Могут ли роботы захватить мир? Мнения участников МИИ