Законы робототехники. Как регулировать искусственный интеллект. Беспилотные авто и машины с искусственным интеллектом Последнее сообщение intellect board законы

Подготовлен проект конвенции, регулирующей отношения искусственного интеллекта и людей

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте

Фото: Michael Buholzer / Reuters

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» — первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта — это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», — сообщил Жигарев.

Цель разработанной конвенции — определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

• К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
• Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
• Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.
• Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
• Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».
• Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).
• «Человек не должен умалять человеческое достоинство своим обращением с роботами».

Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны — развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», — отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков — Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. — РБК )», — рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» , что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», — передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», — отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», — отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США , например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее . Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе . В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.

Во вторник, 8 мая, в России прошли первые испытания беспилотных автомобилей. Машины с роботом вместо водителя совершили тестовый проезд на автоподходах к Крымскому мосту со стороны Краснодарского края. Все автомобили справились с заданиями и показали хорошие результаты. Прокатиться на беспилотном транспорте россияне смогут уже во время чемпионата мира по футболу. Каким будет автомобиль будущего и безопасен ли он, разбирался «360».

В ходе тест-драйва были задействованы автомобили пяти видов, которые оснащены технологиями автономного управления. Так, в испытаниях приняли участие грузовики брендов НАМИ и «КамАЗ», а также два легковых автомобиля моделей Skoda Superb и Ford Focus, говорится в сообщении министерства транспорта.

По данным ведомства, все автомобили справились с поставленными задачами. Машины разогнались до 40 километров в час и выполнили на дороге различные маневры, включая перестраивание в другой ряд, проезд по транспортной развязке и торможение перед пешеходами. Каждая из машин преодолела более 10 километров. На пассажирском сидении находились разработчики, которые «инспектировали» роботов.

«Все транспортные средства показали высокое качество маневрирования и бесперебойное функционирование системы высокоточного спутникового позиционирования, а также системы „машинного зрения“, обеспечивающего детекцию и распознавание объектов, разметки, дорожных знаков и анализ обстановки», - отмечается в сообщении. Тестовый проезд также послужит основанием для законодательного разрешения беспилотным автомобилям ездить по дорогам общего пользования в России.

Несмотря на то, что эти испытания стали первыми и самыми масштабными в стране, говорить о внедрении машин без водителей на дорогах массового пользования пока рано, считает Дмитрий Песков - директор направления «Молодые профессионалы» Агентства стратегических инициатив, которое курирует развитие беспилотников в России.

«Пока российские беспилотники могут функционировать лишь в идеальных условиях, то есть ездить по заранее заданной траектории на трассах без другого транспорта и при этом развивать невысокую скорость. При этом в будущем они могут стать хорошей альтернативой для пассажиров, поскольку автомобиль с искусственным интеллектом в разы безопасней машины с водителем. Согласно мировой практике, роботы допускают в сотни раз меньше ошибок за рулем, чем реальные шоферы», - отметил собеседник «360».

Беспилотники на футболе

Тестирование беспилотников является частью стратегии развития автомобильной промышленности в России на период до 2025 года. Она предполагает внедрение машин без водителя в структуру общественного транспорта уже в ближайшие годы. Причем увидеть новые автомобили россияне смогут уже в июне этого года.

«Россия придерживается „дорожной карты“ по созданию беспилотной автомобильной платформы, и мы продемонстрируем вам результаты в ходе проведения чемпионата мира по футболу 2018 года в РФ», - рассказал вице-премьер Аркадий Дворкович на открытии ежегодного Международного форума науки и технологии. По его словам, болельщики смогут прокатиться на беспилотных автобусах уже в июне.

Между тем на массовый рынок беспилотные автомобили смогут поступить через 5-10 лет, уверен руководитель Федерации автовладельцев России Сергей Канаев. Он сказал «360», что такие автомобили будут особенно востребованы в качестве общественного транспорта.

«Собирать беспилотные автомобили в промышленном масштабе начнут уже через пять, максимум через 10 лет, но среди автолюбителей они вряд ли будут популярны и, скорее всего, будут функционировать как такси или другой общественный транспорт. Конечно, они более безопасны, но у них есть существенный минус - это то, что в экстренной ситуации робот реагирует хуже, чем опытный водитель, который может нарушить ПДД, но избежать аварии. Искусственный интеллект так поступить не может», - добавил Канаев.

«Беспилотное» будущее

Источник фото: Министерство транспорта

В 2020 году во всем мире будут курсировать около 10 миллионов беспилотных автомобилей, а к 2035 году количество таких машин перешагнет отметку в 21 миллион единиц, прогнозируют аналитики BI Intelligence.

Новаторами в этой области выступили США, которые совершили первый коммерческий рейс в конце 2016 года. Тогда беспилотный грузовик Volvo компании Otto перевез 45 тысяч банок пива, преодолев около 160 километров по штату Колорадо.

Американцы даже запустили проект пассажирской беспилотной машины, однако он закончился смертью. В марте беспилотное такси из автопарка Uber сбило насмерть 49-летнюю женщину. В ходе расследования выяснилось, что причиной послужила ошибка в навигации. Сенсоры автомобиля зафиксировали и идентифицировали женщину, но программа решила не реагировать на это «препятствие», и в результате робот сбил человека на полной скорости.

Не отстают от США британские инженеры. В августе прошлого года вблизи Лондона состоялись успешные испытания беспилотных грузовиков. По планам местных властей, подобные машины без водителей появятся на дорогах страны до конца 2018 года. При этом автомобили будут двигаться в колонне по трое, а головным автомобилем все равно будет управлять человек.

Новейшие технологии внедряют и в общественный транспорт. К примеру, в прошлом году в Хельсинки начались испытания двух компактных автобусов, передвигающихся без водителя. По результатам тестов автобусы, разработанные французской компанией EasyMile, собираются включить в систему пассажирских перевозок Финляндии уже осенью 2018 году.

Основные задачи, которые решает программный комплекс «Авто-Интеллект»

Автоматизация контроля проезда транспортных средств на территорию предприятия

В «Авто-Интеллекте» реализована функция распознавания номеров транспортных средств по видео, получаемому от видеокамеры. «Авто-Интеллект» сохраняет в базу данных распознанный номер, изображение транспортного средства, часть кадра с номерным знаком, дата и время регистрации, адрес и другие данные. Таким образом, формируется база всех транспортных средств, прошедших через зону контроля.

В единую систему может быть объединено неограниченное количество видеокамер, серверов хранения и обработки данных, а также автоматизированных рабочих мест оператора.

Автоматическое обнаружение нарушений ПДД и подготовка постановлений об административных наказаниях

Для получения из федеральных и региональных баз данных сведений о владельце транспортного средства, для создания, регистрации и печати постановлений о назначении административных наказаний используется информационная система, позволяющая автоматически обрабатывать и автоматизировать контроль фото- и видеоматериалов, поступающих в электронном виде от систем фотовидеофиксации правонарушений и формировать на их основе дел об административных правонарушениях. Данная система позволяет повысить эффективность пополнения муниципального бюджета за счет штрафов за административные правонарушения.

Розыск транспортных средств

«Авто-Интеллект» позволяет оперативно ввести в собственную базу номер и другие данные разыскиваемого транспортного средства, а также сравнить этот номер с всеми распознаваемыми номерами и в случае совпадения оповестить об этом оператора. «Авто-Интеллект» позволяет сравнивать распознанный номер с федеральными и региональными базами данных розыска, а также с собственными локальными базами.

Оптимизация дорожного движения

Данная задача может решаться детекторами транспортных средств, например, детектором транспорта, который считает количество транспортных средств, их скорость и длину.

Автоматизация взимания платы за пользование платными автодорогами

Автоматизация технологических процессов

В программную платформу «Авто-Интеллект» интегрированы специальные модули, позволяющие автоматизировать производственные процессы, в частности - организацию весового контроля. Модуль обеспечивает своевременный контроль и точный мониторинг работы системы безопасности, автоматически формирует отчеты и производит обмен данными в режиме реального времени в системы бухгалтерского учета.

Контроль оборота подвижного состава

«Авто-Интеллект» распознает номера пассажирских и грузовых железнодорожных вагонов по видеоизображению, определяет направление движения, ведет подсчет вагонов в составе и вносит полученные данные, синхронизированные с видеозаписью, в базу данных. Система позволяет получить по каждому железнодорожному вагону отчет, содержащий время прохождения поста контроля, название поста и связанные видеокадры.

Распознавание номеров грузовых контейнеров

Решение с использованием модуля «ARH-Контейнеры» распознает номерные знаки грузовых контейнеров и сохраняет в базу полученные данные, синхронизированные с видеозаписью. С его помощью осуществляется поиск контейнеров и отслеживается их перемещение. Решение ориентировано на применение в системах управления железнодорожной и портовой логистикой, таможенного контроля грузов.

Основные функции программного комплекса «Авто-Интеллект»:

• автоматическое распознавание государственных номерных знаков транспортных средств;
• автоматический поиск распознанных номеров в базах данных (в том числе базах правоохранительных органов) с оповещением оператора;
• накопление результатов распознавания и соответствующих фото-, видео-материалов в базе данных для последующего использования;
• интеграция со специализированным оборудованием: средства контроля скоростного режима, интеллектуальные видеокамеры;
• автоматическое обнаружение фактов нарушения ПДД:

Скорость - совершенное оружие, сказал недавно Илон Маск, обсуждая финансовые результаты Tesla за третий квартал этого года. Но он имел ввиду отнюдь не скорость своих машин. Речь шла о скорости работы роботов, которые эти машины собирают. Позднее в Твиттере Маск прокомментировал , что уже через несколько лет нам понадобится стробоскоп, чтобы оценить скорость движения роботов.

Скорость развития робототехники и искусственного интеллекта, по всей видимости, переходит на новый уровень. И человечество это понимает - в 2017 году, чтобы не вылететь с трассы, оно приняло национальные и общемировые правила обращения с ней. Проиллюстрирую текущий уровень технологий, и попробую объяснить, почему принятие законов робототехники - неизбежно.

На волне прогресса

По данным Международной Федерации Робототехники, невероятно быстро растет рынок промышленных роботов. В 2016 году их продажи достигли почти 300 000 единиц. Пять лет назад этот показатель был почти вдвое меньше. В результате объем только одного этого рынка составил $13 млрд, а с учетом смежных рынков ПО и компонентов – все $40 млрд.

Уже не первый год завод компании Siemens в Амберге один программируемый контроллер в секунду с невероятным уровнем качества - процент брака составляет всего 0,00115%. Достигнуть скорости производства в 12 млн единиц в год одновременно с сохранением качества помогают роботы - 75% операций автоматизировано.

В Великобритании уже несколько лет успешно используют хирургических роботов Da Vincie для борьбы с раком простаты. Их главное отличие от обычных - высочайшая точность, сохранение околооперационных тканей, а также быстрые сроки восстановления. В свежем исследовании рынка хирургических роботов говорится , что среднегодовой прирост этого рынка в 2017-2021 годах составит 10,53%.

Уже давно никого не удивляет робот-пылесос, как и робот-мойщик окон. Благодаря удешевлению компонентов и производству целого ряда моделей в Китае их стоимость стала серьезно падать, и они хлынули на рынок. Достаточно на финансовые показатели только одного производителя, чтобы понять насколько вырос рынок домашних роботов в последние несколько лет - они уже продаются миллионами штук.

Робот Cheetah компании Boston Dynamics еще в 2012 году показал скорость движения, сопоставимую с рекордами Усейна Болта, а их антропоморфный робот Atlas, в 2017 уже научился делать сальто назад. Но технические достижения - это, пожалуй, не самое впечатляющее. Поражает скорость проникновения робототехники во все аспекты нашей жизни.

Наконец, все чаще компании стали объявлять о наборе роботов в штат. Известный всем пример российского банка, который попытался заменить юристов «искусственным интеллектом», а в некоторые отделения уже поставил роботов для обслуживания посетителей, - одна из ярких, но далеко не единственных иллюстраций.

За робота ответишь?

Скорость внедрения новых технологий действительно поражает! Хорошо это или плохо, вопрос риторический. Однако с развитием робототехники активизировалась новая проблема – регулирования.

Действительно, чем больше появляется роботов (особенно, таких) и киберфизических систем, тем больше вопросов вызывает применение к ним действующих норм. Постулаты Азимова о непричинении вреда человеку и человечеству умными роботами уже давно не вызывают эмоций у большинства специалистов.

Вопросы, ответы на которые хотелось бы получить уже сейчас: есть ли ограничения на использования военных роботов? Кому принадлежат авторские права на созданные роботом произведения и кто ответит за его поступки, например ущерб, принесенный автопилотируемой машиной?

В применение «искусственного интеллекта» в финтехе уже нужно вмешаться, или стоит подождать еще нескольких сбоев бирж? Как будем защищать имплантируемые роботизированные механизмы и что делать, если имплантат в сердце есть, а компании-производителя уже нет?

Ну и наконец, проблема сильного искусственного интеллекта (ИИ, сравнимый с человеческим мозгом по уровню интеллекта) все-таки реальна и нам уже нужно контролировать его разработки, или разберемся как-нибудь потом?

Самозарождение правил

Первые подходы к таким проблемам обозначили в Южной Корее. В 2007 году там анонсировали разработку Этического устава роботов (документа с тяжелой судьбой; о его существовании за пределами Кореи практически ничего так и неизвестно, хотя корейская версия, как оказалось, похоже все-таки существует). Затем там же приняли закон о содействии развитию умных роботов.

Но в последние годы проблема регулирования вышла на новый уровень. Обозначим основные подходы.

Частные законы . Множество экспертов высказывало свои мнения о том, как должны регулироваться отношения между роботами и людьми. Например, Три закона робототехники фантаста Айзека Азимова , или Десять законов ИИ Сатьи Наделлы , руководителя компании Microsoft. Даже Карел Чапек, создатель слова «робот», упоминает в R.U.R. некую Лигу Гуманности, борющуюся за права роботов на нормальное отношение со стороны людей.

Позиция сообществ . Иногда высказанные предложения о регулировании поддерживаются целым сообществом экспертов. Хороший пример - 23 Азиломарских принципа искусственного интеллекта, разработанных и опубликованных в январе 2017 года под эгидой Future of Life Institute. Их подписало уже почти 4 000 экспертов и специалистов. Ученые предлагают направить свои усилия на создание управляемого, надежного и полезного ИИ, отказаться от «гонки вооружений» на основе ИИ и подумать о безопасности разработок, а также ответственности самих разработчиков.

Предложения, которые высказываются экспертами, по существу являются примером первых попыток саморегулирования , когда частные лица или компании разрабатывают правила до того, как государство разработает законы, обязательные для выполнения. Одним из характерных атрибутов саморегулирования является объединение в ассоциации. Их правила становятся обязательными для ее членов. Примером такой ассоциации является Partnership on AI - партнерство, участниками которого являются Amazon, Apple, Google, IBM, Facebook, Microsoft и другие. Оно создано в 2017 году и о конкретных правилах говорить пока рано, но мы видим один из уникальных примеров объединения крупнейших компаний мира (к слову, конкурентов в ряде областей) вокруг проблемы развития искусственного интеллекта.

Регулирование на национальном уровне

На протяжении 2017 года мы увидели целый ряд примеров того, как государство пытается регулировать киберфизические системы.

Например, в Германии принят закон, призванный открыть дорогу автономному транспорту. Законодатели выделили категорию автомобилей «со значительно или полностью автоматизированной функцией вождения» и разрешили водителями отвлекаться от ситуации на дороге. Одновременно, правда, удвоили лимит ответственности за причиненный вред и ввели правило обязательной установки «черного ящика».

Нашествие машин

В скором будущем роботы будут покушаться на наши рабочие места, озабочен Европарламент. Там обнародовали проект по регулированию деятельности роботов - не исключено, что он даст толчок к созданию нового законодательства. Читается как научная фантастика.

Будущее уже наступило - такой вывод можно сделать из проекта доклада, представленного в Европарламенте и посвященного... роботам. А точнее - юридическим и законодательным вопросам, связанным с фактом их существования.

Но с какой стати европарламентарии занялись правами тех, кого юридически не существует? В докладе отмечается: человечество стоит на пороге новой эры, когда множество ультрасовременных роботов, андроидов и иных воплощений искусственного интеллекта могут стать причиной промышленной революции - она затронет все слои общества, так что, мол, жизненно необходимо рассмотреть все возможные последствия. Звучит сенсационно: в конце концов, одно дело, когда так говорят футурологи, другое - когда перед тобой текст официального документа. Впрочем, одними декларациями авторы не ограничиваются и приводят статистику: между 2010 и 2014 годом рост продаж роботов в Европе в среднем составил 17 процентов в год, в 2014-м - и вовсе рекордные 29 процентов. А число ежегодных патентных заявок в сфере робототехники за последние 10 лет и вовсе утроилось!

Техника познания

Сегодня роботами называют почти любое автоматическое устройство, выполняющее какую-то функцию. С точки зрения рыночной экономики это привлекательно, с точки зрения науки - спекуляция.

Данные Европарламента вполне соотносятся с победными реляциями Международной федерации робототехники (IFR): в прошлом году продажи промышленных роботов в мире установили новый рекорд - 248 тысяч единиц. А к 2018-му в заводских цехах разместят около 2,3 млн роботов, как минимум вдвое больше, чем в 2009-м (1 млн). Еще больше завораживают цифры по сервисным роботам: по данным той же IFR, в 2014-м по всему миру было продано 4,7 млн таких автоматов для личных нужд или домашнего использования (на 28 процентов больше, чем в 2013-м), а между 2015-м и 2018-м в год реализуют 35 млн! Фантазия разработчиков не ограничивается роботами-пылесосами. В компании Sony уже заявили о разработке робота, способного "наладить эмоциональную связь" с человеком, робот-адвокат (строго говоря, компьютерная программа) лихо оспаривает у полиции Лондона и Нью-Йорка штрафы за парковку, а система искусственного интеллекта недавно обставила в имитации воздушного боя полковника ВВС США. И пусть это еще не роботы в том виде, как их изображает Голливуд (речь, скорее, о продвинутых автоматах), однако революция, как ни крути, налицо.

Самый сенсационный момент - создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями.

Теперь о тревожном. Нет, машины не захватят власть над людьми, однако они вполне могут отобрать наши рабочие места, о чем и предупреждают в докладе. А вот прогноз от Oxford University: половина рабочих мест в США будут отданы роботам в ближайшее десятилетие или два - речь не только о заводских рабочих, но и о водителях такси, например. Видят ли опасность эксперты?

Роботы все чаще взаимодействуют с людьми в различных сферах жизни,- признает Сюзанна Бек, профессор права в Университете Ганновера (Германия) и признанный специалист по проблеме.

Нечеловеческая ответственность

Голливуд постоянно дополняет и модифицирует первые три "закона" робототехники - не причинять вред человеку, повиноваться ему и заботиться о своей безопасности

В интервью "Огоньку" профессор Бек подчеркивает: сегодня шансы, что автоматы могут нарушить права и интересы "третьих сторон", возросли. К тому же машины все более автономны и все труднее назначать конкретных людей ответственными за их действия. Чтобы избежать такого "отсутствия юридической ответственности", заключает эксперт, и нужно адаптировать существующие законы к новой реальности с участием роботов.

Фактически доклад, представленный в Европарламенте, пытается законодательно ответить на новые вызовы (его докладчик, член парламента от Люксембурга Мади Делво, на момент сдачи номера была недоступна для комментария). Самый сенсационный момент, о котором сразу написали мировые СМИ,- это создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями. Еще один пункт связан с налогами: речь о том, что компании, владеющие роботами, должны сообщать, какой вклад те делают в прибыль компании, из этого будут рассчитываться налоги и отчисления в систему социального обеспечения. Авторы рассматривают и случаи, когда в результате автономных действий робота нанесен некий ущерб - кто за него будет платить? По сути, предлагается в докладе, необходима система обязательного страхования, как в случае с дорожным движением, однако на дорогах система страхования покрывает действия людей, в случае же с роботами это могут быть их производители... А как насчет прав на интеллектуальную собственность, созданную роботом? Кому они будут принадлежать? Здесь, пишут авторы, требуются дополнительные законодательные усилия.

«Мы уже живем в новой реальности»

Почему современных математиков называют шаманами, о чем думает искусственная нейросеть и какое отношение имеет проблема Больших данных к племенным курам.

Эксперты, впрочем, считают, что паниковать из-за засилья автоматов пока все же не стоит. По словам Сюзанны Бек из Университета Ганновера, то, что роботы могут заменить людей, громко сказано, хотя, как любая новая технология, они могут изменить некоторые виды нашей деятельности, прежде всего механические. Хорошая новость состоит в том, что людям останется творческая работа, недоступная для машин. И вот уже рисуются фантастические перспективы: роботы могут облегчить нам ежедневную жизнь, поддержать нас в физически тяжелой работе и подарить больше свободного времени, ну а все, что требуется,- это адекватно реагировать на возникающие вызовы.

Как живая

"Человечество стоит на пороге создания роботов, которых можно полюбить",- сообщила газета The Financial Times, и российские блогеры обрадовались. В основном, конечно, ликуют мужчины.

Так не пришла ли пора кодекса законов, вроде трех законов робототехники, что придумал фантаст Айзек Азимов? Ученые пока не знают, как вложить их в "мозг" роботов, а значит, говорится в докладе, эти законы могут относиться к... создателям роботов! Сюзанна Бек уточняет: было бы правильнее обсудить, в каких сферах нашей жизни автономные машины нужны, а в каких они вызовут, скорее, настороженность и сомнения (речь, к примеру, об автономных системах вооружений); продумать, что делать с размыванием человеческой ответственности из-за того, что все больше решений принимают автоматы... Словом, тем для споров - множество. Есть и "горячие": Christian Science Monitor напоминает, что в США озабочены законодательным регулированием одной из сфер, связанных с робототехникой,- беспилотными автомобилями. Как бы не опоздать: по прогнозам, такие автомобили появятся на американских дорогах уже в 2020-м...

Брифинг

Леонель Моура , художник в области искусственного интеллекта и робототехнического искусства:

Если мы сумеем установить с роботами симбиоз, взаимовыгодные отношения, тогда да, можно не опасаться. А если у нас не получится - возникнут проблемы. Но я думаю, что все формы жизни, включая искусственный разум, стремятся к сотрудничеству, хотят избежать конфликтов. Роботы не хотят воевать с людьми, конечно, если речь не идет о военных роботах, там ответ будет другой. Но я хочу рассматривать роботов как напарников, сотрудников. Пока я больше боюсь людей.