Программа для Путина: Российские законы пропустят через искусственный интеллект. Беспилотные авто и машины с искусственным интеллектом Цифровые технологии стремительно развиваются

Подготовлен проект конвенции, регулирующей отношения искусственного интеллекта и людей

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте

Фото: Michael Buholzer / Reuters

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» — первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта — это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», — сообщил Жигарев.

Цель разработанной конвенции — определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

• К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
• Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
• Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.
• Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
• Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».
• Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).
• «Человек не должен умалять человеческое достоинство своим обращением с роботами».

Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны — развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», — отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков — Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. — РБК )», — рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» , что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», — передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», — отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», — отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США , например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее . Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе . В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.

Делегация Госдумы во главе со спикером Вячеславом Володиным посетила Татарстан

Председатель Государственной Думы Вячеслав Володин,Председатель Государственного Совета Республики Татарстан Фарид Мухаметшин, заместитель Председателя Государственной Думы Владимир Васильев и председатель Комитета по информационной политике, информационным технологиям и связи Леонид Левин на презентации технопарка. Фото Анны Исаковой/Фотослужба Государственной Думы

В Госдуме создадут Совет по законодательному обеспечению цифровой экономики. Депутаты разработают законопроект о взаимодействии человека и искусственного интеллекта. По прогнозам футуролога Рэя Курцвейла, к 2022 году все страны мира примут похожие законы.

Цифровые технологии стремительно развиваются

В Казань с Вячеславом Володиным приехали заместитель председателя Госдумы Владимир Васильев, руководители думских комитетов Леонид Левин, Сергей Жигарев, Дмитрий Морозов и Вячеслав Никонов. Утром 13 февраля депутаты побывали в IT-парке. Такие площадки в России есть только в Сколково, Зеленограде и Казани. Технопарк представляет собой комплекс зданий с современной технической инфраструктурой, созданной для начинающих IT-компаний. Им создают все условия для разработки и вывода новых продуктов на рынок. Ключевое направление работы резидентов технопарка - программное обеспечение, в том числе для «электронного правительства» и «электронных госуслуг». В технопарке работает 31 компания, общая численность работающих - 800 человек.

В ходе встречи с представителями IT-бизнеса Вячеслав Володин напомнил, что Президент России в своём Послании уделил особенное внимание развитию цифровой экономики. «Сегодня IT-индустрия одна из самых перспективных отраслей в нашей стране, и она стремительно развивается», - констатировал спикер Госдумы.

По его словам, парламентариям предстоит подготовить целый ряд законопроектов, развивающих сферу цифровой экономики. Один из них - о взаимодействии человека и искусственного интеллекта. В России уже принят ряд законов по поддержке IT-сектора, действуют налоговые льготы. В конце прошлого года Госдума приняла закон, по которому IT-компании будут до 2023 года платить сниженные до 14 процентов страховые взносы. Приняты законы, уравнивающие в правах российские интернет-компании с зарубежными. Необходимо поддерживать российских программистов, создать специалистам в IT-сфере все условия, чтобы они работали в России, а не уезжали за границу.

«Надо заниматься этим фундаментально, создавая условия для любой точки роста в этой отрасли», - сказал Вячеслав Володин. Инновационных площадок в России должно быть много, и если наша страна эффективно сработает в этом направлении, то будет успешно развиваться вся экономика. Кстати, даже в разгар кризиса рост IT-сектора составил 15 процентов.

Утро депутата начнётся с обращений граждан

Депутаты познакомились с новыми технологиями, которые делают жизнь людей удобнее. В Татарстане разработали систему электронного документооборота, электронные дневники. В электронном режиме идёт работа с обращениями граждан, отслеживаются сроки рассмотрения, реакция на просьбы. С 2006 года рассмотрено 167 миллионов обращений граждан.

Опыт Татарстана пригодится при разработке программы мониторинга законопроектов для Госдумы, о создании которой Вячеслав Володин говорил в декабре 2016 года. В зале Совета Думы может появиться большой экран, на котором будет отображаться, как комитеты рассматривают законопроекты, кто эффективно работает, а кто отстаёт.

Важно совершенствовать и работу с письмами избирателей. «Депутат должен видеть, как идёт работа с обращениями граждан, в том числе в регионе, - продолжил Володин. - Находясь в Москве, депутат должен начинать утро с контроля за обращениями граждан». Эти вопросы визуализируют, а обратная связь у депутатов и избирателей станет постоянной, а не только во время региональной недели. Программа контроля за прохождением обращений приобщит депутата к избирателю в режиме реального времени и оптимизирует работу парламентариев, добавил глава нижней палаты парламента.

Находясь в Москве, депутат должен начинать утро с контроля за обращениями граждан.

Госдума разработает законопроекты о телемедицине и ГЛОНАСС

Отдельный зал в технопарке посвящён системе ГЛОНАСС. Во многих городах страны её используют, чтобы информировать пассажиров, когда общественный транспорт прибудет к остановке. «Возможно, пора подумать о законе, который позволил бы пассажироперевозчикам раскрывать данные о координатах транспорта для распространения этой практики по всей России», - сказал Вячеслав Володин.

В технопарке разработана новая система контроля скорости на дорогах, позволяющая определять нарушения скоростного режима не в одной точке, а на целом отрезке дороги, чтобы водители не допускали резкого повышения скорости на участках, где нет камеры. Такая система, по словам разработчиков, «гармонизирует» транспортный поток. В зонах контроля за скоростным режимом в Татарстане смертность от ДТП снизилась на 50 процентов. Заместитель председателя Госдумы Владимир Васильев спросил, в какую сумму обходится проект. Работа системы стоит недёшево: 100 километров обойдётся примерно в 6,5 миллиона рублей в месяц, если приборы контроля устанавливать на каждые 1-2 километра дороги.

Уже в этом году Госдума может принять закон о телемедицине, которая способна расширить возможности российского здравоохранения, повысить его доступность. «Применение телемедицины позволит обеспечить пациентов новыми медицинскими услугами, сократить время принятия решений в трудных ситуациях, - сказал спикер. - Всё вместе это повысит эффективность оказания медицинских услуг, поможет снизить смертность и увеличить продолжительность жизни в России».

Для Володина тема инноваций не новая. Работая в Администрации Президента России, он курировал вопросы развития IT и Интернета, регулярно встречался с представителями этих отраслей. При его поддержке в 2004 году был создан Институт развития Интернета (ИРИ), который занимается современными технологиями и выстраивает диалог между участниками рынка и властью. По поручению президента институт в 2015 году подготовил долгосрочную программу развития российской части сети Интернет и связанных с ней отраслей экономики.

Иннополис - город будущего

В ходе визита в Татарстан делегация из Москвы побывала в Иннополисе. Это город в Верхнеуслонском районе в 30 километрах от Казани. Его достроят к 2030 году, а численность составит 150 тысяч человек.

В Иннополисе уже сооружены технопарк, спорткомплекс, а скоро появятся детский сад, общеобразовательная школа, медицинский центр. Глава Татарстана Рустам Минниханов подчеркнул, что университет - это интеллектуальное ядро города. Численность студентов доведут до 5000, и рядом с университетом появится инфраструктура, которая обеспечит комфортные условия для лучших специалистов IT-сферы.

Депутаты пообщались с профессорами и студентами вуза, который специализируется на образовании и научных исследованиях в области современных информационных технологий и робототехники. Вячеслав Володин обратил внимание на то, что весь мир скоро столкнётся с необходимостью комплексного правового регулирования этой сферы. Это нужно делать и в России. Инициатива подготовки законопроекта на эту тему была на днях озвучена Дмитрием Гришиным, председателем совета директоров и сооснователем Mail.ru Group. Спикер Госдумы предложил профессорам и студентам на правах экспертов по робототехнике принять участие в обсуждении этой темы.

Университет Иннополиса - первый в России вуз, специализирующийся на робототехнике. Здесь 85 профессоров, 75 процентов которых иностранцы. Вячеслав Володин спросил у профессоров, когда, по их мнению, в России должен появиться законопроект о взаимодействии искусственного интеллекта и человека? Специалисты университета считают, что такой закон появится в течение пяти лет.

Володин подчеркнул, что, исходя из прогнозов футурологов, в 2022 году во всём мире будут приняты законы, регулирующие взаимоотношения человека и роботов. По его словам, не за горами время, когда роботы придут, например, на смену водителям автобусов и троллейбусов. Насколько быстро это произойдёт, зависит от студентов инновационных вузов.

Уже совсем скоро роботы могут стать незаменимыми помощниками для сотрудников банков. Так, журнал Banking Technology провел опрос среди крупных банков о том, как они оценивают необходимость RegTech в своих бизнес-процессах. 93% респондентов ответили, что уже в ближайшем будущем такие технологии будут очень важны для финансового регулирования и качественного составления отчетности. Компания Baker McKenzie опросила более 400 руководителей крупных финансовых организаций. 49% участников сообщили, что планируют применять искусственный интеллект для управления рисками в ближайшие три года. 29% ожидают, что с помощью ИИ они смогут лучше знать своих клиентов и предотвращать риск отмывания денег. 26% полагают, что ИИ поможет их организации соответствовать требованиям законодательства.

Но это прогноз на будущее. А какие задачи по работе с правовыми рисками искусственный интеллект решает уже сегодня? Вот лишь несколько примеров.

1. Разрешает конфликтные ситуации с клиентами.

Банки и инвестиционные компании должны хранить записи всех переговоров менеджеров с клиентами, в том числе текстовые сообщения из популярных мессенджеров. Чтобы разрешить противоречивую ситуацию, нужно быстро отыскать запись разговора, иногда даже через полгода после того, как сам диалог состоялся. Подобные решения уже предлагает ряд компаний: они одновременно «просматривают» записи из множества различных источников и проверяют тексты, аудио- и даже видеозаписи. Ряд банков, например Deutsche Bank , HSBC , уже тестирует искусственный интеллект для мониторинга переговоров и проведения служебных расследований. Это помогает департаменту комплаенс не заниматься «раскопками», часами прослушивая разговоры и анализируя переписку с клиентом, а находить нужные доказательства за несколько минут.

1. Противодействует отмыванию денег.

Рейтинг и репутация банка или инвестиционной компании напрямую связаны с тем, что делают их клиенты и контрагенты. Чтобы предотвратить возможные риски, финансовые организации тратят огромные ресурсы на проверку информации в базах данных. Такие проверки необходимы, ведь банк отвечает за все операции, которые проходят через его систему. В то же время любая компания хочет сделать этот процесс «безболезненным» и удобным для своих клиентов. Искусственный интеллект помогает быстро собрать всю информацию, не требуя много времени. Например, при участии интеллектуальной технологии ABBYY Compreno банк может автоматически собрать информацию из заявки клиента и документов, дополнив их при необходимости данными из поисковых систем и отраслевых баз. А затем определить, единственный ли он владелец бизнеса, не является ли он индивидуальным предпринимателем, которому уже заблокировала счет налоговая инспекция, не наложены ли на его активы обременения по решению суда, а также не ведется ли в отношении него исполнительное производство. В отличие от человека искусственный интеллект может проверять и обновлять всю информацию постоянно, в режиме 24 х 7, к тому же он не устает.

Другая проблема, с которой сталкиваются компании, - это «ложные тревоги». Как правило, большинство расследований об отмывании денег проводят вручную тысячи сотрудников банков. Если подозрительная активность не подтвердилась, время тратится впустую. Системы на основе искусственного интеллекта помогают сравнить действия контрагентов с типовыми моделями недобросовестного поведения, проверять взаимосвязи клиентов, а используя текстовую аналитику - и сопоставлять назначения платежей с видом деятельности компании. Так, если бизнес, который по документам занимается производством фастфуда, вдруг безо всякой причины массово закупает лекарственные препараты - это не пройдет для системы незамеченным. В то же время робот не будет блокировать счет просто потому, что клиент поехал в отпуск в Рио-де-Жанейро и снял в банкомате крупную сумму денег. HSBC уже протестировал подобную систему и сократил случаи потенциального мошенничества на 20%.

1. Отвечает на запросы регуляторов.

Банки отвечают за свои действия перед контролирующими органами. Так, они должны давать Центробанку ответы на жалобы от клиентов на качество услуг. Число таких обращений от граждан огромно: только в Московской области по итогам года Центробанк ожидает получить 128 000 жалоб . ЦБ может попросить банк предоставить подробный отчет о его деятельности, особенно если речь идет о жалобах, связанных со взысканием задолженности. Поиск нужной информации занимает массу времени и ресурсов.

Центробанк также имеет право требовать от банка доказательства, что его капитал сформирован надлежащими активами . Регулятору может понадобиться информация о различных доходах банка, например платежах страховых компаний в рамках программ страхования заемщиков; средствах, предоставленных аффилированным структурам или юрлицам, не ведущим реальной деятельности; случаях безвозмездного финансирования. Время на то, чтобы предоставить сведения, ограничено - всего два рабочих дня. Искусственный интеллект помогает быстро найти информацию о любом клиенте или транзакции. Так, например, технология ABBYY Compreno обрабатывает данные, содержащиеся в приказах, отчетах, письмах. Можно выделять в тексте конкретные объекты и связи между ними: имена людей и их паспортные данные, названия компаний и их ИНН, ОГРН и другие характеристики. Это помогает сильно сократить сроки для обработки запросов и обходиться меньшими ресурсами при поиске информации.

1. Помогает регуляторам в законотворческом процессе.

Огромные массивы информации - проблема не только для бизнеса, но и для законодательных органов. Например, одна только российская Дума прошлого созыва рассмотрела 6012 законопроектов и приняла 1817 законов . Каждый такой документ - это комплекс норм, который устанавливает новые правила, изменяет или отменяет уже существующий порядок вещей. Нормативные акты входят в единую систему, содержат перекрестные ссылки, а это означает, что чиновникам нужно редактировать связанные законы, указы, постановления, инструкции и решения на федеральном, региональном и муниципальном уровне. В будущем такие задачи смогут решать с помощью машинного обучения. Роботы будут отслеживать версии документов при межведомственном согласовании. Автоматически добавлять во множество подзаконных актов ссылки на новые правила. Искать разъяснения Конституционного суда, связанные с текстом того или иного закона. В более отдаленной перспективе роботы даже смогут находить те области нашей жизни, которые еще не регулируются законодательством, и помогать людям формировать законодательную базу на простом языке, исключающем двойные трактовки.

Можно ли полностью исключить правовые риски с помощью роботов? Пожалуй, нет. Даже самым совершенным ИИ необходимо управлять, отсеивать ошибки, изучать проблемные случаи, а здесь не обойтись без опытных юристов, в том числе со знанием международного права. Но с помощью искусственного интеллекта можно значительно уменьшить количество случаев, связанных с нарушениями законодательства, и при этом освободить время юристов для решения более сложных задач. Не случайно Transatlantic Policy Working Group (TPWG) - совместная рабочая группа Великобритании и США для разработки нормативов в секторе финтеха - рекомендует регуляторам обеих стран поддерживать технологические разработки в области RegTech. Не за горами обновление «правил игры» от Базельского комитета - крупнейшего отраслевого регулятора, определяющего стандарты для банков стран «большой двадцатки», в которую входит и Россия. Помимо более жестких требований к капиталу банки должны будут предварительно высчитывать частоту дефолтов и проверять каждую транзакцию. Эти стандарты будет проще выполнить, если усилить команду юристов несколькими десятками неутомимых помощников.

Нашествие машин

В скором будущем роботы будут покушаться на наши рабочие места, озабочен Европарламент. Там обнародовали проект по регулированию деятельности роботов - не исключено, что он даст толчок к созданию нового законодательства. Читается как научная фантастика.

Будущее уже наступило - такой вывод можно сделать из проекта доклада, представленного в Европарламенте и посвященного... роботам. А точнее - юридическим и законодательным вопросам, связанным с фактом их существования.

Но с какой стати европарламентарии занялись правами тех, кого юридически не существует? В докладе отмечается: человечество стоит на пороге новой эры, когда множество ультрасовременных роботов, андроидов и иных воплощений искусственного интеллекта могут стать причиной промышленной революции - она затронет все слои общества, так что, мол, жизненно необходимо рассмотреть все возможные последствия. Звучит сенсационно: в конце концов, одно дело, когда так говорят футурологи, другое - когда перед тобой текст официального документа. Впрочем, одними декларациями авторы не ограничиваются и приводят статистику: между 2010 и 2014 годом рост продаж роботов в Европе в среднем составил 17 процентов в год, в 2014-м - и вовсе рекордные 29 процентов. А число ежегодных патентных заявок в сфере робототехники за последние 10 лет и вовсе утроилось!

Техника познания

Сегодня роботами называют почти любое автоматическое устройство, выполняющее какую-то функцию. С точки зрения рыночной экономики это привлекательно, с точки зрения науки - спекуляция.

Данные Европарламента вполне соотносятся с победными реляциями Международной федерации робототехники (IFR): в прошлом году продажи промышленных роботов в мире установили новый рекорд - 248 тысяч единиц. А к 2018-му в заводских цехах разместят около 2,3 млн роботов, как минимум вдвое больше, чем в 2009-м (1 млн). Еще больше завораживают цифры по сервисным роботам: по данным той же IFR, в 2014-м по всему миру было продано 4,7 млн таких автоматов для личных нужд или домашнего использования (на 28 процентов больше, чем в 2013-м), а между 2015-м и 2018-м в год реализуют 35 млн! Фантазия разработчиков не ограничивается роботами-пылесосами. В компании Sony уже заявили о разработке робота, способного "наладить эмоциональную связь" с человеком, робот-адвокат (строго говоря, компьютерная программа) лихо оспаривает у полиции Лондона и Нью-Йорка штрафы за парковку, а система искусственного интеллекта недавно обставила в имитации воздушного боя полковника ВВС США. И пусть это еще не роботы в том виде, как их изображает Голливуд (речь, скорее, о продвинутых автоматах), однако революция, как ни крути, налицо.

Самый сенсационный момент - создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями.

Теперь о тревожном. Нет, машины не захватят власть над людьми, однако они вполне могут отобрать наши рабочие места, о чем и предупреждают в докладе. А вот прогноз от Oxford University: половина рабочих мест в США будут отданы роботам в ближайшее десятилетие или два - речь не только о заводских рабочих, но и о водителях такси, например. Видят ли опасность эксперты?

Роботы все чаще взаимодействуют с людьми в различных сферах жизни,- признает Сюзанна Бек, профессор права в Университете Ганновера (Германия) и признанный специалист по проблеме.

Нечеловеческая ответственность

Голливуд постоянно дополняет и модифицирует первые три "закона" робототехники - не причинять вред человеку, повиноваться ему и заботиться о своей безопасности

В интервью "Огоньку" профессор Бек подчеркивает: сегодня шансы, что автоматы могут нарушить права и интересы "третьих сторон", возросли. К тому же машины все более автономны и все труднее назначать конкретных людей ответственными за их действия. Чтобы избежать такого "отсутствия юридической ответственности", заключает эксперт, и нужно адаптировать существующие законы к новой реальности с участием роботов.

Фактически доклад, представленный в Европарламенте, пытается законодательно ответить на новые вызовы (его докладчик, член парламента от Люксембурга Мади Делво, на момент сдачи номера была недоступна для комментария). Самый сенсационный момент, о котором сразу написали мировые СМИ,- это создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями. Еще один пункт связан с налогами: речь о том, что компании, владеющие роботами, должны сообщать, какой вклад те делают в прибыль компании, из этого будут рассчитываться налоги и отчисления в систему социального обеспечения. Авторы рассматривают и случаи, когда в результате автономных действий робота нанесен некий ущерб - кто за него будет платить? По сути, предлагается в докладе, необходима система обязательного страхования, как в случае с дорожным движением, однако на дорогах система страхования покрывает действия людей, в случае же с роботами это могут быть их производители... А как насчет прав на интеллектуальную собственность, созданную роботом? Кому они будут принадлежать? Здесь, пишут авторы, требуются дополнительные законодательные усилия.

«Мы уже живем в новой реальности»

Почему современных математиков называют шаманами, о чем думает искусственная нейросеть и какое отношение имеет проблема Больших данных к племенным курам.

Эксперты, впрочем, считают, что паниковать из-за засилья автоматов пока все же не стоит. По словам Сюзанны Бек из Университета Ганновера, то, что роботы могут заменить людей, громко сказано, хотя, как любая новая технология, они могут изменить некоторые виды нашей деятельности, прежде всего механические. Хорошая новость состоит в том, что людям останется творческая работа, недоступная для машин. И вот уже рисуются фантастические перспективы: роботы могут облегчить нам ежедневную жизнь, поддержать нас в физически тяжелой работе и подарить больше свободного времени, ну а все, что требуется,- это адекватно реагировать на возникающие вызовы.

Как живая

"Человечество стоит на пороге создания роботов, которых можно полюбить",- сообщила газета The Financial Times, и российские блогеры обрадовались. В основном, конечно, ликуют мужчины.

Так не пришла ли пора кодекса законов, вроде трех законов робототехники, что придумал фантаст Айзек Азимов? Ученые пока не знают, как вложить их в "мозг" роботов, а значит, говорится в докладе, эти законы могут относиться к... создателям роботов! Сюзанна Бек уточняет: было бы правильнее обсудить, в каких сферах нашей жизни автономные машины нужны, а в каких они вызовут, скорее, настороженность и сомнения (речь, к примеру, об автономных системах вооружений); продумать, что делать с размыванием человеческой ответственности из-за того, что все больше решений принимают автоматы... Словом, тем для споров - множество. Есть и "горячие": Christian Science Monitor напоминает, что в США озабочены законодательным регулированием одной из сфер, связанных с робототехникой,- беспилотными автомобилями. Как бы не опоздать: по прогнозам, такие автомобили появятся на американских дорогах уже в 2020-м...

Брифинг

Леонель Моура , художник в области искусственного интеллекта и робототехнического искусства:

Если мы сумеем установить с роботами симбиоз, взаимовыгодные отношения, тогда да, можно не опасаться. А если у нас не получится - возникнут проблемы. Но я думаю, что все формы жизни, включая искусственный разум, стремятся к сотрудничеству, хотят избежать конфликтов. Роботы не хотят воевать с людьми, конечно, если речь не идет о военных роботах, там ответ будет другой. Но я хочу рассматривать роботов как напарников, сотрудников. Пока я больше боюсь людей.

07.11.2017, Вт, 12:07, Мск , Текст: Игорь Королев

Для создания в России условий построения цифровой экономики планируется осуществить корректировку нормативной базы. Будут введены электронные судебные договора, электронные исковые заявления в суд, а нормативная база будет переведена в машиночитаемый вид для исполнения искусственными интеллектом административных процедур и смарт-контрактов.

Электронный дубликат документов

В распоряжении CNews оказался проект плана мероприятий программы «Цифровая экономика» по разделу «Нормативное регулирование».

Документ предполагает внесение большого числа изменений в регуляторную базу с целью развития в России цифровой экономики. Куратором этой работы является Минэкономразвития. Сама программа «Цифровая экономика» написана по поручению Президента России Владимира Путина .

Значительная часть документа посвящена переходу на электронный документооборот. В частности, в законах «Об архивном деле» и «Об обязательном экземпляре документов» планируется прописать понятие электронного документооборота, критерии бумажных документов, которые нельзя уничтожать при наличии электронного дубликата, и перечень документов, которые следует хранить только в электронном виде.

В законах должна быть закреплена процедура уничтожения бумажного документа при наличии электронного дубликата. А электронный документ должен будет иметь юридическую силу при его запросе из системы хранения.

Электронный трудовой договор

Авторы документы предлагают отредактировать Трудовой кодекс для нужд цифровой экономики. Планируется устранить предписание на ознакомление под собственноручную подпись работника с рядом документов работодателя – как при приеме на работу, так и при исполнении своих служебных обязанностей – а также исключить необходимость подписания документов при приеме на работу исключительно собственноручной подписью.

Машиночитаемая нормативная база для автоматического исполнения контрактов

Наиболее амбициозной задачей документа значится перевод норм права в машиночитаемый вид для автоматизации их исполнения и появления самоисполняемых контрактов (смарт-контрактов). С этой целью должен быть сформирован машиночитаемый язык, предназначенный для описания самоисполняемых контрактов, а также содержащего формы и инструменты обобщения и конкретизации норм права.

В программе «Цифровая экономика», разработанной по заказу Президента России,
предусмотрена корректировка нормативной базы для исполнения ее искусственным интеллектом

Должен быть проведен анализ областей права, в которых возможно машиночитаемое описание норм, а также определение ограничений применения машиночитаемых норм и элементов контрактов. Планируется провести классификацию условий сделок и административных регламентов, принципиально допускающих автоматическое исполнение, и определить пределы воздействия на юридические и физические лица, которые допускают принятие автоматических решений.

Будет создана цифровая платформа с искусственным интеллектом для анализа содержимого нормативно-правовых актов, осуществления поиска по ним, проверки на избыточность и непротиворечивость. Также будет сформировано единое цифровое пространство на основе информации, которая учитывается уже созданными государственными информационными системами через систему реестров с распределенным доступом различных заинтересованных субъектов.

В Гражданском кодексе планируется обеспечить действие автоматизированных договоров - исполнение обязательств без воли должника. Для этого будет предусмотрено создание базы типовых договоров, применяемых контрагентами в электронном виде и предусматривающих возможность самоисполнения соглашения и автоматического третейского рассмотрения возникающих споров. Будет создана электронная система альтернативных механизмом разрешения споров и введена система досудебного и внесудебного разрешения споров (медиация и онлайн-разрешения споров).

Еще одним шагом для развития технологии автоматизированных договоров и системы децентрализованных реестров будут изменения в Закон «О таможенном регулировании», которые обеспечат возможность оформления товаросопроводительных документов и документов, опосредующих перевозку и прием и передачу товаров, в электронной форме.

В том числе необходимо будет определить возможность выдачи в бездокументарной форме складских свидетельств и коносаментов и возможность передачи посредством электронного взаимодействия права на бездокументарные данные бумаги. Общие правила о порядке учета прав по таким бездокументарным ценным бумагам не должны вызывать существенных дополнительных издержек участников оборота и обеспечивать доверие к такой ценной бумаге.

Судебные иски в электронной форме

Взаимодействие с судами и судебными приставами планируется перевести на электронный документооборот. С 2020 г. истцы, при наличии согласия ответчиков и иных участвующих в деле лиц, получат возможность направлять судебные иски исключительно в электронном виде через Портал госуслуг. А в арбитражные суды исковые заявления в обязательном порядке должны будут подаваться в электронном виде.

Суд при получении заявления в электронном виде, должен будет разместить его на определенном ресурсе с правом ознакомления и копирования. Решения судов будут оформлять в электронном, машиночитаемом и юридически значимом виде. При опубликовании решения суда в электронном виде в установленном порядке будет вводиться презумпция ознакомления сторон с ним.

Арбитражно-процессуальный и Гражданско-процессуальный кодекс будут унифицированы в части возможного представления доказательств в электронном виде, в том числе при совершении таких действия в сети интернет и в сетях сотовой связи. Будет разработан регламент использования в качестве доказательств в судебном процессе логов.

Участники судебных процессов получат право дистанционного участия в судебных заседаниях через видеоконференцсвязь. Для этого будет создана система удаленной идентификации участников судебных процессов и осуществлено техническое оснащение судов.

Передачу исполнительных листов в кредитные организации можно будет осуществлять в электронном виде для автоматического списания денежных средств. Для дистанционного взаимодействия со сторонами исполнительного производства будет введен единый реестр. Одновременно будет введен запрет на создание региональных реестров исполнительных производств.

Такой подход избавит взыскателей, имеющих региональную сеть, от необходимости одновременно поддерживать несколько форматов взаимодействия с федеральным и несколькими региональными реестрами, построенными на разных платформах.

Электронный нотариус

Нотариальные действия можно будет осуществлять дистанционно путем подписание электронного документа квалифицированной электронной подписью. Речь идет об удостоверении сделок, свидетельствовании верности копий электронных документов и выписок из них, свидетельствование верности перевода с одного языка на другой, удостоверении времени предъявления электронных документов, совершении исполнительных надписей в электронном виде на электронном виде и т.д.

Также будет определена функция электронных нотариусов - операторов, в функции которых входит независимая проверка, а также фиксация юридических актов и правоотношений, имеющих место при взаимодействии сторон в электронной форме, а также уполномоченных на проведении аутентификации лиц для целей доступа в государственные информационные системы с возможностью их осуществления одним лицом.

Дистанционный госконтроль

Другое направление плана мероприятий – инвентаризация форм отчетности, в том числе при сборе статистической и налоговой информации. Будет создана карта данных, подлежащих предоставлению в государственные органы, разработаны программы перехода от отчетности к реализации принципов автоматического обмена данными между предприятиями и государственными органами в режиме реального времени. При этом будет исключено дублирование различных данных, требуемых госорганами у предприятий и индивидуальных предпринимателей.

Также планируется расширить функциональность личных кабинетов поднадзорных организаций для осуществления в отношении них контрольно-надзорных процедур и рассмотрения дел об административных правонарушений на всех этапах в электронной форме. Будет создан и электронный кабинет должностного лица, проводящего проверку.

На 2019 г. запланировано проведение контролируемого правового эксперимента – организации «регуляторной песочницы» - в сфере контрольно-надзорной деятельности. В рамках эксперимента будет осуществлена замена неэффективных видов госконтроля на негосударственные механизмы: страхование ответственности, саморегулирование, самоконтроль и сорегулирование в сфере цифровой экономики, добровольное раскрытие информации. По оставшимся формам будет введен преимущественно дистанционный контроль.

В законе «О Центробанке» предлагается установить запрет на запрос на бумажных носителях документов, направление которых реализуемо через личный кабинет кредитной организации на сайте Банка России. Это должно снизить затраты финансовых организаций и Центробанка на введение электронного документооборота.

В Гражданском кодексе предлагается ввести режим электронного (цифрового) резидентства. Речь идет о переходе от регистрации организаций в уведомительной электронной форме через Портал гослуг к альтернативному формату резидентства для компаний, включая возможность создать компанию дистанционно, полностью дистанционно ей управлять, осуществлять дистанционное взаимодействие с банковской системой и заменить физический адрес организации виртуальным («цифровым домом»).

Сохранить частные удостоверяющие центры электронной подписи

В области идентификации граждан планируется урегулировать вопрос с электронными документами, подписанными стилусом на планшете, и ввести биометрическую идентификацию. При этом авторы документы предлагают сохранить за частными организациями право быть удостоверяющими центрами квалифицированной электронной подписи, хотя Минкомсвязи разрабатывает законопроект о введении госмонополии в данной сфере.

В то же время за удостоверяющими центрами должен быть усилен контроль: они станут частью законодательства о противодействию отмыванию денег, будет введена система лицензирования удостоверяющих центров и увеличены требования к величине чистых активов и финансовому обеспечению для покрытия убытков третьих лиц. Также для физических лиц потребуется необходимость нотариального удостоверения доверенности для обращения от имени юридического лица за получением сертификата электронной подписи.

Будет обеспечена возможность предъявлять в госорганы электронные документы с визуализированной электронной подписью в виде штампа или иной графической фигуры (не биометрия), содержащим информацию о лице и сведения о действительности сертификата электронной подписи. Указанная информация должна находиться непосредственно в самом документе, а не в формате не воспринимаемого человеком файла sig, никак не связанного физически с самим документом.

Для государственных органов будет установлена обязанность проставлять отметки о результатах оказания госуслуг непосредственно в электронных документах, получаемых гражданами по результатам оказания услуг. Для организаций, обязанных проводить идентификацию граждан, будет уточнен порядок доступа к государственным информационным системам, при этом сам доступ будет безвозмездным. Перечень сведений, получаемый такими организациями, будет расширен за счет ИНН.

Еще один пункт в части идентификации – введение механизма электронной идентификации транспортных средств. Этот шаг, в числе прочего, позволит автоматизировать взимание платы за проезд по платным автодорогам.

Что надо поменять в Законе «О персональных данных»

В Законе «О персональных данных» предлагается устранить ограничения, мешающие развитию цифровой экономики. В том числе планируется: предусмотреть возможность изъявления согласия на обработку персональных данных (ПД) представителем субъекта этих данных, предусмотреть возможность выдачи единого согласия на различные цели обработки, в том числе без указания конкретных обработчиков, ввести понятие биометрических персональных данных и определить механизмы обезличивания и анонимизации персональных данных с выводом полученных данных из-под действия закона о персональных данных.

Также планируется ввести механизм обработки ПД в рамках одной группы лиц на основании одного согласия субъекта таких данных и обеспечить возможность передачи оператором ПД обработки таких данных третьему лице без получения отдельного согласия на такую передачи при сохранении полной ответственности оператора персональных данных за такую обработку.

Какую технику избавят от взимания авторских сборов

В области авторского права планируется уточнить механизм сбора вознаграждения с производителей и импортеров техники за свободное воспроизведение фонограмм в личных целях. Перечень соответствующей техники будет ежегодно пересматриваться, из него будут исключены устройства, предназначенные для ремонта и технического обслуживания, а также вывозимые с территории страны. Также будет введен механизм досудебного урегулирования споров сборщика вознаграждений с импортерами.

Процедура регистрации лицензионных договоров станет уведомительной вместе разрешительной, в том числе будет исключено требование об обязательном письменной экземпляре такого договора. Будут устранены ограничения на использование произведений в электронной форме библиотеками, которые сейчас существенно затрудняют доступ к современным знаниям.

Планируется определить случаи, при которых исключительное право на результат интеллектуальной деятельности может принадлежать нескольким лицам с выделением долей в имущественном праве – распоряжение долями будет осуществляться по аналогии с режимом долевой собственности. Также предлагается отрегулировать правовой статус цифровых моделей, в том числе 3d- моделей, как объектов интеллектуальной собственности, распространение режима патентного права на нематериальные объекты.

Помощь ИТ-отрасли

В Налоговый кодекс в части пониженного налогообложения доходов от распоряжения правами на результаты интеллектуальной деятельности (patent box). Будут уточнены параметры при применении компаниями коэффициента 1,5 к расходам на НИОКР (научно-исследовательские и опытно-конструкторские работы) при исчислении налога на прибыль. Планируется устранить ограничения прав российских интернет-компаний, а также компаний, оказывающих услуги по обработке больших данных с использованием разработанного им ПО, на применение пониженных тарифов страховых взносов.

Документ предполагает введение специальных налоговых льгот для бизнес-ангелов: для этого будут изменения и дополнения в законодательство в части создания стимулирующих механизмов инвестирования в высоко рискованный венчурный рынок для налогоплательщиков-физических лиц.

Будут упрощены процедуры налогового резидентства для физических лиц - высококвалифицированных специалистов. Также будут уточнены параметры обложения НДС услуг, оказываемых в электронной форме иностранными продавцами. А для российских компаний будет разрешен вычет входящего НДС при экспорте электронных и ИТ-услуг.

В законодательстве о валютном и экспортном контроле планируется ввести уведомительный порядок при подаче документов при экспорте программного обеспечения и ИТ-услуг – по факту получения выручки за счет экспортера. Поскольку при такого рода экспорте не происходит физического пересечения границ материальными активами, предлагаемый подход должен повысить привлекательность российской юрисдикции для ИТ-экспорта.

Объекты телекоммуникационной и ИТ-инфраструктуры должны быть включены в перечень объектов соглашений, предусмотренных законодательством о государственно-частном партнерстве и о концессионных соглашениях. Это позволит создать предпосылки для привлечения инвестиций как в создание самостоятельных объектов ИТ- и телекоммуникационной инфраструктуры, так и в информатизацию иных инфраструктурных объектов.

Наконец, страховые договора, а также договора на оказание услуг связи можно будет заключать в электронной форме.