Законы робототехники. Как регулировать искусственный интеллект

Скорость - совершенное оружие, сказал недавно Илон Маск, обсуждая финансовые результаты Tesla за третий квартал этого года. Но он имел ввиду отнюдь не скорость своих машин. Речь шла о скорости работы роботов, которые эти машины собирают. Позднее в Твиттере Маск прокомментировал , что уже через несколько лет нам понадобится стробоскоп, чтобы оценить скорость движения роботов.

Скорость развития робототехники и искусственного интеллекта, по всей видимости, переходит на новый уровень. И человечество это понимает - в 2017 году, чтобы не вылететь с трассы, оно приняло национальные и общемировые правила обращения с ней. Проиллюстрирую текущий уровень технологий, и попробую объяснить, почему принятие законов робототехники - неизбежно.

На волне прогресса

По данным Международной Федерации Робототехники, невероятно быстро растет рынок промышленных роботов. В 2016 году их продажи достигли почти 300 000 единиц. Пять лет назад этот показатель был почти вдвое меньше. В результате объем только одного этого рынка составил $13 млрд, а с учетом смежных рынков ПО и компонентов – все $40 млрд.

Уже не первый год завод компании Siemens в Амберге один программируемый контроллер в секунду с невероятным уровнем качества - процент брака составляет всего 0,00115%. Достигнуть скорости производства в 12 млн единиц в год одновременно с сохранением качества помогают роботы - 75% операций автоматизировано.

В Великобритании уже несколько лет успешно используют хирургических роботов Da Vincie для борьбы с раком простаты. Их главное отличие от обычных - высочайшая точность, сохранение околооперационных тканей, а также быстрые сроки восстановления. В свежем исследовании рынка хирургических роботов говорится , что среднегодовой прирост этого рынка в 2017-2021 годах составит 10,53%.

Уже давно никого не удивляет робот-пылесос, как и робот-мойщик окон. Благодаря удешевлению компонентов и производству целого ряда моделей в Китае их стоимость стала серьезно падать, и они хлынули на рынок. Достаточно на финансовые показатели только одного производителя, чтобы понять насколько вырос рынок домашних роботов в последние несколько лет - они уже продаются миллионами штук.

Робот Cheetah компании Boston Dynamics еще в 2012 году показал скорость движения, сопоставимую с рекордами Усейна Болта, а их антропоморфный робот Atlas, в 2017 уже научился делать сальто назад. Но технические достижения - это, пожалуй, не самое впечатляющее. Поражает скорость проникновения робототехники во все аспекты нашей жизни.

Наконец, все чаще компании стали объявлять о наборе роботов в штат. Известный всем пример российского банка, который попытался заменить юристов «искусственным интеллектом», а в некоторые отделения уже поставил роботов для обслуживания посетителей, - одна из ярких, но далеко не единственных иллюстраций.

За робота ответишь?

Скорость внедрения новых технологий действительно поражает! Хорошо это или плохо, вопрос риторический. Однако с развитием робототехники активизировалась новая проблема – регулирования.

Действительно, чем больше появляется роботов (особенно, таких) и киберфизических систем, тем больше вопросов вызывает применение к ним действующих норм. Постулаты Азимова о непричинении вреда человеку и человечеству умными роботами уже давно не вызывают эмоций у большинства специалистов.

Вопросы, ответы на которые хотелось бы получить уже сейчас: есть ли ограничения на использования военных роботов? Кому принадлежат авторские права на созданные роботом произведения и кто ответит за его поступки, например ущерб, принесенный автопилотируемой машиной?

В применение «искусственного интеллекта» в финтехе уже нужно вмешаться, или стоит подождать еще нескольких сбоев бирж? Как будем защищать имплантируемые роботизированные механизмы и что делать, если имплантат в сердце есть, а компании-производителя уже нет?

Ну и наконец, проблема сильного искусственного интеллекта (ИИ, сравнимый с человеческим мозгом по уровню интеллекта) все-таки реальна и нам уже нужно контролировать его разработки, или разберемся как-нибудь потом?

Самозарождение правил

Первые подходы к таким проблемам обозначили в Южной Корее. В 2007 году там анонсировали разработку Этического устава роботов (документа с тяжелой судьбой; о его существовании за пределами Кореи практически ничего так и неизвестно, хотя корейская версия, как оказалось, похоже все-таки существует). Затем там же приняли закон о содействии развитию умных роботов.

Но в последние годы проблема регулирования вышла на новый уровень. Обозначим основные подходы.

Частные законы . Множество экспертов высказывало свои мнения о том, как должны регулироваться отношения между роботами и людьми. Например, Три закона робототехники фантаста Айзека Азимова , или Десять законов ИИ Сатьи Наделлы , руководителя компании Microsoft. Даже Карел Чапек, создатель слова «робот», упоминает в R.U.R. некую Лигу Гуманности, борющуюся за права роботов на нормальное отношение со стороны людей.

Позиция сообществ . Иногда высказанные предложения о регулировании поддерживаются целым сообществом экспертов. Хороший пример - 23 Азиломарских принципа искусственного интеллекта, разработанных и опубликованных в январе 2017 года под эгидой Future of Life Institute. Их подписало уже почти 4 000 экспертов и специалистов. Ученые предлагают направить свои усилия на создание управляемого, надежного и полезного ИИ, отказаться от «гонки вооружений» на основе ИИ и подумать о безопасности разработок, а также ответственности самих разработчиков.

Предложения, которые высказываются экспертами, по существу являются примером первых попыток саморегулирования , когда частные лица или компании разрабатывают правила до того, как государство разработает законы, обязательные для выполнения. Одним из характерных атрибутов саморегулирования является объединение в ассоциации. Их правила становятся обязательными для ее членов. Примером такой ассоциации является Partnership on AI - партнерство, участниками которого являются Amazon, Apple, Google, IBM, Facebook, Microsoft и другие. Оно создано в 2017 году и о конкретных правилах говорить пока рано, но мы видим один из уникальных примеров объединения крупнейших компаний мира (к слову, конкурентов в ряде областей) вокруг проблемы развития искусственного интеллекта.

Регулирование на национальном уровне

На протяжении 2017 года мы увидели целый ряд примеров того, как государство пытается регулировать киберфизические системы.

Например, в Германии принят закон, призванный открыть дорогу автономному транспорту. Законодатели выделили категорию автомобилей «со значительно или полностью автоматизированной функцией вождения» и разрешили водителями отвлекаться от ситуации на дороге. Одновременно, правда, удвоили лимит ответственности за причиненный вред и ввели правило обязательной установки «черного ящика».

Во вторник, 8 мая, в России прошли первые испытания беспилотных автомобилей. Машины с роботом вместо водителя совершили тестовый проезд на автоподходах к Крымскому мосту со стороны Краснодарского края. Все автомобили справились с заданиями и показали хорошие результаты. Прокатиться на беспилотном транспорте россияне смогут уже во время чемпионата мира по футболу. Каким будет автомобиль будущего и безопасен ли он, разбирался «360».

В ходе тест-драйва были задействованы автомобили пяти видов, которые оснащены технологиями автономного управления. Так, в испытаниях приняли участие грузовики брендов НАМИ и «КамАЗ», а также два легковых автомобиля моделей Skoda Superb и Ford Focus, говорится в сообщении министерства транспорта.

По данным ведомства, все автомобили справились с поставленными задачами. Машины разогнались до 40 километров в час и выполнили на дороге различные маневры, включая перестраивание в другой ряд, проезд по транспортной развязке и торможение перед пешеходами. Каждая из машин преодолела более 10 километров. На пассажирском сидении находились разработчики, которые «инспектировали» роботов.

«Все транспортные средства показали высокое качество маневрирования и бесперебойное функционирование системы высокоточного спутникового позиционирования, а также системы „машинного зрения“, обеспечивающего детекцию и распознавание объектов, разметки, дорожных знаков и анализ обстановки», - отмечается в сообщении. Тестовый проезд также послужит основанием для законодательного разрешения беспилотным автомобилям ездить по дорогам общего пользования в России.

Несмотря на то, что эти испытания стали первыми и самыми масштабными в стране, говорить о внедрении машин без водителей на дорогах массового пользования пока рано, считает Дмитрий Песков - директор направления «Молодые профессионалы» Агентства стратегических инициатив, которое курирует развитие беспилотников в России.

«Пока российские беспилотники могут функционировать лишь в идеальных условиях, то есть ездить по заранее заданной траектории на трассах без другого транспорта и при этом развивать невысокую скорость. При этом в будущем они могут стать хорошей альтернативой для пассажиров, поскольку автомобиль с искусственным интеллектом в разы безопасней машины с водителем. Согласно мировой практике, роботы допускают в сотни раз меньше ошибок за рулем, чем реальные шоферы», - отметил собеседник «360».

Беспилотники на футболе

Тестирование беспилотников является частью стратегии развития автомобильной промышленности в России на период до 2025 года. Она предполагает внедрение машин без водителя в структуру общественного транспорта уже в ближайшие годы. Причем увидеть новые автомобили россияне смогут уже в июне этого года.

«Россия придерживается „дорожной карты“ по созданию беспилотной автомобильной платформы, и мы продемонстрируем вам результаты в ходе проведения чемпионата мира по футболу 2018 года в РФ», - рассказал вице-премьер Аркадий Дворкович на открытии ежегодного Международного форума науки и технологии. По его словам, болельщики смогут прокатиться на беспилотных автобусах уже в июне.

Между тем на массовый рынок беспилотные автомобили смогут поступить через 5-10 лет, уверен руководитель Федерации автовладельцев России Сергей Канаев. Он сказал «360», что такие автомобили будут особенно востребованы в качестве общественного транспорта.

«Собирать беспилотные автомобили в промышленном масштабе начнут уже через пять, максимум через 10 лет, но среди автолюбителей они вряд ли будут популярны и, скорее всего, будут функционировать как такси или другой общественный транспорт. Конечно, они более безопасны, но у них есть существенный минус - это то, что в экстренной ситуации робот реагирует хуже, чем опытный водитель, который может нарушить ПДД, но избежать аварии. Искусственный интеллект так поступить не может», - добавил Канаев.

«Беспилотное» будущее

Источник фото: Министерство транспорта

В 2020 году во всем мире будут курсировать около 10 миллионов беспилотных автомобилей, а к 2035 году количество таких машин перешагнет отметку в 21 миллион единиц, прогнозируют аналитики BI Intelligence.

Новаторами в этой области выступили США, которые совершили первый коммерческий рейс в конце 2016 года. Тогда беспилотный грузовик Volvo компании Otto перевез 45 тысяч банок пива, преодолев около 160 километров по штату Колорадо.

Американцы даже запустили проект пассажирской беспилотной машины, однако он закончился смертью. В марте беспилотное такси из автопарка Uber сбило насмерть 49-летнюю женщину. В ходе расследования выяснилось, что причиной послужила ошибка в навигации. Сенсоры автомобиля зафиксировали и идентифицировали женщину, но программа решила не реагировать на это «препятствие», и в результате робот сбил человека на полной скорости.

Не отстают от США британские инженеры. В августе прошлого года вблизи Лондона состоялись успешные испытания беспилотных грузовиков. По планам местных властей, подобные машины без водителей появятся на дорогах страны до конца 2018 года. При этом автомобили будут двигаться в колонне по трое, а головным автомобилем все равно будет управлять человек.

Новейшие технологии внедряют и в общественный транспорт. К примеру, в прошлом году в Хельсинки начались испытания двух компактных автобусов, передвигающихся без водителя. По результатам тестов автобусы, разработанные французской компанией EasyMile, собираются включить в систему пассажирских перевозок Финляндии уже осенью 2018 году.

07.11.2017, Вт, 12:07, Мск , Текст: Игорь Королев

Для создания в России условий построения цифровой экономики планируется осуществить корректировку нормативной базы. Будут введены электронные судебные договора, электронные исковые заявления в суд, а нормативная база будет переведена в машиночитаемый вид для исполнения искусственными интеллектом административных процедур и смарт-контрактов.

Электронный дубликат документов

В распоряжении CNews оказался проект плана мероприятий программы «Цифровая экономика» по разделу «Нормативное регулирование».

Документ предполагает внесение большого числа изменений в регуляторную базу с целью развития в России цифровой экономики. Куратором этой работы является Минэкономразвития. Сама программа «Цифровая экономика» написана по поручению Президента России Владимира Путина .

Значительная часть документа посвящена переходу на электронный документооборот. В частности, в законах «Об архивном деле» и «Об обязательном экземпляре документов» планируется прописать понятие электронного документооборота, критерии бумажных документов, которые нельзя уничтожать при наличии электронного дубликата, и перечень документов, которые следует хранить только в электронном виде.

В законах должна быть закреплена процедура уничтожения бумажного документа при наличии электронного дубликата. А электронный документ должен будет иметь юридическую силу при его запросе из системы хранения.

Электронный трудовой договор

Авторы документы предлагают отредактировать Трудовой кодекс для нужд цифровой экономики. Планируется устранить предписание на ознакомление под собственноручную подпись работника с рядом документов работодателя – как при приеме на работу, так и при исполнении своих служебных обязанностей – а также исключить необходимость подписания документов при приеме на работу исключительно собственноручной подписью.

Машиночитаемая нормативная база для автоматического исполнения контрактов

Наиболее амбициозной задачей документа значится перевод норм права в машиночитаемый вид для автоматизации их исполнения и появления самоисполняемых контрактов (смарт-контрактов). С этой целью должен быть сформирован машиночитаемый язык, предназначенный для описания самоисполняемых контрактов, а также содержащего формы и инструменты обобщения и конкретизации норм права.

В программе «Цифровая экономика», разработанной по заказу Президента России,
предусмотрена корректировка нормативной базы для исполнения ее искусственным интеллектом

Должен быть проведен анализ областей права, в которых возможно машиночитаемое описание норм, а также определение ограничений применения машиночитаемых норм и элементов контрактов. Планируется провести классификацию условий сделок и административных регламентов, принципиально допускающих автоматическое исполнение, и определить пределы воздействия на юридические и физические лица, которые допускают принятие автоматических решений.

Будет создана цифровая платформа с искусственным интеллектом для анализа содержимого нормативно-правовых актов, осуществления поиска по ним, проверки на избыточность и непротиворечивость. Также будет сформировано единое цифровое пространство на основе информации, которая учитывается уже созданными государственными информационными системами через систему реестров с распределенным доступом различных заинтересованных субъектов.

В Гражданском кодексе планируется обеспечить действие автоматизированных договоров - исполнение обязательств без воли должника. Для этого будет предусмотрено создание базы типовых договоров, применяемых контрагентами в электронном виде и предусматривающих возможность самоисполнения соглашения и автоматического третейского рассмотрения возникающих споров. Будет создана электронная система альтернативных механизмом разрешения споров и введена система досудебного и внесудебного разрешения споров (медиация и онлайн-разрешения споров).

Еще одним шагом для развития технологии автоматизированных договоров и системы децентрализованных реестров будут изменения в Закон «О таможенном регулировании», которые обеспечат возможность оформления товаросопроводительных документов и документов, опосредующих перевозку и прием и передачу товаров, в электронной форме.

В том числе необходимо будет определить возможность выдачи в бездокументарной форме складских свидетельств и коносаментов и возможность передачи посредством электронного взаимодействия права на бездокументарные данные бумаги. Общие правила о порядке учета прав по таким бездокументарным ценным бумагам не должны вызывать существенных дополнительных издержек участников оборота и обеспечивать доверие к такой ценной бумаге.

Судебные иски в электронной форме

Взаимодействие с судами и судебными приставами планируется перевести на электронный документооборот. С 2020 г. истцы, при наличии согласия ответчиков и иных участвующих в деле лиц, получат возможность направлять судебные иски исключительно в электронном виде через Портал госуслуг. А в арбитражные суды исковые заявления в обязательном порядке должны будут подаваться в электронном виде.

Суд при получении заявления в электронном виде, должен будет разместить его на определенном ресурсе с правом ознакомления и копирования. Решения судов будут оформлять в электронном, машиночитаемом и юридически значимом виде. При опубликовании решения суда в электронном виде в установленном порядке будет вводиться презумпция ознакомления сторон с ним.

Арбитражно-процессуальный и Гражданско-процессуальный кодекс будут унифицированы в части возможного представления доказательств в электронном виде, в том числе при совершении таких действия в сети интернет и в сетях сотовой связи. Будет разработан регламент использования в качестве доказательств в судебном процессе логов.

Участники судебных процессов получат право дистанционного участия в судебных заседаниях через видеоконференцсвязь. Для этого будет создана система удаленной идентификации участников судебных процессов и осуществлено техническое оснащение судов.

Передачу исполнительных листов в кредитные организации можно будет осуществлять в электронном виде для автоматического списания денежных средств. Для дистанционного взаимодействия со сторонами исполнительного производства будет введен единый реестр. Одновременно будет введен запрет на создание региональных реестров исполнительных производств.

Такой подход избавит взыскателей, имеющих региональную сеть, от необходимости одновременно поддерживать несколько форматов взаимодействия с федеральным и несколькими региональными реестрами, построенными на разных платформах.

Электронный нотариус

Нотариальные действия можно будет осуществлять дистанционно путем подписание электронного документа квалифицированной электронной подписью. Речь идет об удостоверении сделок, свидетельствовании верности копий электронных документов и выписок из них, свидетельствование верности перевода с одного языка на другой, удостоверении времени предъявления электронных документов, совершении исполнительных надписей в электронном виде на электронном виде и т.д.

Также будет определена функция электронных нотариусов - операторов, в функции которых входит независимая проверка, а также фиксация юридических актов и правоотношений, имеющих место при взаимодействии сторон в электронной форме, а также уполномоченных на проведении аутентификации лиц для целей доступа в государственные информационные системы с возможностью их осуществления одним лицом.

Дистанционный госконтроль

Другое направление плана мероприятий – инвентаризация форм отчетности, в том числе при сборе статистической и налоговой информации. Будет создана карта данных, подлежащих предоставлению в государственные органы, разработаны программы перехода от отчетности к реализации принципов автоматического обмена данными между предприятиями и государственными органами в режиме реального времени. При этом будет исключено дублирование различных данных, требуемых госорганами у предприятий и индивидуальных предпринимателей.

Также планируется расширить функциональность личных кабинетов поднадзорных организаций для осуществления в отношении них контрольно-надзорных процедур и рассмотрения дел об административных правонарушений на всех этапах в электронной форме. Будет создан и электронный кабинет должностного лица, проводящего проверку.

На 2019 г. запланировано проведение контролируемого правового эксперимента – организации «регуляторной песочницы» - в сфере контрольно-надзорной деятельности. В рамках эксперимента будет осуществлена замена неэффективных видов госконтроля на негосударственные механизмы: страхование ответственности, саморегулирование, самоконтроль и сорегулирование в сфере цифровой экономики, добровольное раскрытие информации. По оставшимся формам будет введен преимущественно дистанционный контроль.

В законе «О Центробанке» предлагается установить запрет на запрос на бумажных носителях документов, направление которых реализуемо через личный кабинет кредитной организации на сайте Банка России. Это должно снизить затраты финансовых организаций и Центробанка на введение электронного документооборота.

В Гражданском кодексе предлагается ввести режим электронного (цифрового) резидентства. Речь идет о переходе от регистрации организаций в уведомительной электронной форме через Портал гослуг к альтернативному формату резидентства для компаний, включая возможность создать компанию дистанционно, полностью дистанционно ей управлять, осуществлять дистанционное взаимодействие с банковской системой и заменить физический адрес организации виртуальным («цифровым домом»).

Сохранить частные удостоверяющие центры электронной подписи

В области идентификации граждан планируется урегулировать вопрос с электронными документами, подписанными стилусом на планшете, и ввести биометрическую идентификацию. При этом авторы документы предлагают сохранить за частными организациями право быть удостоверяющими центрами квалифицированной электронной подписи, хотя Минкомсвязи разрабатывает законопроект о введении госмонополии в данной сфере.

В то же время за удостоверяющими центрами должен быть усилен контроль: они станут частью законодательства о противодействию отмыванию денег, будет введена система лицензирования удостоверяющих центров и увеличены требования к величине чистых активов и финансовому обеспечению для покрытия убытков третьих лиц. Также для физических лиц потребуется необходимость нотариального удостоверения доверенности для обращения от имени юридического лица за получением сертификата электронной подписи.

Будет обеспечена возможность предъявлять в госорганы электронные документы с визуализированной электронной подписью в виде штампа или иной графической фигуры (не биометрия), содержащим информацию о лице и сведения о действительности сертификата электронной подписи. Указанная информация должна находиться непосредственно в самом документе, а не в формате не воспринимаемого человеком файла sig, никак не связанного физически с самим документом.

Для государственных органов будет установлена обязанность проставлять отметки о результатах оказания госуслуг непосредственно в электронных документах, получаемых гражданами по результатам оказания услуг. Для организаций, обязанных проводить идентификацию граждан, будет уточнен порядок доступа к государственным информационным системам, при этом сам доступ будет безвозмездным. Перечень сведений, получаемый такими организациями, будет расширен за счет ИНН.

Еще один пункт в части идентификации – введение механизма электронной идентификации транспортных средств. Этот шаг, в числе прочего, позволит автоматизировать взимание платы за проезд по платным автодорогам.

Что надо поменять в Законе «О персональных данных»

В Законе «О персональных данных» предлагается устранить ограничения, мешающие развитию цифровой экономики. В том числе планируется: предусмотреть возможность изъявления согласия на обработку персональных данных (ПД) представителем субъекта этих данных, предусмотреть возможность выдачи единого согласия на различные цели обработки, в том числе без указания конкретных обработчиков, ввести понятие биометрических персональных данных и определить механизмы обезличивания и анонимизации персональных данных с выводом полученных данных из-под действия закона о персональных данных.

Также планируется ввести механизм обработки ПД в рамках одной группы лиц на основании одного согласия субъекта таких данных и обеспечить возможность передачи оператором ПД обработки таких данных третьему лице без получения отдельного согласия на такую передачи при сохранении полной ответственности оператора персональных данных за такую обработку.

Какую технику избавят от взимания авторских сборов

В области авторского права планируется уточнить механизм сбора вознаграждения с производителей и импортеров техники за свободное воспроизведение фонограмм в личных целях. Перечень соответствующей техники будет ежегодно пересматриваться, из него будут исключены устройства, предназначенные для ремонта и технического обслуживания, а также вывозимые с территории страны. Также будет введен механизм досудебного урегулирования споров сборщика вознаграждений с импортерами.

Процедура регистрации лицензионных договоров станет уведомительной вместе разрешительной, в том числе будет исключено требование об обязательном письменной экземпляре такого договора. Будут устранены ограничения на использование произведений в электронной форме библиотеками, которые сейчас существенно затрудняют доступ к современным знаниям.

Планируется определить случаи, при которых исключительное право на результат интеллектуальной деятельности может принадлежать нескольким лицам с выделением долей в имущественном праве – распоряжение долями будет осуществляться по аналогии с режимом долевой собственности. Также предлагается отрегулировать правовой статус цифровых моделей, в том числе 3d- моделей, как объектов интеллектуальной собственности, распространение режима патентного права на нематериальные объекты.

Помощь ИТ-отрасли

В Налоговый кодекс в части пониженного налогообложения доходов от распоряжения правами на результаты интеллектуальной деятельности (patent box). Будут уточнены параметры при применении компаниями коэффициента 1,5 к расходам на НИОКР (научно-исследовательские и опытно-конструкторские работы) при исчислении налога на прибыль. Планируется устранить ограничения прав российских интернет-компаний, а также компаний, оказывающих услуги по обработке больших данных с использованием разработанного им ПО, на применение пониженных тарифов страховых взносов.

Документ предполагает введение специальных налоговых льгот для бизнес-ангелов: для этого будут изменения и дополнения в законодательство в части создания стимулирующих механизмов инвестирования в высоко рискованный венчурный рынок для налогоплательщиков-физических лиц.

Будут упрощены процедуры налогового резидентства для физических лиц - высококвалифицированных специалистов. Также будут уточнены параметры обложения НДС услуг, оказываемых в электронной форме иностранными продавцами. А для российских компаний будет разрешен вычет входящего НДС при экспорте электронных и ИТ-услуг.

В законодательстве о валютном и экспортном контроле планируется ввести уведомительный порядок при подаче документов при экспорте программного обеспечения и ИТ-услуг – по факту получения выручки за счет экспортера. Поскольку при такого рода экспорте не происходит физического пересечения границ материальными активами, предлагаемый подход должен повысить привлекательность российской юрисдикции для ИТ-экспорта.

Объекты телекоммуникационной и ИТ-инфраструктуры должны быть включены в перечень объектов соглашений, предусмотренных законодательством о государственно-частном партнерстве и о концессионных соглашениях. Это позволит создать предпосылки для привлечения инвестиций как в создание самостоятельных объектов ИТ- и телекоммуникационной инфраструктуры, так и в информатизацию иных инфраструктурных объектов.

Наконец, страховые договора, а также договора на оказание услуг связи можно будет заключать в электронной форме.

Нашествие машин

В скором будущем роботы будут покушаться на наши рабочие места, озабочен Европарламент. Там обнародовали проект по регулированию деятельности роботов - не исключено, что он даст толчок к созданию нового законодательства. Читается как научная фантастика.

Будущее уже наступило - такой вывод можно сделать из проекта доклада, представленного в Европарламенте и посвященного... роботам. А точнее - юридическим и законодательным вопросам, связанным с фактом их существования.

Но с какой стати европарламентарии занялись правами тех, кого юридически не существует? В докладе отмечается: человечество стоит на пороге новой эры, когда множество ультрасовременных роботов, андроидов и иных воплощений искусственного интеллекта могут стать причиной промышленной революции - она затронет все слои общества, так что, мол, жизненно необходимо рассмотреть все возможные последствия. Звучит сенсационно: в конце концов, одно дело, когда так говорят футурологи, другое - когда перед тобой текст официального документа. Впрочем, одними декларациями авторы не ограничиваются и приводят статистику: между 2010 и 2014 годом рост продаж роботов в Европе в среднем составил 17 процентов в год, в 2014-м - и вовсе рекордные 29 процентов. А число ежегодных патентных заявок в сфере робототехники за последние 10 лет и вовсе утроилось!

Техника познания

Сегодня роботами называют почти любое автоматическое устройство, выполняющее какую-то функцию. С точки зрения рыночной экономики это привлекательно, с точки зрения науки - спекуляция.

Данные Европарламента вполне соотносятся с победными реляциями Международной федерации робототехники (IFR): в прошлом году продажи промышленных роботов в мире установили новый рекорд - 248 тысяч единиц. А к 2018-му в заводских цехах разместят около 2,3 млн роботов, как минимум вдвое больше, чем в 2009-м (1 млн). Еще больше завораживают цифры по сервисным роботам: по данным той же IFR, в 2014-м по всему миру было продано 4,7 млн таких автоматов для личных нужд или домашнего использования (на 28 процентов больше, чем в 2013-м), а между 2015-м и 2018-м в год реализуют 35 млн! Фантазия разработчиков не ограничивается роботами-пылесосами. В компании Sony уже заявили о разработке робота, способного "наладить эмоциональную связь" с человеком, робот-адвокат (строго говоря, компьютерная программа) лихо оспаривает у полиции Лондона и Нью-Йорка штрафы за парковку, а система искусственного интеллекта недавно обставила в имитации воздушного боя полковника ВВС США. И пусть это еще не роботы в том виде, как их изображает Голливуд (речь, скорее, о продвинутых автоматах), однако революция, как ни крути, налицо.

Самый сенсационный момент - создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями.

Теперь о тревожном. Нет, машины не захватят власть над людьми, однако они вполне могут отобрать наши рабочие места, о чем и предупреждают в докладе. А вот прогноз от Oxford University: половина рабочих мест в США будут отданы роботам в ближайшее десятилетие или два - речь не только о заводских рабочих, но и о водителях такси, например. Видят ли опасность эксперты?

Роботы все чаще взаимодействуют с людьми в различных сферах жизни,- признает Сюзанна Бек, профессор права в Университете Ганновера (Германия) и признанный специалист по проблеме.

Нечеловеческая ответственность

Голливуд постоянно дополняет и модифицирует первые три "закона" робототехники - не причинять вред человеку, повиноваться ему и заботиться о своей безопасности

В интервью "Огоньку" профессор Бек подчеркивает: сегодня шансы, что автоматы могут нарушить права и интересы "третьих сторон", возросли. К тому же машины все более автономны и все труднее назначать конкретных людей ответственными за их действия. Чтобы избежать такого "отсутствия юридической ответственности", заключает эксперт, и нужно адаптировать существующие законы к новой реальности с участием роботов.

Фактически доклад, представленный в Европарламенте, пытается законодательно ответить на новые вызовы (его докладчик, член парламента от Люксембурга Мади Делво, на момент сдачи номера была недоступна для комментария). Самый сенсационный момент, о котором сразу написали мировые СМИ,- это создание особого правового статуса для роботов, они станут "электронными личностями" с правами и обязанностями. Еще один пункт связан с налогами: речь о том, что компании, владеющие роботами, должны сообщать, какой вклад те делают в прибыль компании, из этого будут рассчитываться налоги и отчисления в систему социального обеспечения. Авторы рассматривают и случаи, когда в результате автономных действий робота нанесен некий ущерб - кто за него будет платить? По сути, предлагается в докладе, необходима система обязательного страхования, как в случае с дорожным движением, однако на дорогах система страхования покрывает действия людей, в случае же с роботами это могут быть их производители... А как насчет прав на интеллектуальную собственность, созданную роботом? Кому они будут принадлежать? Здесь, пишут авторы, требуются дополнительные законодательные усилия.

«Мы уже живем в новой реальности»

Почему современных математиков называют шаманами, о чем думает искусственная нейросеть и какое отношение имеет проблема Больших данных к племенным курам.

Эксперты, впрочем, считают, что паниковать из-за засилья автоматов пока все же не стоит. По словам Сюзанны Бек из Университета Ганновера, то, что роботы могут заменить людей, громко сказано, хотя, как любая новая технология, они могут изменить некоторые виды нашей деятельности, прежде всего механические. Хорошая новость состоит в том, что людям останется творческая работа, недоступная для машин. И вот уже рисуются фантастические перспективы: роботы могут облегчить нам ежедневную жизнь, поддержать нас в физически тяжелой работе и подарить больше свободного времени, ну а все, что требуется,- это адекватно реагировать на возникающие вызовы.

Как живая

"Человечество стоит на пороге создания роботов, которых можно полюбить",- сообщила газета The Financial Times, и российские блогеры обрадовались. В основном, конечно, ликуют мужчины.

Так не пришла ли пора кодекса законов, вроде трех законов робототехники, что придумал фантаст Айзек Азимов? Ученые пока не знают, как вложить их в "мозг" роботов, а значит, говорится в докладе, эти законы могут относиться к... создателям роботов! Сюзанна Бек уточняет: было бы правильнее обсудить, в каких сферах нашей жизни автономные машины нужны, а в каких они вызовут, скорее, настороженность и сомнения (речь, к примеру, об автономных системах вооружений); продумать, что делать с размыванием человеческой ответственности из-за того, что все больше решений принимают автоматы... Словом, тем для споров - множество. Есть и "горячие": Christian Science Monitor напоминает, что в США озабочены законодательным регулированием одной из сфер, связанных с робототехникой,- беспилотными автомобилями. Как бы не опоздать: по прогнозам, такие автомобили появятся на американских дорогах уже в 2020-м...

Брифинг

Леонель Моура , художник в области искусственного интеллекта и робототехнического искусства:

Если мы сумеем установить с роботами симбиоз, взаимовыгодные отношения, тогда да, можно не опасаться. А если у нас не получится - возникнут проблемы. Но я думаю, что все формы жизни, включая искусственный разум, стремятся к сотрудничеству, хотят избежать конфликтов. Роботы не хотят воевать с людьми, конечно, если речь не идет о военных роботах, там ответ будет другой. Но я хочу рассматривать роботов как напарников, сотрудников. Пока я больше боюсь людей.

Подготовлен проект конвенции, регулирующей отношения искусственного интеллекта и людей

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте

Фото: Michael Buholzer / Reuters

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» — первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта — это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», — сообщил Жигарев.

Цель разработанной конвенции — определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

• К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
• Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
• Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.
• Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
• Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».
• Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).
• «Человек не должен умалять человеческое достоинство своим обращением с роботами».

Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны — развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», — отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков — Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. — РБК )», — рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» , что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», — передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», — отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», — отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США , например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее . Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе . В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.