«Что делать?» ИИ «Кто виноват?». Ответственность в «цифровых песочницах». Часть 2: бизнес-навигаторы

1. О чем статья?

В этой заметке мы возвращаемся к вопросу, кто может нести ответственность в связи с дефектами в работе решений на базе ИИ в грядущих экспериментальных правовых режимах («ЭПР»).

В этот раз мы рассмотрим планируемый ЭПР, связанный с «Проектом сервиса для малого и среднего бизнеса по подбору оптимальных сфер и мест деятельности на базе больших данных» («Сервис»). В рамках данного ЭПР предполагается создать систему предиктивной аналитики, работающей за счёт «сбора, объединения в единую базу и обработки обезличенных данных о клиентах из различных источников (банковские, абонентские и иные клиентские данные)», которая бы выдавала рекомендации для предпринимателей «для выбора сферы и места открытия предприятия, а также повышения эффективности уже функционирующего бизнеса»¹. Целевая аудитория такого Сервиса – малый и средний бизнес («Бизнес»)².

2. Оговорки

• Эта заметка – часть планируемого цикла статей об ответственности в сфере ИИ (1 часть была опубликована здесь). В свою очередь, этот цикл продолжает ранее опубликованные статьи собзором предлагаемых правок и изъятий в ряд(-е) федеральных законов в связи с установлением ЭПР (доступны здесь, здесь и здесь). Все аббревиатуры и оговорки, введённые в данных статьях, распространяются и на эту заметку;
  
• как мы понимаем, в Пояснительной записке имеется в виду прежде всего Портал Бизнес-навигатора МСП. Настоящая статья не является юридическим заключением, составленным для владельцев данного портала. Более того, юридические лица и ИП могут присоединиться к «песочницам» со своими техническими решениями и правовой спецификой (ч. 3 ст. 11 Закона об ЭПР). Поэтому мы будем рассматривать все возможные сценарии, с которыми можно столкнуться на практике;
  
• под «дефектами в работе ИИ» мы будем понимать любые ситуации, когда прогноз, составленный Сервисом, не сбылся, вопреки ожиданиям Бизнеса;
  
• цель статьи – исследовать, кто мог бы отвечать за дефекты в работе ИИ. Поэтому для простоты изложения мы упустим возможность реализации Сервиса через цепочку посредников и будем исходить из того, что правообладатель, разработавший и реализующий Сервис («Владелец Сервиса»), распространяет Сервис без посредников;
  
• Сервис рассчитан на ИП и юридические лица. Поэтому мы исключаем вопросы, которые могли бы возникнуть по ФЗ «О защите прав потребителей».
  

   Итак, продолжим.

В рамках ЭПР могут быть два уровня ответственности:

1. Бизнес v консультанты, которые используют Сервис для оказания услуг Бизнесу («Консультант») – скорее всего, Консультант ответственности не понесёт. Ни ИИ, ни ЭПР тут не причём;
2. Бизнес (/Консультант, использующий Сервис) v Владелец Сервиса – ответственность Владельца Сервиса будет зависеть от договора между сторонами. ЭПР тут также не причём.

Подробное обоснование:

Общий комментарий: Законопроект не предусматривает каких-либо исключений из действующих норм об ответственности сторон

Как можно проследить из действующей редакции Законопроекта, в рамках ЭПР планируются изъятия следующих норм:

• п. 1 ст. 53 Закона о Связи – о том, что база данных об абонентах операторов связи является информацией ограниченного доступа;
• п. 1, 2 ст. 63 Закона о Связи – о том, что в России действует тайна связи; а также
• целого ряда положений Закона о ПДн (в этой статье я приводил подробное описание возможных изъятий, а также возникающие в связи с этим проблемы).

Исключений из российских законов, из которых так или иначе можно было бы проследить особый режим ответственности за дефекты в работе ИИ, в Законопроекте нет. Поэтому мы исходим из действующих норм и сложившейся судебной практики.

1й уровень ответственности - Бизнес v Консультант, использующий Сервис

В рамках данного уровня вопрос ответственности ИИ напрямую не возникает. На этом уровне ключевой вопрос можно сформулировать так: «Может ли Консультант отвечать за неверно сделанный прогноз в консультации?»

Бизнес нанимает Консультанта не для достижения какой-то цели, а для получения информации, которую Бизнес будет в дальнейшем использовать в собственной деятельности. Между указанными сторонами будут, скорее всего, заключаться договоры на предоставление консультационных услуг (п. 2 ст. 779 ГК РФ).

Вопрос, можно ли включать достижение результата, ради которого заключается договор оказания услуг, в предмет договора, в своё время был на рассмотрении даже Конституционного Суда РФ («КС РФ»). КС РФ отметил, что

«Определяя исчерпывающим образом такое существенное условие договора, как его предмет, федеральный законодатель не включил в понятие предмета договора возмездного оказания услуг достижение результата, ради которого он заключается. Выделение в качестве предмета данного договора совершения определенных действий или осуществления определенной деятельности обусловлено тем, что даже в рамках одного вида услуг результат, ради которого заключается договор, в каждом конкретном случае не всегда достижим, в том числе в силу объективных причин.»³

Какой бы развитой не была используемая предиктивная аналитика она в любом случае носит вероятностный характер. Предиктивная аналитика допускает ситуации, когда в реальной жизни произойдёт что-то, в связи с чем прогноз Сервиса не сбудется⁴.

Получается, что на данном уровне Консультант, скорее всего, не понесёт ответственности перед Бизнесом.

2й уровень ответственности - Бизнес (/Консультант) v Владелец Сервиса

В данном случае ключевой вопрос - отвечает ли Владелец Сервиса на некачественную работу Сервиса предиктивной аналитики.

Законопроект не регулирует вопросы, связанные с ответственностью, так что мы исходим из общей сложившейся практики и академических исследований⁵. Ответ на наш вопрос зависит от того, как будет реализовываться Сервис на рынке.

Во-первых, (гипотетически) Сервис может быть реализован как «коробочное» ПО (это крайне маловероятно, но для чистоты исследования мы допускаем такую возможность).

Договор между Бизнесом и Владельцем Сервиса может быть квалифицирован как договор купли-продажи экземпляра ПО, где покупатель приобретает вместе с экземпляром ПО права, предусмотренные ст. 1289 ГК РФ (крайне маловероятно)⁶ – в таком случае Бизнес может привлечь Владельца Сервиса к ответственности за «поставку товаров ненадлежащего качества». Способы воздействия на Владельца Сервиса в такой ситуации мы уже рассматривали здесь.

Однако данная вероятность скорее гипотетическая:

• «коробочное» ПО повсеместно вытесняется «облачными» аналогами, так что с сугубо «бытовой» точки зрения вряд ли можно представить продажу Сервиса в «коробочном» виде;
• даже реализуя «коробочную» версию, Бизнес предпочитает прибегать к конструкции лицензионного (сублицензионного) соглашения⁷;
• неверный прогноз, полученный за счёт использования Сервиса, не всегда будет вызван дефектами в работе ИИ. В этой связи Владелец Сервиса будет утверждать, что неверный прогноз вызван некорректным введением «вводных» данных для прогноза. В таком случае вопрос привлечения к ответственности будет зависеть от успешности доказывания в суде.

Также отношения между сторонами могут регулироваться Лицензионным договором. Данная квалификация наиболее вероятна при реализации Сервиса в «коробочном виде»⁸. По такому договору Владелец Сервиса предоставляет Бизнесу неисключительные права, которые не могут быть некачественными⁹. Поэтому у Владельца Сервиса не возникнет какая-либо ответственность за некачественную работу ИИ перед Бизнесом.

Во-вторых, Сервис может быть в виде ПО, загружаемого с сайта Владельца Сервиса.

Между Бизнесом и Владельцем Сервиса заключается click-wrap лицензионный договор¹⁰. Как мы рассматривали ранее, Бизнес получает неисключительные права, то есть не может привлекать Владельца Сервиса к ответственности за ошибки в работе ИИ.

В-третьих, Сервис может быть в виде ПО, используемого на сайте Владельца Сервиса (SaaS).

Тогда договорные отношения между Бизнесом и Владельцем Сервиса могут быть квалифицированы либо как лицензионный договор, либо как договор оказания услуг, либо как смешанный договор¹¹.

В первом случае (лицензионный договор) ответственность не возникает, так как предоставляемое неисключительное право не может быть некачественным.

Во втором случае (договор оказания услуг) в качестве предмета стороны часто указывают «предоставление услуг доступа»¹², «услуги по оформлению доступа к сервису»¹³ и т.п. Ст. 783 ГК РФ распространяет на договоры оказания услуг действия «подрядных» норм, в т.ч. о качестве (см. ст. 309, 783, п. 1 ст. 721 ГК РФ)¹⁴, то есть у Бизнеса есть возможность оказать воздействие на Владельца Сервиса.

Но это не означает, что Бизнес сможет привлечь Владельца Сервиса к ответственности за любой неверный прогноз:

• суды смотрят на то, как стороны описали содержание их обязательств¹⁵. Так что степень потенциальной «успешности» будет зависеть от того, как стороны сформулируют предмет договора;
• будет учитываться «масштаб проблемы». В частности – настолько ли существенны дефекты в работе ПО, что Бизнес не сможет воспользоваться Сервисом для тех целей, на которые он мог рассчитывать при его приобретении¹⁶;
• если Бизнес захочет истребовать убытки с Владельца Сервиса, Бизнесу придётся продемонстрировать причинно-следственную связь между дефектами в работе ИИ и понесёнными убытками. Как показывает сложившаяся практика, в частности, Московского округа, доказать такую связь даже в том случае, когда ПО разрабатывается специально под нужны заказчика, крайне трудно¹⁷. Так как Сервис представляет исключительно рекомендации, вероятность успешного взыскания убытков с Владельца Сервиса будет крайне мала.

4. Заключение (в рамках второй части)

В рамках комментируемого ЭПР не предусматриваются какие-либо изменения в действующих правилах об ответственности сторон. Причины аналогичны тем, которые мы рассмотрели ранее в первой части:

• речь пока что идёт о «слабом», узкоспециализированном искусственном интеллекте. Такой ИИ может быть использован пока что только в качестве вспомогательного инструментария;
• результаты предиктивной аналитики носят рекомендательный характер.

Развитие ИИ может привести к такому высокому качеству предиктивной аналитики, что люди, специализирующиеся в каких-либо областях, переложат аналитические функции на искусственный интеллект, а свою деятельность сведут к коммуникации с клиентами. Даже в такой ситуации вероятность сдвига ответственности в сторону Консультанта мала: даже если Консультант будет попросту сообщать прогноз, составленный ИИ, подобная услуга может быть квалифицирована как «услуга по предоставлению информации» (ст. 783.1 ГК РФ), то есть 100% исполнимость прогноза даже в таком случае не будет считаться частью предмета договора. Можно ли будет называть «консультантом» человека, который будет просто сообщать сведения, составленные программой – вопрос для отдельного обсуждения.

Продолжение следует…

__________________________________________________

¹ См. стр. 1 Пояснительной записки к Законопроекту.

² См. там же.

³ См. Постановление КС РФ от 23.01.2007 № 1-П. См. также Постановление Президиума ВАС РФ от 02.12.2003 № 11406/03 по делу № А40-46957/02-27-481; Постановление Арбитражного суда Дальневосточного округа от 13.02.2018 № Ф03-56/2018 по делу № А51-4415/2017. Также неплохое исследование можно найти здесь. Также ранее мы рассматривали аналогичные вопросы в контексте ПО для диагностирования пациентов.

⁴ Поэтому, например, в Пояснительной записке к Законопроекту указано, что Сервис даёт «рекомендации» по оптимизации и открытию бизнеса. См. стр. 1 Пояснительной записки к Законопроекту.

⁵ См., например, Савельев А.И. Электронная коммерция в России и за рубежом: правовое регулирование. 2-е изд. М.: Статут, 2016 (СПС «Консультант Плюс»); Елин В.М. "Облачные" услуги и особенности их правового регулирования в Российской Федерации // Информационное право. 2017. № 4. С. 28 – 33 (СПС «Консультант Плюс»); Абдуллина Э.И. Правовые аспекты создания и использования сложных объектов интеллектуальных прав в виртуальной реальности // Актуальные проблемы российского права. 2017. № 9. С. 147 – 152 (СПС «Консультант Плюс») и пр.

⁶ Савельев А.И. Электронная коммерция в России и за рубежом: правовое регулирование. 2-е изд. М.: Статут, 2016 (СПС «Консультант Плюс»)

⁷ См. там же

⁸ См. там же

⁹ Ранее мы рассматривали этот вопрос в деталях здесь.

¹⁰ См. Савельев А.И. Электронная коммерция в России и за рубежом: правовое регулирование. 2-е изд. М.: Статут, 2016 (СПС «Консультант Плюс»)

¹¹ См. там же. Также см. А. Щукина. Пользовательское соглашение: лицензионный договор v договор оказания услуг.

¹² См., например, Постановление Арбитражного суда Западно-Сибирского округа от 11.04.2019 № Ф04-1287/2019 по делу № А27-28052/2017

¹³ См., например, Постановление Арбитражного суда Московского округа от 15.06.2020 № Ф05-1216/2018 по делу № А40-82340/2017

¹⁴ См. также Карцхия А.А. Облачные технологии: правовой аспект // Российский юридический журнал. 2018. № 6. С. 162 – 172 (СПС «Консультант Плюс»)

¹⁵ См. ст. 309 ГК РФ, Постановление Арбитражного суда Московского округа от 04.07.2016 № Ф05-7127/2016 по делу № А40-55525/2015, Постановление Арбитражного суда Северо-Западного округа от 05.02.2016 по делу № А56-25552/2015

¹⁶ См., например, Определение Верховного Суда РФ от 09.09.2019 № 309-ЭС19-15547 по делу № А50-7709/2018; Определение Верховного Суда РФ от 03.05.2017 № 307-ЭС17-3941 по делу № А44-6582/2015

¹⁷ См., например, Постановление Арбитражного суда Московского округа от 10.09.2020 № Ф05-12892/2020 по делу № А40-87065/2019; Постановление Арбитражного суда Московского округа от 29.01.2018 № Ф05-20251/2017 по делу № А40-42555/17