ИСКУСТВЕННЫЙ ИНТЕЛЛЕКТ В ПРЕДПРИНИМАТЕЛЬСКОМ ПРАВЕ

Занковский С.С.
Заслуженный юрист Российской Федерации, доктор юридических наук, профессор, и.о. зав. сектором предпринимательского и корпоративного права,
Института государства и права РАН

ИСКУСТВЕННЫЙ ИНТЕЛЛЕКТ В ПРЕДПРИНИМАТЕЛЬСКОМ ПРАВЕ

Аннотация

В статье сделан вывод о том, что искусственный интеллект в результате научных и технологических прорывов рано или поздно подойдет к уровню человеческого интеллекта или сформирует свой, особенный вариант мышления. Это, однако, не решит проблему отсутствия у ИС имущественного интереса — главной движущей силы в частном праве. Рассмотрено возможное участие искусственного интеллекта во всех трех группах отношений предпринимательства: внутрихозяйственных, государственного регулирования экономики и договорных, возникающих между субъектами предпринимательского права в ходе поставки товаров, выполнения работ и оказания услуг. Уделено внимание проблематике ответственности за причинение убытков в отношениях с участием искусственного интеллекта.

Ключевые слова: искусственный интеллект, лицо, ответственность, обязательство, предпринимательство, убытки, правосубъектность, интерес, вина, договор, программа, санкции.
Keyword: artificial intelligence, person, responsibility, obligation, business, losses, legal personality, interest, wine, contract, program, sanctions.

Тема правовых аспектов искусственного интеллекта (далее сокращенно — ИИ) обширна в той же мере, в какой широка сфера его применения, а она, начинаясь с домашнего хозяйства и ухода за немощными, поднимается к управлению крупными промышленными и транспортными комплексами. И хотя задача настоящей статьи не идет дальше анализа юридических сторон применения ИИ в бизнесе, вначале следует остановиться на ряде общих соображений.

Так, в философской литературе предпринята попытка изучения возможности создания «интегрального» ИИ, т. е. искусственных систем, эквивалентных по своим функциональным, поведенческим возможностям человеческому интеллекту. Сделан вывод о том, что человеческий интеллект обладает творческими способностями, выходящими за рамки возможностей любых, сколь угодно сложных алгоритмических систем. Что не исключает возможности алгоритмического воспроизведения отдельных, не носящих явно творческого характера интеллектуальных функций в отдельных предметных сферах (шахматы, управление конкретным производством)[1].
Что касается правовой стороны дела, то здесь вызывает интерес позиция П.М. Морхата, согласно которой правосубъектность ИИ является неоднородной и зависит от его функционально-целевого назначения и возможностей. Правовое положение может разниться: от ИИ как инструмента человека до случая наделения правосубъектностью «электронного лица» и далее, в самом максимуме, до полной правосубъектности ИИ – например, в будущем при задействовании искусственного интеллекта в отсутствие человеческого экипажа в дальнем космосе, на других планетах[2]

Но для чего ИИ правосубъектность в космосе, разве что он вступит там в правоотношения с местными обитателями?
На наш взгляд, ИИ в результате научных и технологических прорывов рано или поздно подойдет к уровню человеческого интеллекта или сформирует свой, особенный вариант мышления. Это, однако не решит проблему отсутствия у ИС имущественного интереса — главной движущей силы в частном праве. Что толку применять к ИИ меры имущественной ответственности, если ему это все равно? Понятно, что алгоритм такого интереса может быть введен в программу ИИ, однако это все равно не сделает его реальным субъектом такого права и не пойдет дальше имитации участника оборота, а в худшем случае возникнет вопрос: куда заведет электронное лицо его нечеловеческий интерес?

Рядом стоит проблема имущественной и деликтной ответственности за действия (бездействие) ИИ, которая — как можно предположить, ляжет на плечи его пользователей, или изготовителей, или программистов. На наш взгляд, в целях поддержки последних на этапе становления электронных лиц ответственность программистов могла бы быть ограничена и наступать лишь при наличии вины. В остальной части риск убытков ляжет изготовителей компьютерной техники, а также на пользователей ИИ, которые должны понимать, что прибегая к его услугам на современном уровне развития техники они вступают в зону такого риска, особенно на фоне хакерских атак и прочих вирусов.
Кроме того, следовало бы продумать вопрос об объединении изготовителей ИИ в саморегулируемые организации с формированием общего фонда имущественной ответственности.
Особенность ИИ состоит в том, что он не нуждается, а признании со стороны государства, однако проблемы, связанные с последствиями его работы, не обойдутся без законодательного регулирования.

Поэтому термин “последствия работы” применительно к ИИ отнюдь не лишний по той причине, что пока он просто анализирует, рассуждает и делает выводы, ИИ не представляет особого интереса для правоведов. Его можно использовать, например, для подбора объектов выгодного инвестирования, или, в качестве навигатора, для разработки и сопровождения маршрута поездки.

И если в первом случае мы потеряем деньги, а во втором — окажемся в краях неведомых, это всего лишь составит наш риск от пользования рекомендациями ИИ. Он в данном случае стоит в одном ряду с астрологами и гадалками, но ему веришь в большей степени, потому что он основывает свои суждения не на звездах и картах.
Но в варианте, когда ИИ сам вкладывает денежные средства в подобранные им объекты, или управляет транспортным средством в автоматическом режиме, возникают вопросы имущественной ответственности, в т.ч. за причиненный вред, а вслед за ними — проблема статуса ИИ.
Для этого нам потребуется понимание сущности ИИ как электронно-правового инструмента, а это позволит отграничить его от устройств, обладающих более скромными способностями.

Собственно говоря, в основе такого понимания лежат два основных фактора, которые превращают привычных нам роботов-исполнителей в ИИ: способность автономно принимать решения и связанная с ней способность к их реализации.

ИИ неоценим в военном деле, все активнее проникает в медицину, науку и даже искусство. Отсюда и интерес к нему со стороны государства. Так, в числе поручений Президента РФ по итогам совещания по вопросам развития технологий в области искусственного интеллекта содержится требование утвердить в рамках национальной программы «Цифровая экономика Российской Федерации» федеральный проект, направленный на реализацию национальной стратегии развития технологий в области искусственного интеллекта Российской Федерации и включающий в себя 3-летний план мероприятий.
Но если обратиться к правовому регулированию предпринимательства, то нам придется, следуя традициям хозяйственно-правовой доктрины, рассмотреть вопросы участия ИИ во всех трех группах отношений предпринимательства: внутрихозяйственных; горизонтальных, возникающих на основе договоров между предприятиями, и вертикальных, составляющих государственное регулирование экономики.

1. Применительно к внутрихозяйственным отношениям определенный опыт был сформирован в СССР. В 60-е годы появляется первая АСУ(автоматизированная система управления), пошедшая дальше бумаги – АСУ “Львов”, разработка которой продлилась с 1965 по 1967 гг. В 1967 г. успешно было проведено внедрение первой очереди системы, а в 1969 г. сдана вторая очередь. Внедрением первой очереди решались задачи оперативного планирования и диспетчеризации производства, а также его материально-технического обеспечения. С введением второй очереди в эксплуатацию решалась задача автоматизирования учета и отчетности на предприятии, технико-экономического планирования и прогнозирования. Технической базой для работы АСУ «Львов» послужили две модифицированные универсальные ЭВМ «Минск-22», дополнительно доукомплектованные различными блоками, что позволило решать задачи управления в реальном масштабе времени. АСУ «Львов» решила множество проблем завода: управление производством, планированием, графиком работ; планирование материально-технического обеспечения и складских запасов; работа с финансовой, управленческой и снабженческой отчётностью[3].

Все это нельзя назвать ИИ в современном его понимании: советские АСУП не имели той степени автономности, которая характерна для ИИ. Они не управляли, но были помощниками управленцев. Последние, особенно советские бюрократы старой закалки, видели в АСУП “тлетворное влияние Запада” и угрозу своим рабочим местам. Кроме того, АСУП, предлагая объективную картину состояния производства, мешали им “втирать очки” начальству. Не следует забывать также, что АСУП не имели опоры в трудах классиков марксизма-ленинизма, а это обстоятельство в условиях СССР имело значение. Было понятно, что АСУП в руках капиталистов направлено против интересов пролетариата уже потому, что капиталисты по другому не умели. Но было неясно, чем поспособствует АСУП советским пролетариям, которым повезло родиться в первом в мире государстве рабочих и крестьян.

В результате АСУП не получили широкого распространения, а ввиду своей мудрености заслужили среди производственников весьма неприятный, производный от АСУ, термин, воспроизвести который здесь нет никакой возможности.

Сейчас, судя по настойчивому стремлению властей внедрить ИИ в различные сферы, в т. ч. экономику, государственным корпорациям и хозяйственным обществам с государственным участием придется озаботиться его внедрением в производство. Что касается частного сектора, то для него интерес к ИИ обусловлен масштабами и сложностью связей на производстве, не говоря уже о стоимости ИИ в сопоставлении с ожидаемым экономическим эффектом.
Правовое обеспечение внутрипроизводственного ИИ сводится к договорам о приобретении компьютерной техники и программ — типовых, адаптированных под конкретные условия производства или индивидуальных. От разработчика в данном случае потребуется как установка таких программ, так и первоначальное сопровождение их работы под условием конфиденциальности.

Что касается имущественной ответственности, то нет причин к ее ограничению, если речь идет о качестве компьютеров. Однако применительно к разработчикам программ такое ограничение, учитывая новизну самого дела и важность его поддержки, целесообразно установить в пределах полученного разработчиком от заказчика вознаграждения по договору. Соответствующие положения следовало бы закрепить в ГК РФ.

2. Если говорить об участии ИИ в предпринимательско-правовых вертикальных отношениях по государственному регулированию экономики, то возможности по управлению деятельностью хозяйствующих субъектов теперь далеко не те, что были во времена СССР, когда в силу ст. 11 Конституции 1936 г., а затем ст. 16 Основного закона 1977 г. хозяйственная жизнь СССР определялась и направлялась государственным народнохозяйственным планом, а экономика составляла единый комплекс. Что касается современных элементов государственного регулирования, когда ход экономических процессов направляется посредством экономических стимулов, роль ИС в таком регулировании будет тем выше, чем стабильнее окажется общая ситуация. В настоящее время, в связи со взаимными экономическими санкциями со странами Запада на фоне общей беспокойной мировой обстановки, экономика, как никогда тесно связанная с политикой, требует управления в “ручном режиме”. В самом деле, разве мог бы ИС в ответ на недружественные выпады какой-либо державы спрогнозировать негативный характер торговых отношений с ней или, напротив, рост поставок на фоне примирительных заявлений?

Тем не менее, участие ИИ в государственном регулировании экономики, контроле за предпринимательством и применении экономических санкций за правонарушения в этой сфере, потребует как минимум решения вопроса об имущественной ответственности если не ИИ, то тех государственных органов, функци которых он выполняет.
В самой постановке вопроса об ответственности органов хозяйственного руководства перед предприятиями за причиненные убытки нет ничего нового: в советский период развития доктрины хозяйственного права ее сторонники неоднократно предлагали ввести такую ответственность. По крайней мере, за доведение до предприятий плановых заданий, не сбалансированных с ресурсами.

Иными словами, речь шла о ситуации, когда предприятие получало план по выпуску продукции, однако ресурсы под выполнение этого плана, распределявшиеся в плановом порядке, ему выделялись в недостаточном объеме. Идея ответственности органов хозяйственного руководства в СССР не получила должного развития, в частности, по той причине, что к ней скептически отнеслись директора предприятий. Они не без оснований полагали, что предъявлять имущественные требования министерству, которое назначало их на должности и давало оценку их деятельности, — себе дороже.Тем не менее, такая ответственность была закреплена в Народной Республике Болгарии в рамках правительственных Правил экономического механизма и там столкнулась с указанной проблемой.

Ответственность за правонарушения в отношениях государственного регулирования экономики строится в настоящее время на нормах ГК РФ . Как указал Верховный Суд РФ, в соответствии со статьей 16 Гражданского кодекса Российской Федерации убытки, причиненные гражданину или юридическому лицу в результате незаконных действий (бездействия) государственных органов, органов местного самоуправления или должностных лиц этих органов, в том числе издания не соответствующего закону или иному правовому акту акта государственного органа или органа местного самоуправления, подлежат возмещению Российской Федерацией, соответствующим субъектом Российской Федерации или муниципальным образованием.

В силу статьи 1069 Гражданского кодекса Российской Федерации вред, причиненный гражданину или юридическому лицу в результате незаконных действий (бездействия) государственных органов, органов местного самоуправления либо должностных лиц этих органов, в том числе в результате издания не соответствующего закону или иному правовому порядку акта государственного органа или органа местного самоуправления, подлежит возмещению за счет казны Российской Федерации, казны субъекта Российской Федерации или казны муниципального образования.

По смыслу указанных норм лицо, требующее возмещение убытков должно доказать нарушение своего права, факт нарушения такого права именно лицом, к которому предъявляются требования, наличие причинно-следственной связи между нарушением права и возникшими убытками, а также размер убытков[4].
В случаях, когда разрешаемый судом спор вытекает из налоговых или других финансовых и административных правоотношений, гражданское законодательство может быть применено к названным правоотношениям при условии, что это предусмотрено законом (пункт 3 статьи 2 ГК РФ).

В связи с этим указанные в статье 395 ГК РФ проценты не начисляются на суммы экономических (финансовых) санкций, необоснованно взысканные с юридических и физических лиц налоговыми, таможенными органами, органами ценообразования и другими государственными органами, и подлежащие возврату из соответствующего бюджета.
В этих случаях гражданами и юридическими лицами на основании статей 15, 16 и 1069 ГК РФ могут быть предъявлены требования о возмещении убытков, вызванных в том числе необоснованным взиманием сумм экономических (финансовых) санкций, если законом не предусмотрено иное [5].

3. Во внутрихозяйственных и вертикальных правоотношениях ИИ вряд ли может претендовать на правосубъектность по той причине, что в первом случае он — лишь средство в руках администрации предприятия по оптимизации управления производством, а во втором — инструмент органов государственной власти по анализу, контролю и регулированию экономических процессов.

Однако в горизонтальных, по преимуществу договорных отношениях между хозяйствующими субъектами не исключена возможность псевдосамостоятельных действий ИИ, например, по производству и продаже тех или иных виртуальных объектов. На наш взгляд, в современных условиях самостоятельность ИИ — только видимость, т.к. за ним стоят конкретные лица, которые вложили в него средства в надежде получить прибыль или сделать к тому приготовления. Иными словами, здесь мы будем иметь дело с “электронной вуалью”, которую надо научиться снимать.
В будущем, возможно, ИИ начнут воспроизводить себе подобных и программировать их на определенную работу. В данном случае, когда речь пойдет о “внуках и правнуках” “материнского” ИИ, поиск электронной вуали утратит смысл. Между тем, возникнут договорные связи, которые правильнее назвать межмашинными контактами, не исключены и нарушения условий таких связей.

Но в подобных ситуациях ИИ, допустившего нарушение, следует не подвергать чуждым для него мерам имущественной ответственности, а чинить, т.е. перепрограммировать. Надо понимать отличие ИИ-предпринимателя от предпринимателя-человека: последний работает на общее благо, но прежде всего — на себя, что и дает ему материальные награды мира сего. ИИ не нуждается в этих наградах и, будучи творением человека, работает для него. ИИ- инструмент и если он дает сбои, его следует не наказывать, а исправлять.
То же относится к вариантам, когда в ИИ изначально заложена или впоследствии сформирована в нем программа, направленная на совершение при определенных обстоятельствах неправомерных действий.

Так, не исключен вариант недостоверных заверений об обстоятельствах, имеющих значение для заключения договора, его исполнения или прекращения (в том числе относящихся к предмету договора, полномочиям на его заключение, соответствию договора применимому к нему праву, наличию необходимых лицензий и разрешений — ст. 431.2 ГК РФ.
Возможны и недобросовестные действия ИИ при проведении переговоров, в т.ч. предоставление стороне неполной или недостоверной информации, умолчание об обстоятельствах, которые в силу характера договора должны быть доведены до сведения другой стороны; внезапное и неоправданное прекращение переговоров о заключении договора при таких обстоятельствах, при которых другая сторона переговоров не могла разумно этого ожидать (ст. 434.1 ГК РФ).
Практика работы ИИ в бизнесе, как можно ожидать, выдвинет и другие нарушения со стороны ИИ, которые могут быть следствием как недобросовестного вмешательства в его программу, так и, — не исключено, явится результатом собственного развития ИИ.

На наш взгляд, допуском ИИ к работе должна служить сертификация со стороны уполномоченного государственного органа, а использование ИИ вне бытовых целей без такой сертификации следует квалифицировать как правонарушение. На фоне такого порядка останется предусмотреть в ГК нормы, в силу которых ИИ при соблюдении указанного требования относится если не к лицам, то к участникам оборота.
И только на той стадии, когда ИИ начнут считать себя и действительно станут самостоятельными, способными к развитию личностями, можно будет говорить об отнесении их к числу субъектов права.

Что касается убытков потерпевшей от нарушения условий договорных обязательств стороны, то они будут возмещаться явно не за счет бессребренника ИИ. Для этого потребуются институты страхования или формирование под контролем или с иным участием государства централизованных фондов возмещения убытков, источниками пополнения которых могла бы быть часть средств, уплачиваемых потребителями за услуги (товары, работы) ИИ.

Литература:

Быковский И.А. Философские аспекты проблем создания искусственного интеллекта. Автореферат канд. дисс.
Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы. Автореферат докт. дисс.
Определение Судебной коллегии по гражданским делам Верховного Суда Российской Федерации от 18.06.2019 N 77-КГ19-7. “КонсультантПлюс”.
Постановление Пленума Верховного Суда РФ от 24.03.2016 N 7 (ред. от 07.02.2017)
«О применении судами некоторых положений Гражданского кодекса Российской Федерации об ответственности за нарушение обязательств». “КонсультантПлюс”.