1. Введение

В данной работе предлагается продолжить изучение проблем деликтной ответственности, которая возникает при причинении вреда автономным судном под управлением искусственного интеллекта.

В первой части исследования внимание было уделено случаям причинения автономным судном вреда объектам иным, чем другое морское судно¹. Качественно другая модельная ситуация – столкновение автономного судна с другим морским судном – будет рассмотрена в данной статье. Как и прежде, структурно работа делится на две части – об ответственности судовладельцев и об ответственности разработчиков ПО соответственно.

Ключевые слова: автономное судоходство, деликтная ответственность, строгая ответственность, ответственность судовладельца, столкновение судов, искусственный интеллект, источник повышенной опасности, actio in rem, мореходность судна.

2. Деликтная ответственность при столкновении судов

2.1. Ответственность судовладельца

2.1.1. Текущий режим ответственности

Частым случаем причинения внедоговорного вреда на море является столкновение судов. Как упоминалось ранее, столкновением согласно КТМ РФ является не только удар двух двигающихся судов друг об друга, но и навал движущегося судна на судно, закрепленное якорем или иным образом. При этом в морском праве понятие столкновения толкуется расширительно и включает также инциденты между двумя судами без прямого физического контакта. В зарубежной доктрине в качестве такого примера приводят дело The Royal Eagle, где судно двигалось с превышением нормативной скорости, чем вызвало волны, утопившие другое, пришвартованное судно. Адмиралтейский суд Англии признал такое взаимодействие столкновением судов².

В любом рассуждении об ответственности за столкновение исходной точкой служит глава XVII КТМ РФ, которая основана на Конвенции для объединения некоторых правил относительно столкновения судов 1910 года (далее – Конвенция о столкновениях 1910 г.)³.

Согласно п. 1 ст. 311 этой главы в случае столкновения судов случайно (casus) или из-за непреодолимой силы, а также в случае невозможности установить причины столкновения каждое пострадавшее лицо несет убытки самостоятельно. Далее, согласно ст. 312 КТМ, в случае столкновения судов по вине одного из судов убытки несет то судно, которое виновно в столкновении. В свою очередь ст. 315 закрепляет презумпцию невиновности каждого судна, участвовавшего в столкновении.

Можно заметить, что специальные нормы КТМ в целом соответствуют правилу абз. 2 п. 3 ст. 1079 ГК РФ, согласно которому при взаимодействии источников повышенной опасности (далее также – ИПО) причиненный вред возмещается на общих основаниях (как это было бы в случае взаимодействия нескольких «не источников» повышенной опасности).

Как и по общим правилам о деликтах, судовладелец освобождается от ответственности при причинении вреда случайно, вследствие непреодолимой силы или невозможности выяснить причину возникновения вреда. Однако все же важным отличием морского права остается презумпция невиновности судна в столкновении. В подавляющем большинстве случаев причиной столкновения являются либо неосторожные действия экипажа одного или обоих судов, либо ненадлежащее управление судовладельцами своим имуществом (например, отсутствие нормального обслуживания). Само собой разумеется, что судовладелец всегда отвечает за действия нанятого им экипажа. Как правило, вина в столкновении устанавливается путем проверки действий обязанных лиц на соответствие международным правилам – это Международные правила предупреждения столкновений судов в море 1972 года (МППСС-72)⁴, Международная конвенция по охране человеческой жизни на море 1974 года (СОЛАС-74)⁵, Международная конвенция о подготовке и дипломировании моряков и несении вахты 1978 года (ПДНВ)⁶ и другие⁷.

2.1.2. Постановка проблемы ответственности судовладельца за столкновение, которое произошло из-за ошибки в ПО автономного судна

При описании ответственности судовладельца при причинении вреда объекту иному, чем другое морское судно, предметом внимания неизбежно выступает понятие источника повышенной опасности. Признания автономного судна источником повышенной опасности, а судовладельца – владельцем такого ИПО было достаточно для того, чтобы сделать вывод о привлечении к ответственности за деликт против третьего лица на основании строгой ответственности. При этом не имеет значения вопрос виновности судовладельца в возникновении сбоя программного обеспечения или даже вопрос виновности во взломе автономного судна киберпреступниками.

Напротив, при столкновении судов в морском праве традиционно применяется иной стандарт ответственности. Если пострадавшее лицо не предоставит достаточных доказательств виновности чужого экипажа или менеджмента, то ему откажут во взыскании понесенного ущерба. Вследствие этого буквально во всей релевантной зарубежной литературе справедливо указывается на то, что по мере увеличения автономности морских судов возникнут значительные проблемы с привлечением судовладельцев к ответственности за столкновение судов.

Как упоминалось ранее, полностью автономные суда выполняют маневры исключительно на основании команд искусственного интеллекта или другого программного обеспечения, контроль человека за ними устранен. В свою очередь полуавтономные суда либо курсируют в режиме «автопилота» так же с помощью ИИ (по сути, приближаясь к полностью автономным судам), либо управляются дистанционным оператором, которому ИИ лишь помогает не допускать ошибок в управлении. Следовательно, столкновение автономного судна с другим судном с большой вероятностью произойдет исключительно из-за ошибки в ПО судна, и в таком случае вину судовладельца будет просто невозможно установить⁸.

Прежде всего это связано с уже упоминавшимися особенностями искусственного интеллекта: помимо установки программного обеспечения и выполнения прочих вспомогательных действий, судовладелец заведомо лишен возможности выявить и устранить дефекты в алгоритмах ИИ. По всей видимости, в области автономного судоходства проблема заведомой невиновности судовладельца в столкновении с участием его судна является на сегодняшний день одной из самых сложных. Далее необходимо описать некоторые возможные пути ее решения.

2.1.3. Варианты решения проблемы (не) виновности судовладельца

I. Крайне высокий стандарт должного поведения, или de facto строгая ответственность судовладельца

Для морского права традиционно подробное регулирование обязанностей судовладельца по поддержанию судна в надлежащем состоянии. Конечно, при использовании автономных судов эти обязанности в полной мере сохранят свою силу, а также дополнятся требованиями по установке обновлений ПО, соблюдению выданных разработчиком ПО инструкций (т. н. «мануалов») и так далее⁹. Однако определить границу должного поведения судовладельца, на которой заканчивается стандарт ведения бизнеса разумным и добросовестным участником оборота, может быть очень непросто. Поэтому возможно, что одним из вариантов решения обозначенной проблемы будет искажение оценки вины судовладельца и наложение сверхжестких обязанностей по предварительной инспекции автономного судна, что превратит de jure виновную ответственность за сбои в механизмах судна в de facto строгую ответственность¹⁰.

Такое решение не будет революционным, так как с техническим развитием судовых механизмов судьи в некоторых юрисдикциях уже начали применять de facto строгую ответственность судовладельцев за любые поломки в их имуществе¹¹. Учитывая известную объективизацию условия о вине в российской судебной практике, можно предполагать, что российский правопорядок также послужит примером установления de facto строгой ответственности.

Как указывают норвежские исследователи, примеры применения к судовладельцу крайне высокого стандарта поведения, переходящего в de facto строгую ответственность, можно найти в практике Скандинавского региона. Так, в деле Bravur во время швартовки у судна отказал рулевой механизм. Было установлено, что поломка могла произойти исключительно по вине производителя судна, однако и первая, и вторая инстанции все равно выступили за деликтную ответственность судовладельца¹².

Какими аргументами пользуются или могут пользоваться суды для возложения в таких ситуациях ответственности на судовладельца? Ключевым доводом здесь является виновное необеспечение мореходности судна (пример – дело Bravur). Например, п. 1 ст. 124 КТМ РФ устанавливает обязанность перевозчика заблаговременно привести судно в мореходное состояние, в том числе обеспечить его техническую годность к плаванию, достаточное снаряжение и укомплектование.

В зарубежной литературе также отмечается, что необеспечение мореходности судна может заключаться в «немореходном состоянии или неисправности оборудования»¹³. Однако проблема заключается в том, что обеспечение мореходности является скорее не абсолютной гарантией, а обязательством по соблюдению должной осмотрительности¹⁴. Иными словами, судовладелец отвечает за немореходное состояние судна лишь при наличии его вины¹⁵. Более того, согласно п. 2 ст. 124 КТМ перевозчик не отвечает за немореходность, вызванную скрытыми недостатками судна.

Можно предположить, что дефекты в искусственном интеллекте автономного судна, которые судовладелец не может заранее выявить и исправить, являются такими скрытыми недостатками. Следовательно, даже с точки зрения мореходности судна в части его технического оснащения поведение нормального владельца автономного судна будет безупречным. Нельзя не заметить, что суды в таком случае поступают или будут поступать с судовладельцами так же, как они часто делают с владельцами так называемых подконтрольных вещей. Такие вещи не являются ИПО, однако имеют настолько строгие требования к эксплуатации, что лишают владельца любой возможности доказать свою невиновность в причинении вреда¹⁶. Самым известным примером здесь является затопление соседей этажом ниже из-за невиновного прорыва трубы водоснабжения в вышерасположенной квартире.

Наконец, необходимо задаться вопросом об удовлетворительности такого пути с политико-правовой точки зрения. Представляется, что любое несовпадение de jure и de facto регулирования не является полезным для правопорядка. Следовательно, не являются удовлетворительными как повсеместная объективизация вины в российской судебной практике, так и сохранение сугубо формального критерия вины, прикрывающего реально строгую ответственность судовладельцев. Как указывается в финской доктрине, «толкование закона с целью установления de facto строгой ответственности могло бы решить проблему, однако осталось бы при этом интеллектуально нечестным»¹⁷.

II. De jure и de facto строгая ответственность судовладельца

Абсолютной популярностью в профильных работах пользуется предложение по открытому повышению стандарта ответственности владельца автономного судна за столкновение судов. Более того, можно сказать, что для случаев столкновения из-за ошибки в ПО автономного судна вся доктрина сейчас либо прогнозирует, либо выступает именно за возложение на судовладельца строгой ответственности. Кроме того, и российские разработчики соответствующих нормативных изменений говорят о сохранении на судовладельце бремени всех убытков, вытекающих из морских происшествий¹⁸. Разумеется, ему также предоставляется право регрессного требования к разработчику ПО, которое с высокой вероятностью будет заранее урегулировано в их лицензионном или ином договоре. В данном вопросе следует согласиться с мнением зарубежных коллег. Такой жесткий подход к ответственности владельца автономного судна за столкновение может быть обоснован следующими аргументами.

В первую очередь строгая ответственность при применении таких новых, сложных и неоднозначных с точки зрения безопасности технологий будет укладываться в общие тренды морского права. Эти тренды заключаются в ужесточении оснований гражданской ответственности и ее объективизации в области отношений, связанных с новыми видами энергии на транспорте¹⁹.

Во многом это связано со следующими двумя факторами.

1. Во-первых, именно владелец автономного судна в одиночку извлекает все экономические выгоды из использования новейшего, но, возможно, опасного оборудования. Поэтому возложение на него строгой ответственности будет некой «компенсацией» обществу за повышенный риск причинения вреда²⁰. Более того, возложение строгой ответственности будет стимулировать постоянное улучшение судовладельцем технического оснащения автономного судна, как это было в прошлом с поездами и автомобилями²¹. Можно заметить, что эти и подобные доводы укладываются в систему обоснования строгой ответственности владельца источника повышенной опасности.

Если учесть, что по российскому праву нет никаких препятствий для признания программного обеспечения самостоятельным ИПО внутри другого ИПО (автономного судна)²², то образуется некая «двойная» ответственность владельца ИПО. Сначала судовладелец отвечает за само по себе опасное судно. Однако в случае столкновения судов это не имеет значения, так как на противоположной стороне находится такое же судно-ИПО. Поэтому далее включается как бы «второй эшелон» ответственности, и судовладелец отвечает за установленное на судно программное обеспечение, которое служит вторым, дополнительным источником опасности. Иными словами, выдача «опасному» искусственному интеллекту в распоряжение не менее опасного морского судна как бы мультиплицирует ответственность судовладельца.

Наконец, здесь важно учитывать специфику эксплуатации автономного судна, экипаж которого не находится на борту и не рискует оказаться в открытом море и – как это нередко бывает – погибнуть в результате столкновения или быть привлеченным к уголовной ответственности в иностранной юрисдикции, а потому имеет меньше стимулов к предотвращению столкновений²³.

Однако все эти рассуждения не дают ответа на вопрос о том, что делать при столкновении двух автономных судов. По-видимому, единственным выходом здесь является «внедрение» в «мозги» каждого из столкнувшихся судов и сравнение того, чья программа действовала более «виновно», то есть сделала неправильные вычисления. Затем эта «виновность» может быть вменена судовладельцу²⁴. Другим вариантом, который давно предлагался в зарубежной литературе для автомобильных аварий, является распределение ответственности исходя из изначальной степени опасности или вероятности причинения вреда транспортным средством без изучения иных аспектов деликта²⁵. Однако непонятно, возможно ли и как заранее вычислить, какое программное обеспечение является заведомо более опасным.

2. Во-вторых, большое значение имеют известные в морском праве проблемы с «поимкой» виновного судна и его владельца, который нередко является оффшорной компанией. К тому же, само это судно после столкновения может представлять собой не очень ценный, а то и убыточный актив – например, стоимость подъема судна со дна может намного превышать его цену.

С данными аргументами также связано нежелание перелагать на пострадавшую сторону трудности по поиску ответственной стороны, обращению с прямым иском к разработчику ПО и совершению иных действий. Как указывается в доктрине, строгая ответственность судовладельца нужна для того, чтобы облегчить положение пострадавшего лица. При этом справедливо, что взыскание компенсации с разработчика ПО является заботой судовладельца, если причина столкновения – техническая неисправность его судна²⁶. Наконец, в целом судовладельцы являются крупнейшими игроками отрасли, которые могут учесть риск привлечения к ответственности при построении бизнеса и получить соответствующее страховое покрытие²⁷.

В этой связи нельзя не заметить, что известным вариантом решения проблемы возрастания рисков в той или иной отрасли является введение повышенного финансового обеспечения – обязательного страхования. В качестве аналогии можно привести новейшее регулирование гражданских дронов в Европейском союзе и, в частности, в Германии. Осторожное отношение немецкого правопорядка к дронам выражается двояко. Во-первых, дроны по общим правилам признаются источниками повышенной опасности²⁸. Во-вторых, в связи с их эксплуатацией вводится множество публично-правовых обязанностей, в том числе обязательное страхование ответственности²⁹.

Наконец, последним по порядку, но не по значимости аргументом в пользу строгой ответственности владельца автономного судна является известная персонификация судов в морском праве. Даже исходя из ранее упомянутых норм статей 312 и 315 КТМ РФ можно проследить, что Кодекс как будто бы наделяет морское судно правосубъектностью. Собственно и сами эти статьи называются соответственно «Вина одного из судов в столкновении» и «Презумпция невиновности судов». Аналогичное справедливо и для статьи 313 («Вина двух или более судов в столкновении»).

Такой необычный подход к правосубъектности морского судна напрямую связан с текстом первоисточника главы КТМ РФ о столкновениях – это Конвенция о столкновениях 1910 г. Например, формулировка статьи 3 Конвенции «If the collision is caused by the fault of one of the vessels» была адаптирована в статье 312 КТМ РФ как условие «В случае, если столкновение судов произошло по вине одного из судов». В свою очередь содержание Конвенции было предопределено английским правом.

В качестве небольшого отступления нельзя не заметить избирательность, с которой в КТМ РФ были перенесены нормы Конвенции о столкновениях 1910 г. Так, статья 3 Конвенции (см. выше) полностью звучит как “If the collision is caused by the fault of one of the vessels, liability to make good the damages attaches to the one which has committed the fault”. В то же время в статье 312 КТМ РФ диспозиция нормы приводится как «убытки несет тот, по чьей вине произошло столкновение». Возникает вопрос: «тот» в российской норме – это кто? В англоязычной версии Конвенции очевидно, что словосочетание «attaches to the one» относится к “one of the vessels”. Напротив, в КТМ РФ в таком случае следовало бы использовать местоимение «то [судно]», а не «тот [судовладелец]». Аналогичным образом формулировки абзаца 3 статьи 4 Конвенции “the vessels in fault are jointly as well as severally liable” и “she [the vessel] ought ultimately to bear” в переводе (пункт 2 статьи 313 КТМ РФ) звучат как «Владельцы судов, виновных в столкновении, отвечают солидарно» и «судовладелец, уплативший сумму большую». Очевидно, что на текст КТМ РФ повлияло отсутствие в континентально-правовой и отечественной доктрине соответствующих правовых конструкций и понимания судна как «ответчика» по деликтному иску.

Напротив, непривычные для континентальных юристов формулировки Конвенции о столкновениях 1910 г. связаны с классической для английского права конструкцией иска против судна (action in rem).

Как указывалось, одной из главных проблем морского права является «поимка» судна, причинившего вред, до ухода его из порта или сразу же после прибытия туда из открытого моря. В большинстве случаев у судовладельца просто нет иного имущества в этой юрисдикции. Если пострадавшему лицу не удастся арестовать виновное судно, то ему придется либо отправляться в суд другой юрисдикции, либо там же пытаться привести в исполнение решение суда его государства, а это может быть весьма дорого и неудобно.

Однако даже чтобы арестовать судно, сначала суд должен установить свою юрисдикцию над ответчиком, уведомить его о процессе, привлечь к участию и соблюсти иные условия честного процесса (fair hearing). Поэтому исторически в английском морском праве была придумана особая правовая конструкция – иск предъявлялся не против судовладельца (in personam), а против самого судна (in rem)³⁰. Это позволяет задерживать судно в порту до его реализации по решению суда. Такая персонификация судна без необходимости соблюдения всех процессуальных правил обеспечивает эффективное возмещение убытков лиц, потерпевших из-за действий судна (судовладельца, экипажа). Судовладелец может вовсе не появляться в суде, если не считает это нужным³¹.

Возможно, строгая ответственность при столкновении судов из-за ошибки в ПО автономного судна вполне укладывается в логику такой «эмансипации» судна в морском праве.

До настоящего момента положения Конвенции о столкновениях 1910 г. и дублирующие нормы КТМ РФ приходилось читать не совсем буквально, так как очевидно, что реальным виновником столкновения является либо менеджмент, либо экипаж судна³². Иными словами, антропоморфизм формулировок закона³³ казался не более чем образным выражением³⁴. Напротив, теперь такие нормы получают новое наполнение – в доктрине обсуждают правосубъектность искусственного интеллекта, компьютерные системы самостоятельно принимают сложные решения, а виновное в столкновении лицо, кроме программного обеспечения, может вовсе отсутствовать. Поэтому закономерно, что зарубежные авторы указывают на буквальное прочтение норм Конвенции о столкновениях 1910 г., где вопрос о возмещении ущерба предписано решать не через выяснение вины моряков, судовладельца, собственника или иного субъекта права, а исключительно через установление виновного судна³⁵. Следовательно, судовладелец должен отвечать за столкновение вследствие ошибки в ПО автономного судна по модели строгой ответственности, как если бы судно с «виновным» ПО было признано субъектом права и лично отвечало за деликт.

Отдельный вопрос состоит в том, каким образом будет закреплен этот новый стандарт ответственности судовладельцев. Например, в доктрине уже выдвигаются предложения о принятии профильной международной конвенции³⁶. Еще сложнее сказать, как такие нововведения будут восприняты в сообществе судовладельцев. История уже знает случаи принятия международных конвенций, которые были парализованы вследствие их отторжения отраслевым сообществом³⁷.

Таким образом, можно сделать вывод о необходимости возложения в будущем строгой ответственности на судовладельца за столкновение судов, вызванное ошибкой в программном обеспечении его судна. Этот стандарт ответственности должен быть установлен прямо и открыто, а не проводиться в жизнь под прикрытием заведомо невыполнимого стандарта должного поведения. После возмещения вреда третьим лицам судовладелец имеет право регрессного требования к разработчику программного обеспечения, которое будет регулироваться заключенным между ними соглашением.

2.2. Ответственность разработчика программного обеспечения

Меняется ли что-то в ответственности разработчика ПО, если из-за его ошибки судно нанесло вред, например, не портовым сооружениям, а другому судну при столкновении? Вероятно, не меняется. Как и прежде, IT-компания несет прямую ответственность перед третьими лицами за виновно допущенные ошибки при создании программы, искусственного интеллекта, компьютерной системы. Помимо этого, разработчик будет нести ответственность перед возместившим вред судовладельцем, однако этот аспект едва ли принадлежит области именно автономного судоходства.

Единственный вопрос, который здесь возможно затронуть подробнее, это вопрос о возможности предъявления иска третьего лица напрямую к разработчику ПО, если ошибка ПО привела не только к деликту, но и к нарушению судовладельцем договора с третьим лицом.

Можно подумать, что правила ст. 1095 и в целом параграфа 3 главы 59 ГК РФ призваны установить исчерпывающий перечень случаев, при которых третье лицо может предъявить прямой деликтный иск к производителю товара, имея возможность возместить вред за счет своего договорного должника.

Однако можно предположить и то, что смысл нормы ст. 1095 ГК заключается лишь в безвиновной ответственности производителя перед конечным потребителем. Если разработчик по своей вине допустил ошибку при создании программного обеспечения, то он всегда должен быть готов к предъявлению к нему прямых деликтных требований из причинения вреда на основании ст. 1064 ГК.

Последнее решение с большей вероятностью сможет справедливо обеспечить интересы пострадавшего лица, особенно в случаях, когда ему не удалось арестовать автономное судно или стоимость судна не покрыла нанесенного вреда. Кажется странной теоретическая ситуация, когда ответственность разработчика зависела бы от действий судовладельца и третьего лица – если они не заключили договор, то он отвечает по прямому иску, а если заключили – то только по регрессному договорному требованию судовладельца.

Таким образом, IT-компании должны быть готовы к возможному предъявлению против них исков не только из-за деликтов автономного судна, но и из-за договорных убытков третьего лица, если виной тому стало принятие искусственным интеллектом судна неправильных навигационных и иных решений. Как и в ранее упоминавшихся ситуациях, довольно остро здесь встает проблема страхования ответственности таких компаний, которая подлежит отдельному изучению. Наконец, нерешенным остается вопрос о том, насколько далеко может простираться такая связь разработчика и его продукта, тем более в сфере сугубо коммерческих отношений.

Основные выводы

Таким образом, следует по-другому взглянуть на ответственность судовладельца (но не на ответственность разработчика ПО) в случае причинения вреда столкновением судов из-за ошибки в ПО автономного судна.

В этой ситуации более оправданным является возмещение судовладельцем даже невиновно причиненного вреда. Более предпочтительным является прямое закрепление такого высокого стандарта ответственности, что не позволит суду латентно применять его под предлогом виновного необеспечения судовладельцем мореходности судна. При этом за судовладельцем сохраняется право регрессного требования к IT-компании, и тогда суду предстоит изучить не только виновность этой компании, но и содержание заключенного между ней и судовладельцем договора.

При этом в ответственности разработчиков ПО перед третьими лицами по существу ничего не меняется. Более того, теоретически возможно предъявление к ним исков не только из-за совершения автономным судном деликта, но и вследствие договорных потерь третьего лица, если установлена вина разработчика ПО в возникновении программной ошибки. Как и относительно всей сферы автономного судоходства, отдельного изучения заслуживает страхование ответственности разработчиков в связи с включением их в круг потенциально ответственных лиц. Наконец, сложно сказать, насколько далеко должна простираться подобная связь разработчика и его продукта – этот вопрос заслуживает отдельного обсуждения. ■