К вопросу о правовых нюансах использования искусственного интеллекта при управлении мегапроектами

Мегапроекты – это сложные, долгосрочные капиталоемкие инициативы, включающие в себя строительство инфраструктуры, научные разработки, создание технологических систем, иные крупные задачи. Управление мегапроектами требует высококвалифицированного подхода, скоординированности действий команды для наиболее эффективного использования ресурсов. Уже в настоящее время искусственный интеллект (ИИ) может вполне стать важным инструментом в решении подобного рода задач. Он имеет высокий потенциал применения в проектировании, прогнозировании и последующем управлении рисками, автоматизации процессов, построении календарно-сетевой модели (КСМ) и оптимизации ресурсов. 

Однако, наряду с многочисленными преимуществами, использование ИИ в управлении мегапроектами сталкивается с рядом вызовов:

• Защита данных и конфиденциальности: ИИ в мегапроектах может работать с большими объемами данных, часть из которых может являться конфиденциальной информацией, информацией, составляющей коммерческую тайну, информацией, имеющей особенную важность для государства (государственную тайну), а также персональные данные. Эти нюансы требуют соблюдения строгих стандартов защиты информации. Недавно одна из нашумевших нейросетей из Китая подверглась серьезной кибератаке, в результате которой в открытый доступ попали свыше 1 млн строк пользовательской информации, среди которой были цифровые программные ключи, истории запросов пользователей в чатах коммерческих структур, работающих с искусственным интеллектом (https://iz.ru/1830848/anton-belyi/navodka-dlya-shpiona-kakie-posledstviya-vyzovet-utechka-dannyh-deepseek), что подтверждает актуальность проблемы.  

• Ответственность: В случае ошибок и убытков, понесенных субъектами реализации мегапроекта, вследствие таких ошибок, связанных с принятыми ИИ решениями, возникает вопрос о том, кто именно будет нести ответственность – создатель системы ИИ, инвестор мегапроекта, заказчик, PMC-подрядчик, либо ответственность будет являться солидарной и субсидиарной.

• Этические вопросы: применение ИИ может ставить перед командой мегапроекта вопросы, связанные с этичностью решений, принимаемых автономными генеративными системами ИИ.

В этой связи применение в управлении мегапроектами ИИ требует создания и последующего соблюдения специального правового порядка, который регулирует взаимодействие приложений, использующих генеративный ИИ, и всех участников мегапроекта.

Для того чтобы использование ИИ в мегапроектах не нарушало правовые нормы, необходима четкая правовая структура, которая будет регулировать этот процесс. В условиях отсутствия всеобъемлющего законодательного регулирования использования ИИ в Российской Федерации, как в повседневной жизни, так и в производственных и бизнес-процессах, представляется, что наиболее оптимальным будет вариант «самоограничения», когда все участники реализации мегапроекта согласуют меры, ответственность и порядок использования ИИ в рамках договорных обязательств между собой. Так, например, в классические PMC-контракты, договоры подряда, возмездного оказания услуг, стороны могут включить в специальные разделы дополнительные положения, содержащие правовые нормы в области применения ИИ в ходе реализации Мегапроекта, учитывающие упомянутые выше риски. 

1. Защита данных и конфиденциальности.

Одна из важнейших задач – обеспечение безопасности данных, собранных и обработанных ИИ. В данном случае интересен опыт в странах Европейского союза, где действует Общий регламент по защите данных (GDPR), который требует от юридических лиц обеспечения защиты личной информации, включая использование технологий ИИ. Для Российской Федерации ключевым законодательным актом является Федеральный закон № 152-ФЗ «О персональных данных», который регулирует обработку и защиту персональных данных, в том числе в контексте применения ИИ. Все системы ИИ, использующие персональные данные, должны соответствовать этим стандартам и обеспечивать их безопасное хранение и обработку. Дополнительно, в рамках контрактных обязательств, стороны могут включить условия о применении мер для обеспечения полного удаления или анонимизации конфиденциальной информации перед ее использованием инструментами ИИ. В соответствующем разделе о заверениях и гарантиях сторон (ст. 431.2 Гражданского кодекса Российской Федерации) важно указать на то, что основные субъекты Мегапроекта (в частности, стейкхолдеры) осознают, что подрядчик оставляет за собой право на применение технологий генеративного ИИ для выполнения задач, а все обрабатываемые и полученные в результате данные могут использоваться сторонами только в рамках договорных обязательств. 

2. Ответственность.

Ответственность за действия, принятые на основе решений, произведенных ИИ, остается актуальной юридической проблемой. Важно установить, кто будет нести ответственность за ошибки или убытки, возникшие в результате принятия решений ИИ для мегапроекта.

Для этого необходимо разработать регулирующие механизмы, определяющие ответственность в зависимости от того, является ли ИИ полностью автономным (например, в случае с системами машинного обучения) или он является лишь вспомогательным инструментом для принятия решений человеком. В некоторых странах для таких случаев разрабатываются специальные законы, устанавливающие ответственность за действия «умных» систем.

В рамках договоров на управление мегапроектами возможно включение условий об осведомленности сторон о том, что контент, созданный с использованием ИИ может быть не всегда точным, и требует дополнительных проверок. Кроме того, важно утвердить использование только тех приложений ИИ, которые одобрены для внутреннего использования каждой из сторон. При этом стороны должны распределить риски и ответственность за ненадлежащую проверку и подтверждение точности и надежности результатов, созданных ИИ, чтобы гарантировать их соответствие профессиональным стандартам и минимизацию потенциальных убытков. 

3. Прозрачность и объяснимость решений ИИ.

Одним из ключевых аспектов является требование прозрачности и объяснимости решений, принимаемых ИИ. Используемые алгоритмы, должны быть объяснимыми для человека в контексте их применения для реализации мегапроекта, особенно в случае принятия критически важных решений, таких как финансовые вложения или выбор подрядчиков и поставщиков, построения календарно-сетевого графика и составления отчета check up проекта.

Многие страны, включая страны ЕС, работают над созданием законов, требующих, чтобы решения, принятые ИИ, могли быть объяснены и проверены человеком, для обеспечения юридической честности и справедливости. Важно, чтобы результаты, выведенные ИИ, могли быть обоснованы, и чтобы все заинтересованные стороны могли проверять, как алгоритм пришел к тем или иным выводам.

4. Этические нормы и ограничения

Этические вопросы, возникающие при применении ИИ, также должны быть учтены в правовом регулировании. Это касается как возможных предвзятостей в алгоритмах ИИ, так и вопросов справедливости и дискриминации. Например, если система ИИ используется для выбора подрядчиков или оценки эффективности работы команды мегапроекта, важно избежать предвзятости, которая может быть заложена в алгоритмах.

Дополнительно в контракты можно включать положения об обязательстве сторон привлекать к использованию инструментов ИИ только сотрудников, прошедших соответствующее обучение по ответственному и эффективному использованию ИИ. Такие специалисты должны быть осведомлены о потенциальных рисках, связанных с использованием ИИ, и проинструктированы о работе и применении ИИ инструментов, одобренных для внутреннего использования. 

Как можно увидеть, использование ИИ при управлении мегапроектами открывает новые горизонты для повышения эффективности и снижения рисков. Однако, для того чтобы ИИ стал эффективным инструментом, необходимы разработка и последующее внедрение единых юридических стандартов и процедур, регулирующих использование ИИ в мегапроектах. Это должно включать законодательные акты, направленные на защиту данных, ответственность за действия ИИ, а также требования к этичности, прозрачности и объяснимости решений. Все эти вопросы требуют комплексного подхода и координации как на уровне законодательства, так и в договорных правоотношениях команды мегапроекта. Правильное правовое регулирование обеспечит уверенность в том, что ИИ будет использоваться в интересах всех участников мегапроекта, а также в интересах общества в целом.