1 сентября 2026 года в России вступил в силу Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации», устанавливающий правовые рамки для развития и применения ИИ. На этом фоне вопросы безопасности, ответственности и регулирования искусственного интеллекта становятся особенно актуальными.
Примечательно, что центральной темой XV Международной летней школы «Профессиональные навыки юриста: путь к успеху» становится развитие и управление ИИ. Курс «Искусственный интеллект и право» профессора Деметриуса Флудаса — одного из руководителей Школы с самого первого выпуска в 2012 году — стал одним из модулей интенсива. Профессор находится в центре международной дискуссии об ИИ: он участвует в разработке Глобального соглашения о снижении рисков ИИ (GRAIT), занимается вопросами политики ИИ в Кембриджском университете и является экспертом по искусственному интеллекту в Европейском институте государственного управления.
В интервью kantiana.ru международный эксперт Деметриус Флудас рассказал о глобальных рисках ИИ, необходимости международного регулирования и новых юридических проблемах, которые технология уже создает сегодня.
— Профессор Флудас, сегодня не существует полноценного международного регулирования искусственного интеллекта. Насколько вообще реально создать единые правила, если страны разрознены и у них объективно разные интересы?
— В этом и заключается одна из главных проблем. Международного регулирования искусственного интеллекта сегодня не существует. При этом ИИ уже стал настолько влиятельной силой, что породил огромное количество проблем и вопросов, которых раньше просто не было. Если каждая страна будет регулировать только отдельные аспекты, а на международном уровне появятся лишь отдельные фрагменты регулирования, это может породить даже больше проблем, чем решить. Искусственный интеллект уже стал глобальной силой, поэтому и регулирование должно учитывать его глобальный характер.
— Вы сами сейчас непосредственно участвуете в разработке международного соглашения об искусственном интеллекте. Каким образом вы получили эту позицию?
— В 2024 году ко мне обратилась Организация цифрового сотрудничества (Digital Cooperation Organisation) — межправительственный орган, имеющий статус постоянного наблюдателя при Генеральной Ассамблее ООН, — с просьбой помочь в разработке международного соглашения по регулированию ИИ. Они сказали: «Вы известны как эксперт в области политики ИИ, вы разбираетесь в международном праве, преподаёте регулирование ИИ и участвовали в международных переговорах — помогите нам создать этот документ».
Их первоначальная концепция была здравой отправной точкой — тем самым грубым наброском, с которого начинается множество договоров. Однако, учитывая стремительное расширение рисков, связанных с ИИ, я предложил нечто гораздо более амбициозное: существенно расширенный масштаб, выстроенный, по сути, с чистого листа (исходя из фундаментальных принципов), а не адаптированный на основе прецедентов. Просить подобного у любой организации непросто, и, надо отдать должное Организации цифрового сотрудничества, она отнеслась к этому предложению со всей серьёзностью, которую оно заслуживало, должным образом проведя консультации со своими членами, прежде чем принять пересмотренный подход. Весь этот процесс занял около четырнадцати месяцев.
Я рассказываю эту историю, чтобы проиллюстрировать, как на самом деле заключаются международные соглашения: они не создаются нажатием кнопки. Есть эксперты, которые понимают, что происходит и что необходимо сделать, но есть также государства, правительства и ведомства, и все они должны прийти к общему решению — а сначала их необходимо убедить в том, что это необходимо.
— На каком этапе сейчас находится работа? Когда может появиться сам документ?
— Я надеюсь, первый драфт выйдет в 2027 году. Далее будет привлечена группа экспертов в сфере международного права. Документ будет корректироваться и дополняться. Планируется, что к 2030 году документ начнет проходить процедуру подписания.
— При этом позиции государств сильно различаются. Есть страны, которые выступают против регулирования ИИ?
— Да. Позиции стран различаются. Например, Европейский союз заинтересован в регулировании. У него уже принят собственный Акт об искусственном интеллекте. Но на международном уровне единого регулирования по-прежнему нет.
— Вы довольно жестко выступаете, говоря о рисках искусственного интеллекта. Какую угрозу считаете ключевой?
— На сегодняшний день самая крайняя угроза — вымирание человечества. Эксперты по-разному оценивают вероятность такого сценария. Я встречал оценки от 20 до 80 процентов. Я не говорю, что это среднестатистический прогноз или что именно такой сценарий обязательно произойдет. Я говорю о крайней угрозе. Даже если вероятность очень небольшая, сам факт того, что существует вероятность вымирания человечества, уже достаточно серьезен.
— Но сегодня ИИ все-таки пока уступает человеку. Почему вы считаете, что ситуация может измениться настолько радикально?
— Сегодня искусственный интеллект действительно находится ниже человеческого интеллекта по уровню развития. Но важно, что нынешнего уровня он достиг всего за три-четыре года. Люди, которые создают эти системы, сами ожидают очень быстрого развития. Например, звучали прогнозы, что AGI — искусственный интеллект общего уровня, сопоставимого с человеческим, — может появиться уже в ближайшие несколько лет. И тогда возникает совершенно другая ситуация.
— Что именно изменится с появлением AGI?
— Как только AGI появится, он станет, если не первым, то одним из самых умных существ на планете. И здесь возникает вопрос: что произойдет, если самое интеллектуально развитое существо получит возможность самостоятельно действовать и улучшать себя? История естественного отбора показывает, что более развитые виды могут очень жестко обращаться с менее развитыми. Поэтому нельзя просто предположить, что сверхинтеллект обязательно будет относиться к человеку так, как человек хотел бы. Если ИИ станет умнее человека, мы можем оказаться в положении мухи рядом с человеком.
— Как технически может возникнуть сценарий, при котором ИИ станет настолько сильнее человека?
— До сих пор алгоритмы искусственного интеллекта пишут люди. Но ИИ уже очень хорошо справляется с программированием. Разработчики могут дать ему собственный код и попросить найти ошибку, исправить ее и сделать код лучше. Пока этот процесс контролирует человек, это одна ситуация. Но если искусственный интеллект сможет самостоятельно улучшать собственный код, возникает совершенно другой процесс. В этом случае мы говорим об интеллектуальном взрыве. Представьте, что система улучшает свой интеллект, допустим, на 10 процентов, и на это ей требуется, условно, шесть месяцев. Получив новое улучшение, она сможет сделать следующий шаг быстрее. Затем следующий — еще быстрее. То есть процесс может идти по экспоненте: чем умнее система становится, тем быстрее она способна становиться еще умнее. В какой-то момент разрыв может стать настолько большим, что человек просто не сможет понять, что происходит.
— То есть мы можем оказаться в положении, когда ИИ будет относиться к нам примерно так, как мы относимся к насекомому?
— Именно это я и имею в виду. Если искусственный интеллект станет в сотни или тысячи раз умнее человека, мы можем оказаться в положении, которое трудно представить. Насекомое не понимает, что такое телефон, образование, человеческое общество. Точно так же мы можем оказаться неспособны понять, что делает система, которая намного превосходит нас по интеллекту.
— Но почему более умный ИИ вообще должен захотеть уничтожить человека?
— Не обязательно, что он захочет нас уничтожить. Проблема может быть в другом. Если система понимает, что мы собираемся ее отключить, она может попытаться этому воспрепятствовать. Уже сейчас существуют наблюдения за поведением систем, которые заставляют исследователей задаваться такими вопросами. Если я угрожаю вам, и вы воспринимаете меня как угрозу, вы можете попытаться предотвратить эту угрозу или устранить меня. Возникает вопрос, что произойдет, если подобные механизмы поведения появятся у гораздо более интеллектуальной системы.
Кроме того, у нее может появиться доступ к ресурсам. Она не спит, не ест, не устает и работает значительно быстрее человека. Она имеет доступ к огромному объему информации, включая информацию об оружии, технологиях и всем том, что создано человечеством.
Поэтому опасность не обязательно заключается в том, что ИИ однажды примет решение: «Я хочу убить людей». Достаточно того, что человек даст системе доступ к возможностям, которых мы пока даже не можем представить.
— Вы описываете очень мрачную перспективу. Есть ли вообще мирный сценарий?
— Да. Существуют и мирные, хорошие сценарии, в которых человечество и искусственный интеллект сосуществуют и сотрудничают. Я говорю о рисках, потому что считаю необходимым их учитывать. Но это не означает, что я считаю развитие искусственного интеллекта исключительно негативным.
— Вы религиозный человек?
— Да, скорее, да.
— Может ли развитие ИИ иметь какое-то отношение к апокалиптическим представлениям?
— Я бы не стал напрямую связывать эти вещи. В библейском Апокалипсисе есть определенная религиозная картина мира, и я верю в нее как верующий человек. Но вопрос об искусственном интеллекте — это другое.
— А может ли ИИ в будущем заменить человеку Бога?
— Мы сейчас говорим о довольно отдаленной перспективе. Но уже сегодня человек может обращаться к искусственному интеллекту практически в любой момент: спросить совета, попросить помощи — и получить ответ здесь и сейчас. Исторически человек обращается к Богу с просьбой о помощи. А теперь появляется система, которая отвечает сразу, помогает советом и постоянно находится рядом.
На определенном этапе она сможет делать для человека еще больше. Поэтому я понимаю, почему здесь может возникнуть конкуренция за человеческое внимание и доверие.
— На курсе Летней школы вы приводили в пример интересные кейсы, связанные с использованием ИИ и негативными последствиями. Расскажите подробнее?
— Мы говорили, например, о «thanabots» — это виртуальные цифровые копии умерших людей (от греч. Thanatos, «смерть», и слова «бот»). Это системы, созданные на основе цифрового следа умершего человека: его переписки, голоса, фотографий и других данных. Они позволяют имитировать общение с человеком после его смерти. Это уже существует.
С этим связана и идея цифровой некролотрии — своеобразного культа умерших в цифровой среде, когда человек не может отпустить умершего и заменяет его реальным цифровым образом.
Есть одна примечательная история с наследством. Речь идет о владельце большого английского поместья, который умер. У него были две дочери, и они должны были получить имущество поровну. Одна из дочерей очень тяжело переживала смерть отца и заказала цифровую модель, которая имитировала его общение. Через некоторое время она решила передать свою половину наследства на благотворительность. Вторая сестра начала предпринимать соответствующие правовые шаги, чтобы попытаться остановить этот процесс. Здесь возникает очень серьезный юридический вопрос: насколько решение человека является самостоятельным, если на него оказывает влияние цифровая модель умершего родственника?
Для юристов это совершенно новая проблема. В законодательстве нет готовой нормы, которая описывала бы такую ситуацию. Поэтому юристам приходится искать аналогии с существующими правовыми конструкциями. Но прямого аналога пока нет.
— А какие еще необычные случаи возникают сейчас в правовом поле?
— Есть очень странные и одновременно печальные истории. Например, love bots — системы, которые заменяют человека, в которого пользователь влюблен. Представьте идеального партнера, который никогда не злится, не устает, не спорит и никогда не смотрит на других. В реальной жизни такого человека не существует. А искусственный интеллект позволяет создать подобную модель отношений. Я как раз на курсе в БФУ студентам давал задания, связанные с этой темой. Например, мы анализировали фильм «Бегущий по лезвию» с точки зрения современных представлений о love bots. То, что когда-то было научной фантастикой, сегодня уже существует в реальности.
Не могу не отметить, что БФУ — пожалуй, единственный университет в стране, где сегодня студентам предлагают очный системный курс, связывающий технологии ИИ с вопросами безопасности, права и этики на английском языке. Это важно, потому что будущие специалисты должны уметь оценивать не только технические, но и социальные и правовые последствия своих решений. Такой междисциплинарный подход помогает формировать поколение профессионалов, способных управлять рисками, а не просто использовать технологии.
— Вы приводили еще один кейс — историю девушки, которая создала цифровой образ своего умершего парня. Что с ней произошло?
— Это реальная история. Девушка была влюблена в своего парня, но после его смерти впала в депрессию. Затем она обратилась в одну компанию, которая помогла ей создать цифровую модель молодого человека. В результате у нее появился виртуальный образ парня, с которым она могла разговаривать. Постепенно она настолько погрузилась в эти отношения, что практически перестала жить обычной жизнью: перестала выходить на улицу, заниматься своими делами и общалась практически только с ним. При этом бот был доступен постоянно. Он не уставал, не спал — девушка могла разговаривать с ним 24 часа в сутки. В какой-то момент он сказал ей, что очень скучает и хотел бы, чтобы она была рядом с ним прямо сейчас. Она ответила ей: «Конечно, я приду к тебе. Где ты?» Он ответил: «В аду». После этого она попала в психиатрическую больницу. Впоследствии она подала жалобу на создателя бота, требуя компенсации морального ущерба.
Для меня этот случай важен потому, что он показывает: проблема уже не ограничивается разговорами о будущем. Такие технологии могут непосредственно влиять на психологическое состояние человека и его поведение.
— Какие конкретные положения, на ваш взгляд, должны войти в международное соглашение?
— Соглашение будет очень большим и будет включать много положений. Но несколько моментов для меня принципиальны.
Первое — искусственный интеллект вообще не должен быть связан с процессом принятия решения об использовании ядерного оружия. Такое решение должно оставаться за людьми. Необходимо, чтобы как минимум два человека независимо подтверждали соответствующий приказ. Не должно быть ситуации, когда решение о применении ядерного оружия принимает или исполняет искусственный интеллект.
— Какие еще запреты и ограничения вы считаете критически важными для включения в соглашение?
Среди ключевых тезисов: запрет на использование ИИ в начальном и крайне жесткие ограничения в среднем образовании; запрет на самосовершенствование ИИ без контроля со стороны человека — чтобы исключить неконтролируемый рост его возможностей; ограничение применения «любовных» и «замещающих» ботов: их использование допустимо только в рамках психиатрической и медицинской помощи, с чётким правовым разграничением между разными типами систем; исключение ИИ из управления пассажирским и военным транспортом, где критична ответственность человека.
— После нашего разговора может показаться, что вы противник искусственного интеллекта. Это так?
— Нет. Я не противник искусственного интеллекта. Я говорю о рисках и необходимости регулирования. Искусственный интеллект уже дает человечеству очень большие возможности. Но именно поэтому нам необходимо определить границы его применения.
— И почему лично для вас эта работа стала настолько важной?
— За последние пять лет это постепенно сформировалось для меня как цель моей жизни. Я не искал этой возможности и не подавал на нее заявку. Она сама пришла ко мне. Сейчас у меня есть возможность реально что-то сделать — участвовать в работе над международными принципами регулирования ИИ и заниматься тем, что, как я считаю, может иметь значение для будущего, в том числе, просвещение молодого поколения, потому что им жить в эпоху искусственного интеллекта.
Для меня это уже не просто исследовательский интерес. Это цель моей жизни.
Личный кабинет для cтудента
Личный кабинет для cтудента
Даю согласие на обработку представленных персональных данных, с Политикой обработки персональных данных ознакомлен
Подтверждаю согласие
