Ашманов: Мы не догоним США в сфере ИИ, нужны асимметричные действия : Аналитика Накануне.RU

Архив материалов

Ашманов: Мы не догоним США в сфере ИИ, нужны асимметричные действия

Накануне.RU публикует вторую часть важного интервью специалиста по искусственному интеллекту (ИИ) Игоря Ашманова, в котором он рассказывает о блокировках, VPN, ИИ, дипфейках и цифровизации.

Блокировки VPN: государство не сможет выиграть

— В попытке решать социальные проблемы техническими методами у Минцифры происходит эскалация. Сначала решили замедлить или заблокировать вражеские платформы. На это были основания: они блокировали наши каналы или призывали убивать русских. Дальше решили бороться с доступом к ним. Затем решили бороться со средствами доступа. Потом выяснилось, что всех граждан научили пользоваться VPN. Сама идея, что можно людям предписать какое-то поведение и они будут слушаться и исполнять, абсолютно безумная. Это идея людей без обратной связи, которые пытаются управлять страной, как будто играют в шахматы и переставляют пешки. На самом деле люди себя ведут не так. Вы повышаете налоги — люди уходят в серую зону. Вы запрещаете что-то читать в интернете — ставят VPN. И VPN становится все более незаметным и трудно блокируемым.

Между тем, мы очень сильно зависим от западной кодовой базы для программирования, и VPN — это рабочий инструмент наших разработчиков. А платный VPN — это еще одна "оригинальная свежая идея", как закрутить гайки. Из этого ничего не выйдет! Гарантированно. У нас миллион-полтора программистов в стране. Их всех "научили", что надо "бороться" с Правительством. Их всех раззадорили, им всем сказали: мы вас заблокируем, вы не сможете. И они сказали: а вот попробуйте, сейчас мы вам докажем! И принялись заниматься этим. Эта борьба для Правительства не кончится победой, в Правительстве нет столько программистов. А если создать наши отечественные VPN — ну, так их заблокируют на Западе. На этом пути победы у государства точно не будет.

ИИ: поезд ушел, догонять бессмысленно

— Индустрия ИИ многослойная. В самом низу находятся литографы, которые прожигают процессы. Эти литографы есть только у голландской компании компании ASML. Их только пытаются повторить в Китае. То есть там абсолютная монополия. Владеют этой компанией западной инвестиционные гиганты. Выше этого находятся графические карты, на которых исполняется ИИ. Они стали основным "железом" для ИИ, потому что умеют перемножать матрицы. Там же нет никаких нейронов, это туфта маркетинговая, там многослойные вероятностные матрицы. Эти карты, по сути, делает одна компания в мире — NVIDIA. У нее капитализация 4 трлн долларов.

Поверх этого находится платформа для управления этими графическими картами — она называется CUDA. Ее разработчик тоже NVIDIA, это, по сути, Windows для ИИ. Там такая же монополия, как c Windows, все вынуждены пользоваться этой CUDA. Еще выше находятся нейронные фреймворки — это маленькие операционные системы, которые позволяют разрабатывать и запускать разные виды нейросетей. А их всего два. Выше этого сами нейросети.

У нас ничего этого нет — ни "железа", ни платформ, ни фреймворков. Идея, что мы разработаем суверенный ИИ и догоним, абсолютно ложная. Нам нельзя отстать в военной области, где ИИ решает судьбу сражений. И не очень важно, суверенный это ИИ или нет. Он должен убивать врагов и защищать своих. И там у нас даже лучше, чем у украинцев или управляющих ими американцев. В экономике тоже неважно, какой ИИ. Главное, чтобы он не был облачным, чтобы данные не улетали за границу. Он должен быть стерилизованным, чтобы не причинял вреда. А нас втягивают в абсолютно ненужную сферу бредогенераторов, которые рисует всякую дрянь и генерируют бессмысленные тексты.

Мы не можем догнать США. Там находятся ключевые оригинальные авторы этой технологии. Они это придумали, вся теория там. У них кадров минимум в 10 раз больше, причем это оригинальные авторы. У них запланировано в ближайшее время потратить триллион долларов на развитие ИИ. У нас же все заимствовано, а кадров минимум 10 раз меньше, и мы планируем потратить триллион рублей, то есть в 70 раз меньше. Каким образом мы можем догнать авторов технологии, у которых на два порядка больше денег и людей? Это невозможно. Это значит, что этот поезд ушел, а мы стоим с нашими мешками на рельсах, смотрим, как он удаляется в точку, и говорим, что сейчас мы побежим и его догоним. Это бессмысленно. Нужен асимметричный ответ: бросить мешки, сесть в машину, доехать до аэропорта и обогнать другим способом. Китайцы тоже строят асимметричные ответы и они не догоняют американцев. Идея догонять — ложная.

Дипфейки: защититься техническими методами не получится

— Никаких способов противостоять дипфейкам у разработчиков нет. Эта имитация делается на очень высоком уровне, так что человек уже не может отличить. Там нет технического решения, нужен закон о дипфейках. Мы в рабочей группе при Совете Федерации написали такой закон еще в декабре, и его до сих пор не внесли, там кто-то противодействуют. Я думаю, это владельцы генераторов, которые не хотят никаких ограничений. Поэтому дипфейки будут производиться, а ситуация будет все хуже.

Фиксировать их автоматически почти невозможно. Это социальная проблема, хотя вред причиняется с помощью технологий. Ловить тех, кто их делает, и блокировать их нужно специальными социально-юридическими процедурами.

Недавно был дипфейк про главу "Газпрома" Алексея Миллера, где он якобы говорит, что всем нужно скинуться на "Газпром". Это вызвало шквал ненависти. Ясно, что это был политический акт. Но нет процедуры, по которой это можно внесудебно заблокировать. Кто-то должен сказать, что это фейк. Кто скажет? Даже если бы было автоматическое распознание этого фейка и технический вердикт системы, — а почему его надо удалить? На каком основании? Закона нет.

Я разговаривал с представителями ВК, Яндекса, они говорят: а мы не знаем, мы же не можем мешать, фейк это или не фейк, вот когда прокуратура скажет убрать — тогда уберем. Эти вещи не решаются технологическим путем. Это должны решать законодатели, а потом правоохранительные органы. Это очень большая угроза.

Подделка цифровых документов: преступление практически не распознать

— Подделку цифровых документов распознать нельзя. Обычно рассказывают побасенки для людей, не разбирающихся в информационных технологиях, что там будет все зашифровано, будет электронная подпись у документа, он будет положен в какой-нибудь блокчейн и т.д.

Надо понимать, что системный администратор с достаточно высоким уровнем прав доступа сможет поменять все что угодно. Можно накручивать систему контроля над системой контроля и говорить, что документы нельзя изменить. Но реальность показывает, что это не так. Уже были случаи, когда в Краснодарском крае чуть-чуть меняли границы участка в кадастре и оказывалось, что владелец участка без своей земли. Такие махинации делали и с квартирами. Везде люди. Против людей злонамеренных, мотивированных поставить механизм нельзя. Можно поставить только других людей. Сама идея отказаться от бумажных оригиналов — абсолютно безумная, особенно в нынешних условиях. Нам нельзя это делать.

Без электричества цифровизация бессильна

— Но цифровизация опасна не только тем, что она дает возможность куда-то влезать, вредить, воровать, не оставляя следов, потому что эти люди затрут все логи в журналах доступа. Цифровизация прямо зависит от электричества. Вот выключат нам электричество — и что? Уже даже при отсутствии связи все плохо.

Автор: