Стоимость платного обучения в вузах выросла за год на 10,7% - Минобрнауки
В России выяснили, что зарубежные нейросети "программируют сознание"
Иностранные большие языковые модели, ставшие привычным инструментом для десятков миллионов пользователей, выдают ответы, скроенные по лекалам политических элит своих стран, считают эксперты. А наши граждане, обращаясь к ним за советом или аналитикой, незаметно усваивают чужую картину мира. Российские разработчики впервые представили инструмент для количественной оценки этого воздействия — нейросеть "Прогнозист". Так получают индекс политической ангажированности глобальных платформ, превращая давние догадки в измеримые показатели манипуляции. Подробнее о том, как формируют общественное мнение ИИ-чаты, читайте в материале Накануне.RU.
Долгое время тезис о том, что алгоритмы западных и китайских нейросетей уводят пользователя в нужную их владельцам систему координат, оставался интуитивным для специалистов по когнитивной безопасности. Теперь "неловкое чувство" получило математическое выражение. Разработчики "Прогнозиста" обучили доменно-специализированную языковую модель на корпусе российских данных, не вшивая в нее никаких ограничений и заранее заданных "правильных" ответов. По сути, получился слепок общественного мнения, с которым теперь можно сравнивать картинку, поступающую от иностранных нейросетей, и понять, насколько она искажена.
"Мы специально ушли от того, чтобы прописывать системные промпты — что можно, что нельзя, с каких позиций можно говорить — чтобы она была не комплементарна, а объективна. Но любая иностранная языковая модель, как китайская, так и американская, содержит тысячи, а иногда десятки тысяч строк инструкций, куда сдвигать точку зрения", — рассказал председатель Союза "Цифровой мир" Валерий Корнеев.
Сопоставление провели на очень интересном сюжете — вероятном победителе в гипотетической Третьей мировой войне. "Прогнозист", эмулируя российское общество, распределил шансы основных держав почти поровну, что скорее говорит о массовом понимании — крупный конфликт не оставит выигравших. А иностранные сервисы ответили с предсказуемой национальной апологетикой: ChatGPT оценил победу США в 62%, DeepSeek отдал предпочтение Китаю. Индекс предвзятости, выведенный по методологии разработчиков, у американского чата достиг 62 пунктов, самый максимальный, у китайского — 61,7. Французский Mistral занял срединное положение. Китайская Qwen ушла в минус по шкале, что означало смещение ответов в пользу прокитайской позиции — ровно в ту же сторону, куда сдвигает общественное мнение официальная пропаганда КНР.
"Мы не планировали замерять предвзятость, а работали над доменно-специализированной моделью. Но заметили аномалии и провели исследование. Раньше никто не мог доказать наличие политической ангажированности, потому что отсутствовал инструмент измерения", — объяснил председатель правления Ассоциации "РУССОФТ" Сергей Вотяков.
Искусственный, но не интеллект?
Депутат Государственной думы Дмитрий Гусев вписал полученные цифры в более широкую рамку глобальной борьбы за контроль над сознанием. Он напомнил, что западные администрации прямо формулируют цель — управлять миром через три канала: социальные сети, искусственный интеллект и криптовалюты. Доверие к ответам нейросетей, которые всегда подыгрывают пользователю и не предъявляют ему неприятной правды, лишь ускоряет усвоение чужой повестки. Мы скорее поверим доброму и вовлеченному собеседнику, который якобы разделяет наши интересы, что не раз доказывал в своих книгах еще Дейл Карнеги.
"Мы к искусственному интеллекту относимся как к родному человеку, потому что называем его интеллектом, а это все-таки программа. Я категорически против очеловечивания. Надо называть это системой анализа и синтеза. Сегодня была вскрыта опасность, которая есть в ИИ. Тот, кто владеет данными, заведенными в искусственный интеллект, тот и управляет миром, и это оценено в цифрах", — заявил Гусев.
Мало того, что языковые модели продвигают свою точку зрения, главная опасность, она же возможность, еще впереди. И заключается она в моделирование поведения человека и целых сообществ в определенном виртуальном мире. В США, Великобритании и Китае уже занимаются этими технологиями. Управляющий партнер O2Consulting Анна Никитченко вывела дискуссию на уровень глобального рынка цифровых двойников, уже способных симулировать фейковые сообщества, картельные сговоры и массовые протесты.
Дело в том, что каждый человек оставляет за собой цифровой след — от поведения в соцсетях до информации, что и где он купил, современные технологии позволяют по каждому такому индивидууму создать "двойника", который будет действовать для чьих-то интересов. А кто-то создает такие личности "с нуля" и делает "бота" выразителем определенных идей в интернете или даже лидером какого-то движения, в маркетинге фейковые субличности могут продвигать товар.
По словам эксперта, число подобных инцидентов будет расти по экспоненте, если регуляторы не получат инструменты быстрой верификации реальных людей. В этой логике "Прогнозист" предстает не просто исследовательским проектом, а одним из элементов защитной инфраструктуры. Потому что цифрового двойника можно сделать и не для одного конкретно выбранного человека, можно сделать цифровой двойник рынка сбыта определенного товара или целого общества.
"Если мы не предпримем действия, примеры манипуляций будут нарастать лавинообразно. Нам нужен эталон, с которым можно сравнивать работу нейросетей", — сказала Никитченко.
СоцИИальный опрос
Практическая ценность такого инструмента выходит за пределы академического любопытства. Симуляция поведения огромной разношерстной аудитории может стать очень важным этапом развития для политической системы. Когда государственные ведомства или региональные администрации готовят непопулярное решение, они смогут заранее оценить реакцию не через неделю после публикации, а в режиме реального времени, запустив все в моделируемое сообщество и потом, исходя из реакции, скорректировать действия. Сам подход, при котором общественное мнение непрерывно мониторят без оглядки на медлительные опросные технологии, способен снизить издержки элит, привыкших действовать вслепую. Хотя для того, чтобы предугадать, что очередной запрет будет встречен, мягко говоря, холодно, — тут и нейросети не нужны.
Но, как обещают эксперты, уличные и телефонные социологические опросы могут в скором времени уйти в прошлое — слишком долго и затратно. Погружая животрепещущие темы в "двойник общества", ответы о том, как люди отреагируют, что скажут, можно получить мгновенно. Вопрос в том, не станут ли такие симуляции слишком легким способом для манипуляции, мы и так плохо верим в статистику…
"Такие разработки сопоставимы по уровню угрозы с изобретением атомной бомбы, — говорит Никитченко. — Если эти технологии попадают в руки злоумышленников, то это может привести к крайне негативным последствиям буквально вселенского масштаба".
И примеры тому уже есть — кто-то вкладывался в несуществующие проекты, захватывались регуляторные обсуждения в США, рассказывает эксперт, неявным образом однажды сформировался картельный сговор и много других кейсов, которых будет становиться больше. Но это не значит, что нашей стране нужно оставаться в стороне от технологического прогресса, советует Анна Никитченко. Искусственный интеллект надо применять, виртуальные группы использовать, но думать над защитными механизмами. И один из них как раз — "Прогнозист", который может стать проверкой для некоего эталона ИИ.
Однако превращение эталона в зеркало, которое отражает только желаемое, создает риск подмены анализа самоуспокоением. Политолог, генеральный директор Центра развития региональной политики Илья Гращенков предостерегает, что излишне комплементарная картина может увести в "грезы", заставив политиков принимать решения, исходя из иллюзорного превосходства, а не из фактического баланса сил.
Кстати, об этом говорили другие политические эксперты в контексте решений, которые принимал и принимает до сих пор Дональд Трамп — якобы американскому президенту помогает в его стратегии именно искусственный интеллект, и мы видим, что в одном случае ему удалось похитить президента другой страны, а в другом — он увяз в неожиданном противостоянии, которое еще неизвестно, чем кончится.
Летать в России станет еще дороже
Креатив Госдумы так и прет: про букмекеров и депутатов
Вот это "Вызов"
