ИИ в 70% случаях выбирает точку зрения США, рассказали на ПМЭФ
Почти все тексты, на которых обучается искусственный интеллект (ИИ), написаны на английском языке. А на русский язык приходится менее 1%. Эти данные привел на Петербургском международном экономическом форуме гендиректор Института искусственного интеллекта AIRI Иван Оселедец.
Он рассказал о больших языковых моделях ИИ. Они генерируют те ответы, которым обучены. А обучены на английских текстах. Отсюда и характерные ответы на политические или идеологические темы. Были проведены эксперименты, когда ИИ задавались вопросы на политические темы из истории. И они показали, что в 70% случаях ИИ выбирает точку зрения США.
"Есть модель попросить быть беспристрастной, то она все равно выбирает точку зрения США. Но если ее попросить быть китайским патриотом, то в 99% случаях она выбирает точку зрения Китая. Это означает, что они знают все, просто прикидываются. Это можно сравнить с ракетой, у нее нет политических предпочтений, - важно, кто ее запускает и куда она летит. Предъявлять претензии языковой модели - это все равно что предъявлять претензии ракете, которую запустили", - рассказал Оселедец.
Он считает, что без участия государства в выправлении ситуации не обойтись.
Об этой проблеме недавно заявил глава СПЧ Валерий Фадеев: тексты, которые выдают нейросети, - это абсолютно западный нарратив. Они выдают мировоззренческие установки очевидного идеологического содержания.
"Это идеологизированные западные тексты", - подчеркнул он.
Специалист по ИИ член СПЧ Игорь Ашманов говорит, что российские нейросети тоже основаны на западных и выдают западную точку зрения.
ПВО отражает массированный налет БПЛА на Москву
Сальдо доложил Путину о трагедии, произошедшей в новогоднюю ночь в Хорлах
10 пострадавших при налете на херсонскую гостиницу в новогоднюю ночь находятся в больницах Крыма
"Взял ключи без спроса". Подробности трагедии во время подростковой вечеринки в Свердловской области
Тысячи жителей Кубани остаются без света и тепла после аномальных снегопадов
Искрометные истории: россияне запускали салюты в окна домов, машины и друг друга
Новогодняя подростковая вечеринка в Свердловской области закончилась гибелью двоих несовершеннолетних в огне, еще четверо пострадали
Более 50 поездов выбились из расписания из-за аномального снегопада на юге России
Уральские политики высказали слова поддержки после трагедии в Херсонской области
2 и 3 января объявлены днями траура в Херсонской области
40 человек погибли, около 100 пострадали при пожаре на горнолыжном курорте в Швейцарии
Как изменится жизнь в России с сегодняшнего дня: новые законы
С места трагедии в Херсонской области госпитализированы пятеро детей
О новогодней трагедии в Херсонской области возбудили дело по статье "Теракт"
Летать в России станет еще дороже
Креатив Госдумы так и прет: про букмекеров и депутатов
Вот это "Вызов"