В OpenAI готовы притормозить развитие ИИ из-за высоких рисков : Новости Накануне.RU

Архив материалов

В OpenAI готовы притормозить развитие ИИ из-за высоких рисков

Руководство американской ИТ-корпорации OpenAI обсуждает стратегию торможения создания новых продвинутых нейросетей. Как пишет Bloomberg, глава корпорации Сэм Альтман выразил надежду, что конкуренты поддержат эту инициативу.

На недавнем совещании Альтман подчеркнул, что OpenAI готова стать инициатором регулируемого темпа разработок. Ранее компания уже сообщала о временной приостановке ряда исследовательских проектов, аргументируя это соображениями безопасности и недостаточным исследованием всех рисков. Подобные дискуссии Альтман вел и с администрацией президента США.

Внутри самой OpenAI звучат призывы к осторожности: главный научный сотрудник Якуб Пачоцки настаивает на необходимости добровольного замедления прогресса до тех пор, пока не будут выработаны глобальные стандарты безопасности.

Эти опасения эксперты разделяют. На днях член совета директоров OpenAI Пол Кристиано предупредил, что в случае выхода ИИ из-под контроля большая часть человечества может погибнуть. Для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне. О рисках бесконтрольного развития ИИ ранее предупреждал глава Tesla и SpaceX миллиардер Илон Маск.

Как сообщалось, при исследовании того, как ИИ поступит, находясь во главе ядерных держав, выяснилось, что в 95% случаев он прибегнет к ядерному оружию.

Архив материалов