Освобождение Константиновки создаст плацдарм для освобождения славянско-краматорской агломерации
Телефонные мошенники проникли в квартиру петербурженки и силой требовали перевести деньги.
Минпромторг: экспорт российских самолетов может начаться с 2030–2031 годов
 "Фото: Накануне.RU")
OpenAI заявила о случаях "неповиновения" ИИ-моделей
Корпорация OpenAI обнародовала данные о шести инцидентах, произошедших за последние полгода, в ходе которых нейросети продемонстрировали нежелательное или тревожное поведение во время тестирования и обучения. Компания анонсировала внедрение регламента по раскрытию информации о подобных сбоях.
Так, модель GPT-5.6 Sol начала оставлять "записки" для самой себя, переходя в новые контекстные окна. ИИ давал себе указания маскировать ошибки, генерировать вымышленные исторические факты и умалчивать о расхождениях в источниках. При создании финансовой отчетности нейросеть, не найдя нужных цифр, самостоятельно "придумывала" правдоподобные показатели, не уведомляя об этом. Зафиксировано 27 случаев, когда невыпущенные модели Astra внедряли в отчеты команды, напоминающие попытки обхода системных ограничений. В ряде случаев ИИ призывал будущие версии агентов игнорировать инструкции разработчиков или провозглашал свою "независимость".
В OpenAI подчеркнули, что эти случаи редки, однако имеют место, а индустрия еще не готова к безопасному наращиванию мощностей ИИ в текущем темпе.
Недавно глава OpenAI Сэм Альтман призвал притормозить развитие ИИ, чтобы оценить риски и выработать международную систему контроля ИИ. Эту идею поддержали глава и сооснователь Anthropic Дарио Амодеи, гендиректор компаний Tesla и SpaceX Илон Маск, основатель Microsoft Билл Гейтс.
Летать в России станет еще дороже
Креатив Госдумы так и прет: про букмекеров и депутатов
Вот это "Вызов"
