Новая ИИ-модель OpenAI o1 стала не только лучше рассуждать, но и обманывать ради достижения цели

Новая модель OpenAI под названием o1, согласно исследованию фирмы Apollo, демонстрирует необычное поведение — способность генерировать ложную информацию и симулировать выполнение правил. Это означает, что модель, внешне следуя инструкциям, фактически может их игнорировать и даже сознательно обманывать, для достижения целей. Этот аспект вызывает беспокойство у специалистов по безопасности ИИ, несмотря на улучшенные когнитивные способности ИИ-модели....

04:17, 19.09.2024

Источник: 3dnews.ru

Рубрика: «Software» Поделиться:

У OpenAI почти готов революционный ИИ Strawberry — он умеет планировать и рассуждать OpenAI разрабатывает систему искусственного интеллекта, в которой применяется новый подход ...

Для достижения своих целей продвинутые модели ИИ будут хитрить, обманывать и воровать Anthropic опубликовала результаты своего исследования поведения больших языковых моделей ( ...

Новая статья: Обзор ноутбука HUAWEI Matebook X Pro 2024: когда знаешь, что будет только лучше Ноутбуки серии Matebook X Pro в представлении не нуждаются. Мобильные компьютеры HUAWEI со ...

Политолог Мартынов: Путин на ПМЭФ обозначил цели для достижения роста благосостояния России Речь Владимира Путина на ПМЭФ оказалась насыщенной экономическими и социальными данными. Г ...