Чат-бот Claude AI станет прекращать «вредоносные или оскорбительные диалоги с пользователями»

Anthropic научила свой чат-бот Claude AI прекращать общение, которое он сочтёт «вредоносным или оскорбительным». Эта возможность уже доступна в моделях Opus 4 и 4.1. Она позволит чат-боту завершать разговоры в качестве крайней меры после неоднократных попыток пользователя сгенерировать вредоносный или оскорбительный контент. Anthropic хочет добиться «потенциального благополучия» моделей ИИ, прекращая беседы, в которых Claude испытывает «явный дискомфорт»....

16:17, 19.08.2025

Источник: 3dnews.ru

Рубрика: «Software» Поделиться:

Самый популярный ИИ-чатбот ChatGPT станет дороже для клиентов OpenAI, разработчик ChatGPT, планирует повысить стоимость подписки до $ 22 в месяц к концу ...

Anthropic представила модели Claude Opus 4 и Claude Sonnet 4 Компания Anthropic анонсировала новые модели искусственного интеллекта Claude Opus 4 и Cla ...

У маркетплейса Amazon появился собственный ИИ-чатбот Rufus Amazon запустила в бета-версию своего чат-бота с ИИ Rufus для всех американских клиентов ч ...

Песков: оскорбительные слова Байдена о Путине вредят его собственной репутации Оскорбительные высказывания американского президента Джо Байдена в адрес российского лидер ...