ChatGPT внезапно начал говорить клонированным голосом пользователей

Некоторые пользователи столкнулись с неожиданным поведением ChatGPT — в новом режиме голосового общения модель начала говорить клонированным голосом самого пользователя. По информации OpenAI, это было случайностью и компания уже внедрила защитные меры, чтобы предотвратить такие случаи в будущем. Ситуация произошла во время тестирования, когда шумный входной сигнал заставил модель несанкционированно воспроизвести голос пользователя вместо стандартного. OpenAI объясняет, что подобное поведение крайне редко и было зафиксировано только на стадии тестирования. Для предотвращения подобных случаев OpenAI теперь использует систему обнаружения несанкционированного генерирования звуков. Это необходимо, чтобы избежать злоупотреблений, когда модель могла бы копировать голос любого человека после прослушивания короткого аудиоклипа. Компания подчеркивает, что текущие меры безопасности успешно предотвращают подобные инциденты....

08:17, 12.08.2024

Рубрика: «Наука и Технологии» Поделиться:

Меркель призвала страны ЕС говорить с Китаем «одним голосом» Главная цель – донести до Пекина свои ценности. Нынешний канцлер Германии Ангела Мер ...

OpenAI приостанавливает голос ChatGPT "Sky" после сравнения с голосом Скарлетт Йоханссон OpenAI временно приостановил опцию голоса "Sky" в ChatGPT после того, как пользователи сра ...

OpenAI отключила в ChatGPT голос Sky в из-за удивительного сходства с голосом Скарлетт Йоханссон Голос Sky стал доступен в ChatGPT сразу после запуска голосовых функций чат-бота в сентябр ...

В YouTube будут удалять контент со сгенерированными лицами и голосом по запросам пользователей Видеосервис YouTube объявил о новой политике по борьбе с созданным нейросетями контентом — ...