ChatGPT внезапно начал говорить клонированным голосом пользователей

Некоторые пользователи столкнулись с неожиданным поведением ChatGPT — в новом режиме голосового общения модель начала говорить клонированным голосом самого пользователя. По информации OpenAI, это было случайностью и компания уже внедрила защитные меры, чтобы предотвратить такие случаи в будущем. Ситуация произошла во время тестирования, когда шумный входной сигнал заставил модель несанкционированно воспроизвести голос пользователя вместо стандартного. OpenAI объясняет, что подобное поведение крайне редко и было зафиксировано только на стадии тестирования. Для предотвращения подобных случаев OpenAI теперь использует систему обнаружения несанкционированного генерирования звуков. Это необходимо, чтобы избежать злоупотреблений, когда модель могла бы копировать голос любого человека после прослушивания короткого аудиоклипа. Компания подчеркивает, что текущие меры безопасности успешно предотвращают подобные инциденты....

08:17, 12.08.2024

Рубрика: «Наука и Технологии» Поделиться:

Меркель призвала страны ЕС говорить с Китаем «одним голосом» Главная цель – донести до Пекина свои ценности. Нынешний канцлер Германии Ангела Мер ...

В YouTube будут удалять контент со сгенерированными лицами и голосом по запросам пользователей Видеосервис YouTube объявил о новой политике по борьбе с созданным нейросетями контентом — ...

Число пользователей ChatGPT увеличилось до 300 млн в неделю Компания OpenAI сообщила, что число пользователей ChatGPT увеличилось до 300 млн в неделю. ...

ChatGPT это не терапевт: глава OpenAI предостерёг пользователей ChatGPT — это не терапевт: глава OpenAI предостерёг пользователей Генеральный директор OpenAI Сэм Альтман предостерёг пользователей от использования ChatGPT ...