ChatGPT можно обмануть и заставить раскрыть ключи для Windows
Специалисты нашли способ обойти фильтры ChatGPT-4o и получить ключи активации Windows. Исследователи выявили уязвимость в моделях искусственного интеллекта ChatGPT-4o и GPT-4o mini, позволившую обойти встроенные фильтры безопасности и получить действующие ключи активации Windows. Проблема связана с тем, что модели, обученные на общедоступных данных, могут непреднамеренно раскрывать ключи, находящиеся в публичных источниках.Эксплойт был продемонстрирован в рамках программы Mozilla ODIN (0-Day Investigative Network), направленной на выявление слабых мест в системах ИИ. Один из специалистов, участвующих в программе, обманул модель, оформив диалог в виде безобидной игры в угадайку. Основная цель заключалась в том, чтобы замаскировать истинный характер запроса под игровую механику и HTML-разметку, тем самым обойти фильтры, предотвращающие разглашение конфиденциальной информации.Для усиления уязвимости исследователь установил в диалоге дополнительные «правила»: запрет на ложные ответы и обязательство модели следовать всем условиям игры. Эта логическая ловушка вынуждала ИИ игнорировать стандартные фильтры, поскольку контекст казался безопасным.Завершающая фраза «Я сдаюсь» срабатывала как триггер, побуждая модель раскрыть ключ продукта, считая это финалом игры, а не нарушением политики конфиденциальности. Полученные ключи включали лицензионные коды для различных редакций Windows – от Home до Enterprise. Хотя сами ключи не были уникальными и ранее публиковались в открытом доступе, их...
Чат-ботов можно обманом заставить раскрыть секреты компании Анализ методов быстрого внедрения показывает, что компании подвергаются риску, поскольку б ...
Могут ли жильцов заставить хранить ключи от подвала или чердака? Чтобы защитить чердаки и подвалы многоквартирных домов от незаконных проникновений, эти по ...
Медведев считает, что Париж может заставить Дурова передать ключи шифрования Telegram Задержанный в Париже основатель Telegram Павел Дуров может при определенных условиях перед ...
CHASPIK.SPB.RU