ИИ-модель GPT-4 самостоятельно взломал уязвимости нулевого дня в 53% случаев

Исследователи продемонстрировали способность ботов на GPT-4 автономно взламывать уязвимости нулевого дня с 53-процентной вероятностью успеха. Используя новый метод Hierarchical Planning with Task-Specific Agents (HPTSA), команда автономных ботов GPT-4 скоординировала свои усилия для эксплуатации ранее неизвестных дефектов безопасности более чем в половине тестовых веб-сайтов. В этом методе используется «агент планирования», который контролирует процесс и задействует множество специализированных «субагентов», что значительно повышает эффективность по сравнению с одним агентом LLM. Это достижение основывается на результатах более ранних исследований, в которых GPT-4 успешно эксплуатировал 87% известных уязвимостей критической серьезности. В эталонных тестах на 15 реальных веб-уязвимостей HPTSA оказалась на 550% эффективнее, чем одиночные попытки, взломав 8 из 15 уязвимостей нулевого дня, в то время как один LLM справился только с тремя. Несмотря на эти возможности, GPT-4 в режиме чат-бота (ChatGPT) по-прежнему не может автономно эксплуатировать уязвимости, обеспечивая соблюдение этических границ....

03:25, 10.06.2024

Рубрика: «Наука и Технологии» Поделиться:

Вышел внеплановый патч для уязвимости нулевого дня в Chrome Компания Google выпустила внеплановое обновление для браузера Chrome, которое устраняет ср ...

Кто-то взломал разработчиков ChatGPT - OpenAI В начале 2023 года хакер проник во внутренние системы обмена сообщениями OpenAI и похитил ...

КСИР заявил, что взломал ПВО Израиля и заставил атаковать друг друга Иранский Корпус стражей исламской революции (КСИР) заявляет, что он смог взломать системы ...

Слуцкий: Госдеп США взломал ООН и Совбез, и теперь попирает принципы организации Глава Комитета Госдумы по международным делам, лидер ЛДПР - с политобозревателем «КП» Гамо ...