Новый метод защиты ИИ защищает модели от атак противников

Нейронные сети, тип искусственного интеллекта, смоделированный на основе связей человеческого мозга, являются движущей силой критических прорывов в широком спектре научных областей. Но эти модели сталкиваются со значительной угрозой со стороны враждебных атак, которые могут свести на нет прогнозы и выдавать неверную информацию. Исследователи из Национальной лаборатории Лос-Аламоса разработали новую стратегию очистки, которая противодействует состязательным атакам и сохраняет надежную работу нейронных сетей . Их исследование опубликовано на сервере препринтов arXiv . «Атаки на системы искусственного интеллекта могут принимать форму крошечных, почти невидимых изменений в изображениях ввода, тонких модификаций, которые могут направить модель к желаемому злоумышленником результату», — сказал Маниш Бхаттараи, компьютерный ученый из Лос-Аламоса. «Такие уязвимости позволяют злоумышленникам наводнять цифровые каналы обманчивым или вредоносным контентом под видом подлинных выходных данных, что создает прямую угрозу доверию и надежности технологий, управляемых искусственным интеллектом». Метод низкоранговой итерационной диффузии (LoRID) удаляет вредоносные вмешательства из входных данных, используя мощь генеративных шумоподавляющих диффузионных процессов в тандеме с передовыми методами тензорной декомпозиции. В серии тестов на эталонных наборах данных LoRID достиг непревзойденной точности в нейтрализации вредоносного шума в сценариях атак, потенциально продвигая более безопасные и наде...

12:17, 12.03.2025

Рубрика: «Наука и Технологии» Поделиться:

Новый метод эффективно защищает конфиденциальные данные обучения ИИ Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищаю ...

В Android 15 появится новый метод защиты от кражи данных Не секрет, что для взлома чужих гаджетов злоумышленники используют не только вирусы, но и ...

Вся мощь ИИ в деле: как WARP защищает от «невидимых» атак VK, ранее известная как Mail.ru Group, представила передовое решение для защиты своих плат ...

Нетаньяху: миссия ООН в Ливане не защищает Израиль от атак «Хезболлы» Премьер-министр Израиля Биньямин Нетаньяху заявил в интервью французской газете Le Figaro, ...