Эксперты ВТБ рассказали, как снизить риски ИИ‑галлюцинаций
Подобные ошибки способны не только создать для пользователя серьезные затруднения при работе с информацией, но и привести к финансовым и репутационным рискам для бизнеса. "Бывают случаи, когда нейросеть предлагает несуществующие книги в списке рекомендаций или формирует условия продукта, которых на самом деле нет. Модель не проверяет факты, а подбирает наиболее вероятный ответ, поэтому такие ошибки выглядят правдоподобно, но вводят в заблуждение. В первую очередь, снизить количество галлюцинаций можно за счет четко сформулированных запросов. Чем точнее и понятнее формулировка, тем меньше вероятность, что модель начнет фантазировать. Но все же самый надежный способ контроля — это внимательная проверка результата человеком", — сообщил Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ. Как отметил лидер команды по разработке моделей Алексей Пустынников, для предотвращения искажений информации со стороны ИИ важно понимать и учитывать и характер самих ошибок. Языковые модели не понимают смысл информации и не проверяют ее достоверность в реальном времени, поэтому сбои проявляются по‑разному. В одних случаях система искажает проверяемые данные, в других — формирует вымышленные сведения или неправильно следует заданным инструкциям. "Галлюцинации в работе языковых моделей можно условно разделить на несколько типов. Есть фактические галлюцинации, когда модель выдает проверяемую информацию с ошибками: например, указывает неправильное имя изобретателя или дату событи...
Как снизить риски брокерского бизнеса в эпоху вендоров На рынке Форекс управление рисками имеет первостепенное значение. Кредитные, рыночные и оп ...
Изменения в регулировании ПДн: как подготовиться к нововведениям и снизить риски В конце 2024 года были подписаны нормативные акты, вносящие кардинальные изменения в регул ...
CHASPIK.SPB.RU