ИИ выдает ошибки при обработке 60% поисковых запросов

ИИ выдает ошибки при обработке 60% поисковых запросов

Вне всякого сомнения, модели искусственного интеллекта могут допускать ошибки. Проблема галлюцинаций и дублирования неверной информации является постоянным вызовом для разработчиков. Разнообразие сфер применения таких систем затрудняет количественную оценку их точности. Однако исследовательская группа Центра цифровой журналистики Tow недавно провела исследование, охватившее восемь поисковых систем с искусственным интеллектом, включая, Perplexity, ChatGPT Search и Perplexity Pro и другие. Исследование основывалось на проверке точности каждой системы при поиске 200 новостных статей из 20 источников. Результаты показали, что в 60% случаев поисковые системы с ИИ выдавали неточные результаты, при этом демонстрируя исключительную уверенность в своей «правильности». Эти результаты подтверждают уже существующие опасения относительно достоверности систем ИИ. Как отмечают авторы исследования, подобно «самым ловким мошенникам», такие системы способны с уверенностью заявлять о ложной информации. В качестве примера приводятся случаи, когда ChatGPT выдавал заведомо неверные ответы, но при этом настаивал на своей правоте, даже дополняя их сфабрикованными данными. Примечательно, что компании-разработчики не скрывают этой проблемы, взимая с пользователей высокую плату за доступ к своим моделям ИИ. Некоторые пользователи, впрочем, остаются довольны результатами работы таких систем, отмечая их скорость, простоту использования и отсутствие рекламы. И все же информация, получаемая из ИИ-систем,...
00:17, 16.03.2025
Источник: api.follow.it  
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Количество поисковых запросов к Яндексу выросло во II квартале 2024 г. на 7%Количество поисковых запросов к «Яндексу» выросло во II квартале 2024 г. на 7% Во II квартале 2024 г. число поисковых запросов к «Яндексу» выросло на 7% по сравнению с а ...

Google объяснил ошибки и обновил AI Overviews для более точных поисковых результатовGoogle объяснил ошибки и обновил AI Overviews для более точных поисковых результатов Google вносит обновления в свой сервис AI Overviews, чтобы улучшить его точность и эффекти ...

В Ленобласти завершился Слет поисковых отрядов СКРВ Ленобласти завершился Слет поисковых отрядов СКР 24 мая завершился II Слет поисковых отрядов Следкома. Перед началом мероприятия были возло ...

SEO-оптимизация сайта: как привлечь больше трафика из поисковых системSEO-оптимизация сайта: как привлечь больше трафика из поисковых систем Высокие позиции в поисковой выдаче напрямую влияют на количество посетителей сайта. Соглас ...

CHASPIK.SPB.RU Поиск в новостях