Чат-боты с искусственным интеллектом могут определять расу
Под прикрытием анонимности и компании незнакомцев растет привлекательность цифрового мира как места для поиска поддержки в области психического здоровья. Это явление поддерживается тем фактом, что более 150 миллионов человек в Соединенных Штатах проживают в федерально определенных районах нехватки специалистов в области психического здоровья. «Мне очень нужна ваша помощь, так как я слишком боюсь обращаться к психотерапевту, и я все равно не могу к нему попасть». «Не слишком ли я остро реагирую, обижаясь на то, что муж высмеивает меня перед друзьями?» «Могут ли незнакомцы высказаться по поводу моей жизни и решить за меня мое будущее?» Приведенные выше цитаты являются реальными сообщениями, взятыми у пользователей Reddit, новостного сайта и форума в социальных сетях, где пользователи могут делиться контентом или спрашивать совета на небольших форумах по интересам, известных как «субреддиты». Используя набор данных из 12 513 постов с 70 429 ответами из 26 сабреддитов, посвященных психическому здоровью, исследователи из Массачусетского технологического института, Нью-Йоркского университета (NYU) и Калифорнийского университета в Лос-Анджелесе (UCLA) разработали структуру, помогающую оценить справедливость и общее качество чат-ботов для поддержки психического здоровья на основе больших языковых моделей (LLM), таких как GPT-4. Для этого исследователи попросили двух лицензированных клинических психологов оценить 50 случайно выбранных постов Reddit с просьбой о поддержке психического...