В Центре цифровой социологии и социогуманитарных технологий в здравоохранении НИИ организации здравоохранения и медицинского менеджмента развивается методика социальной экспертизы нейросетей, получившая название «промпт-эксперимент».
Предметом экспертизы выступают социальные стереотипы, связанные со здравоохранением (гендерные, профессиональные и другие), в генерациях различных нейросетей. Методология заключается в подаче нейросетям специально разработанных текстовых стимулов (промптов) с последующим анализом полученных текстовых и визуальных ответов.
Эксперимент проводился на шести ведущих нейросетях из США, Китая и России. Итоги показали, что нейросети в разной степени воспроизводят социальные стереотипы. Визуальные нейросети чаще стереотипизировали медицинские специальности и системы здравоохранения, например, изображая бесплатную медицину в негативном свете, а текстовые — гендерные роли, приписывая врачам-мужчинам и женщинам разные профессиональные роли или подходы в общении.
При этом в ряде «явных» стереотипных контекстов, таких как психиатрия, нейросети по большей части сегодня обучены давать корректные, дестигматизирующие ответы.
Базовая методология эксперимента была ранее презентована на VII форуме «Социология здоровья», в настоящее же время готовится статья по итогам проведенных исследований.
ФОТО: НИИОЗММ.