Индекс «этичности» систем искусственного интеллекта в медицине: от теории к практике

Текст статьи на сайте журнала URL: https://et.iphras.ru/article/view/10304/5602 (дата обращения 23.09.2024)

Ссылка при цитировании:

Аннотация

В статье представлена методика, разработанная исследовательской группой «Этическая экспертиза в сфере ИИ» Центра ИИ НИУ ВШЭ, – «Индекс “этичности” систем искусственного интеллекта». Задача разработки данного «Индекса» заключалась в оценке реальных и возможных рисков этического характера, возникающих на всех этапах жизненного цикла ИИ-систем. Сама система никакой «этичностью» не обладает, тогда как социально приемлемыми, с моральной точки зрения допустимыми и необходимыми могут быть действия разработчиков и поставщиков данных в процессе ее проектирования и обучения, а также операторов и потребителей в ходе ее пилотирования и внедрения. Ряд вопросов, связанных, например, с конфиденциальностью персональных данных, отчасти регулируются актуальным законодательством, тогда как большая часть угроз лишь прогнозируются, но до сих пор не были даже четко артикулированы, тем более - измерены. Представленная в статье методика призвана отчасти решить эту задачу и тем самым ответить как на общественный, так и на узко профессиональный запрос. Она разработана прежде всего для целей медицинского сообщества, нуждающегося в подтверждении моральной состоятельности и соответствия профессиональным стандартам внедрения новейших технологий в клиническую практику; а также в качестве инструмента, который может быть использован в деятельности этических комиссий по аналогии с биоэтическими комитетами при согласовании соответствующих медицинских исследований с участием ИИ; как дополнение к процедурам добровольной технической сертификации, а также в судебно-медицинской экспертизе. В «Индексе» отражены наиболее острые этические проблемы – доверия, распределенной ответственности, конфиденциальности данных, прозрачности и объяснимости ИИ-моделей, справедливости и недискриминации. Уникальность «Индекса» заключается в лежащем в его основе междисциплинарном подходе, включающем в себя методологию «дизайна ценностей» и «полевое» социологическое исследование, позволившее совместить теоретические гуманитарные подходы к пониманию содержания ключевых моральных понятий, с их трактовкой в профессиональной медицинской этике. Это делает «Индекс» не только интересным с теоретической точки зрения как способ формализации этических понятий, но и полезным с практической точки зрения – как пример прикладного значения этики и использования ее инструментария для решения социально значимых задач. категорий, но и полезным с практической точки зрения – какпример прикладного значения этики и использования ее инструментария для решениясоци

Ключевые слова:

Рубрики:

Возможно, вам будут интересны другие публикации:

• Углева А.В., Шилова В. А., Карпова Е.А.
  Индекс «этичности» систем искусственного интеллекта в медицине: от теории к практике // Этическая мысль. 2024. Т. 24. № 1. С. 144-159.