Государственный стандарт для оценки рисков внедрения систем искусственного интеллекта (ИИ) в развитие городов разработали в Новосибирском государственном университете (НГУ). Документ станет первым в международной практике, где будет учтена гуманитарная составляющая ИИ-проектов, сообщили в вузе.
"Сейчас разработчики уделяют внимание эффективности создаваемых решений, программ и моделей. При этом в разработках антропология проекта фактически никак не учитывается. Особенно когда речь идет о том, что будет происходить с человеком, его способностями, здоровьем, нравственными устоями, ориентирами, смыслами, если этот проект будет массово внедряться в структуры нашей повседневной жизни, такие как образование, наука, управление, здравоохранение. Поэтому появилась необходимость так называемой гуманитарной экспертизы, которая предполагает оценку гуманитарных рисков и возможностей, которые мы получаем при массовом внедрении этих разработок", - цитирует пресс-служба одного из авторов стандарта Сергея Смирнова, доктора философских наук, ведущего научного сотрудника Центра ИИ НГУ.
Сейчас на федеральном уровне разрабатывается проект закона в сфере ИИ. По мнению Смирнова, созданный документ может стать его частью. Проект госстандарта получил название "Гуманитарная экспертиза внедрения систем ИИ в практики развития умных городов". Ученые разработали опросник, используемый в качестве инструмента для оценки гуманитарного потенциала (возможностей) и гуманитарных рисков внедрения системы ИИ. Опросник включает несколько вопросов, охватывающих разные аспекты, касающиеся влияния разрабатываемого проекта в сфере ИИ на городскую среду: помогает ли проект решить какую-то социальную, гуманитарную проблему; изменяются ли и в какую сторону комфортность среды обитания, безопасность, здоровье граждан при внедрении системы; увеличивается доверие к системе или, наоборот, возникает недоверие.
Опросник предполагает учет разных позиций - жители, целевая профессиональная группа (пользователи сервиса), представители городской власти, инвесторы, эксперты и сами разработчики. Каждый пункт оценивается по десятибалльной шкале. Все ответы суммируются, выводится агрегированный показатель отдельно по гуманитарным рискам и гуманитарному потенциалу. При разработке ученые ориентировались на многолетнюю теоретическую традицию, опыт внедрения этической экспертизы в биотехнологиях, медицине, здравоохранении, генетике, где этот вопрос особенно стал актуален, когда встала проблема клонирования человека и редактирования генома.
