Компания OpenAI выделила грант Университету Дьюка на разработку алгоритмов, которые смогут предсказывать моральные суждения людей. Об этом говорится в заявлении компании для Налоговой службы США. Проект называется «Исследование морали ИИ».
Этот грант, часть более крупного трёхлетнего проекта на $1 млн, направлен на создание «морального GPS» для человечества. Профессор практической этики Уолтер Синнотт-Армстронг и его коллега Яна Борг уже провели исследования и написали книгу о потенциале ИИ в принятии моральных решений. Однако подробности текущих разработок они не раскрывают.
Исследование, финансируемое OpenAI, нацелено на обучение алгоритмов предсказывать моральные суждения в сложных ситуациях в медицинской сфере, юриспруденции и бизнесе. Пока существующие технологии вызывают сомнения в создании по-настоящему «морального» ИИ. Предыдущие попытки, например, Ask Delphi, не всегда корректно оценивали этические дилеммы.
Главная проблема — субъективность морали. Разные культуры и социальные группы имеют разные моральные нормы. Поэтому универсальной модели «морального ИИ» нет. Выбор моральной позиции (например, утилитаризм или кантингизм) зависит от личных убеждений и контекста.
Алгоритмы, предсказывающие моральные суждения, должны учитывать множество нюансов человеческого опыта. OpenAI и исследователи из Университета Дьюка стоят перед большой задачей. Успех их работы может быть важным шагом в понимании взаимодействия человека и ИИ на моральном уровне.
Исследование, финансируемое OpenAI, нацелено на обучение алгоритмов предсказывать моральные суждения в сложных ситуациях в медицинской сфере, юриспруденции и бизнесе. Пока существующие технологии вызывают сомнения в создании по-настоящему «морального» ИИ. Предыдущие попытки, например, Ask Delphi, не всегда корректно оценивали этические дилеммы.
Главная проблема — субъективность морали. Разные культуры и социальные группы имеют разные моральные нормы. Поэтому универсальной модели «морального ИИ» нет. Выбор моральной позиции (например, утилитаризм или кантингизм) зависит от личных убеждений и контекста.
Алгоритмы, предсказывающие моральные суждения, должны учитывать множество нюансов человеческого опыта. OpenAI и исследователи из Университета Дьюка стоят перед большой задачей. Успех их работы может быть важным шагом в понимании взаимодействия человека и ИИ на моральном уровне.
