Центральный банк России разработал кодекс этики по работе с искусственным интеллектом для финансового рынка. Документ носит рекомендательный характер и направлен на повышение доверия к технологии, содействие ее развитию и минимизацию связанных с ней рисков.
В основе кодекса пять ключевых принципов: человекоцентричность, справедливость, прозрачность, безопасность и ответственное управление рисками.
Человекоцентричность. Банкам рекомендуют информировать клиентов о взаимодействии с ИИ, предоставлять возможность отказаться от него или пересмотреть принятые с помощью технологии решения. Также важно учитывать факторы уязвимости клиентов (возраст, образование, ограниченные возможности) при разработке и применении искусственного интеллекта.
Справедливость. Использование персональных данных клиентов должно быть обоснованным и недискриминационным. При принятии решений с помощью ИИ финансовым организация не следует учитывать национальность, языковую, расовую принадлежность, политические взгляды или вероисповедание клиента.
Прозрачность. Банки должны предоставлять клиентам полную информацию о рисках, связанных с ИИ, и условиях применения технологии. ЦБ рекомендует маркировать информацию, созданную с помощью больших генеративных моделей, за исключением очевидных случаев или когда ИИ используют только для редактирования.
Безопасность, надежность и эффективность. Организациям следует проверять качество информации и самого ИИ, соблюдать конфиденциальность персональных данных, обеспечивать информационную безопасность и непрерывность деятельности. Важно установить показатели качества ИИ, чтобы сверяться с ними при проверках. Также среди рекомендаций — разработка технологических и организационных мер по безопасности данных ограниченного доступа, в том числе обеспечение их обезличивания и несанкционированного распространения.
Ответственное управление рисками. Банкам необходимо разработать правила управления рисками ИИ, назначить ответственное лицо, вести учет применяемых моделей, выявлять, оценивать и реагировать на их риски, а также документировать всю соответствующую информацию. При оценке рисков учитывать сферу применения технологии, использование данных ограниченного доступа, возможный размер убытков и количество клиентов.
