Разработчики искусственного интеллекта должны объяснять ограничения таких технологий и не создавать иллюзию безошибочности ответов нейросетей, заявил на Петербургском международном экономическом форуме руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов.
По его словам, пользователи поисковых сервисов и ИИ-ассистентов часто воспринимают полученные ответы как гарантированно достоверные. Особенно это касается готовых сводок и кратких ответов, которые формирует ИИ на основе информации из различных источников.
Крайнов отметил, что в «Яндексе» даже сокращали количество подобных ответов из-за риска чрезмерного доверия со стороны пользователей. По его мнению, человек должен понимать, что ответ ИИ может быть верным, но не исключает ошибок.
Он также подчеркнул, что качество работы нейросетей напрямую зависит от качества информации, на которой они основываются. Если в интернете недостаточно достоверных данных, искусственный интеллект не сможет обеспечить высокий уровень точности.
«Есть такое правило: „мусор на входе — мусор на выходе“. Это идеально относится к искусственному интеллекту», — сказал Крайнов.
