Дискуссия о риске исчезновения человечества из-за искусственного интеллекта вышла за пределы технологической отрасли и стала частью политической повестки в Вашингтоне, пишет газета Washington Post.
Как отмечает издание, еще в 2015 году участники закрытой конференции Института будущего жизни в Пуэрто-Рико обсуждали риски, связанные с развитием новой технологии. На встречу приехали основатель SpaceX Илон Маск, сооснователи DeepMind и трое будущих сооснователей OpenAI.
Философ Оксфордского университета Ник Бостром, автор книги «Сверхразум: пути, опасности, стратегии», представил на конференции два противоположных варианта будущего: искусственный интеллект либо поможет людям осваивать космос, либо приведет к их вымиранию.
Спустя более десяти лет эти идеи дошли до Вашингтона, отмечает газета. Законодатели обращаются к ним при обсуждении регулирования многотриллионной отрасли.
На прошлой неделе Институт будущего жизни организовал в американской столице форум «Ассамблея в защиту человека». Сенатор Берни Сандерс и бывший советник президента США Дональда Трампа Стивен Бэннон выступили там с предупреждениями об угрозе, которую технология может представлять для человеческого вида.
Некоторые опрошенные Washington Post эксперты, однако, опасаются, что гипотетические картины глобальной катастрофы могут отвлечь политиков от более насущных проблем.
Аналитический центр RAND попытался проверить, насколько обоснованны прогнозы о возможном вымирании людей. Исследователи назвали четыре условия, при которых такая угроза могла бы возникнуть. Система должна получить доступ к средствам воздействия на физический мир, научиться работать без участия человека, обманывать людей и избегать обнаружения, а также получить или самостоятельно сформировать цель уничтожить человечество.
При этом даже наличие одного из этих качеств не делает глобальную катастрофу вероятной, подчеркнули исследователи. RAND также указал, что предположения об использовании будущими системами пока не существующих технологий невозможно проверить или опровергнуть.
Ведущий автор исследования RAND Майкл Вермеер назвал прогнозы о вымирании скорее «пророчествами», чем количественными оценками. По его словам, они опираются на непроверяемые предположения о ходе событий, а внимание к отдаленным угрозам может помешать властям заняться более близкими рисками.
Бывший сотрудник OpenAI и соавтор проекта «ИИ-2027» Дэниел Кокотайло придерживается другого подхода. Он считает, что моделирование опасных вариантов развития событий помогает законодателям заранее готовиться к возможным проблемам, даже если часть предположений носит спекулятивный характер.
Профессор Университета штата Аризона Суббарао Камбхампати указывает еще на один недостаток подобных прогнозов: их авторы недооценивают умение общества приспосабливаться к переменам. По его мнению, нельзя рассматривать новую технологию в отрыве от людей и социальных институтов.
Сооснователь Института будущего жизни Макс Тегмарк рассчитывает, что опасения по поводу сверхразумных систем подтолкнут США и Китай к сотрудничеству и совместному контролю над ними. В то же время Тегмарк признал, что предупреждения, которые звучали еще десять лет назад, не заставили отрасль сбавить темп. Компании, напротив, ускорили разработки и стали добиваться от регуляторов более свободных условий для дальнейшего развития технологий.
