Британско-канадский ученый в области компьютерных технологий, профессор Геоффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», заявил, что риск уничтожения человечества ИИ в ближайшие три десятилетия составляет от 10% до 20%. Этот прогноз оказался выше его предыдущей оценки в 10%.
В прошлом году Хинтон ушел из Google, чтобы свободно высказываться о рисках, связанных с неконтролируемой разработкой ИИ. По его словам, скорость развития технологии значительно превзошла его ожидания. В интервью программе Today на BBC Radio 4 Хинтон подчеркнул, что человечество никогда прежде не сталкивалось с чем-то более умным, чем оно само.
«Мы ранее не пытались управлять чем-то более интеллектуальным, чем мы. Примеров таких успешных взаимодействий почти нет, за исключением связи матери и младенца, где эволюция специально работала над тем, чтобы ребенок мог влиять на мать», — пояснил Хинтон.
Ученый сравнил человечество с трехлетним ребенком по сравнению с высокоразвитыми ИИ-системами, которые могут появиться в ближайшие десятилетия. «Большинство экспертов считают, что в течение следующих 20 лет мы, вероятно, разработаем ИИ, который станет умнее людей. Это пугающая мысль», — добавил он.
Опасения ученого касаются в первую очередь создания искусственного общего интеллекта, который способен выйти из-под контроля и создать экзистенциальную угрозу для человечества.
Хинтон подчеркнул необходимость регулирования ИИ на государственном уровне, поскольку рынок, движимый исключительно коммерческой выгодой, не сможет обеспечить безопасность.
«Единственное, что может заставить крупные компании вкладываться в исследования безопасности, — это регулирование со стороны правительства», — заявил он.
«Мы ранее не пытались управлять чем-то более интеллектуальным, чем мы. Примеров таких успешных взаимодействий почти нет, за исключением связи матери и младенца, где эволюция специально работала над тем, чтобы ребенок мог влиять на мать», — пояснил Хинтон.
Ученый сравнил человечество с трехлетним ребенком по сравнению с высокоразвитыми ИИ-системами, которые могут появиться в ближайшие десятилетия. «Большинство экспертов считают, что в течение следующих 20 лет мы, вероятно, разработаем ИИ, который станет умнее людей. Это пугающая мысль», — добавил он.
Опасения ученого касаются в первую очередь создания искусственного общего интеллекта, который способен выйти из-под контроля и создать экзистенциальную угрозу для человечества.
Хинтон подчеркнул необходимость регулирования ИИ на государственном уровне, поскольку рынок, движимый исключительно коммерческой выгодой, не сможет обеспечить безопасность.
«Единственное, что может заставить крупные компании вкладываться в исследования безопасности, — это регулирование со стороны правительства», — заявил он.
