Экс-глава Google Эрик Шмидт предложил «отключать» ИИ при достижении им определенного уровня возможностей. Он заявил, что США обязаны победить в гонке искусственного интеллекта с Китаем, однако подчеркнул, что стремительно развивающуюся технологию необходимо контролировать.
«Скоро мы сможем наблюдать компьютеры, которые работают самостоятельно, принимая решения о том, что им делать», — сказал Шмидт в интервью Джорджу Стефанопулосу в программе This Week на канале ABC News.
«Это достигается через цепочку решений. Мы идем от агентов ИИ к более мощным целям, а затем говорим компьютеру: „Изучи все и делай все“. Это опасный момент. Когда система может самоусовершенствоваться, нужно серьезно задуматься об ее отключении», — добавил Эрик Шмидт.
Шмидт подчеркнул, что правительство должно играть существенную роль в установлении ограничений для развития ИИ. Он ожидает, что администрация Дональда Трампа сосредоточится на повышении конкурентоспособности США в сравнении с Китаем, что, по его мнению, будет полезным шагом.
Шмидт подчеркнул, что Китай, который раньше отставал от США в области ИИ на несколько лет, в последние шесть месяцев сократил разрыв. Он также предупредил о возможном появлении ИИ-ученых.
«Может наступить момент, возможно, через год или два, когда системы начнут проводить собственные исследования. Их называют „ИИ-ученые“. Это как если бы вместо тысячи человеческих ученых появилось миллион ИИ-ученых. При таком темпе конкуренты просто не смогут догнать», — сказал Эрик Шмидт.
«Это достигается через цепочку решений. Мы идем от агентов ИИ к более мощным целям, а затем говорим компьютеру: „Изучи все и делай все“. Это опасный момент. Когда система может самоусовершенствоваться, нужно серьезно задуматься об ее отключении», — добавил Эрик Шмидт.
Шмидт подчеркнул, что правительство должно играть существенную роль в установлении ограничений для развития ИИ. Он ожидает, что администрация Дональда Трампа сосредоточится на повышении конкурентоспособности США в сравнении с Китаем, что, по его мнению, будет полезным шагом.
Шмидт подчеркнул, что Китай, который раньше отставал от США в области ИИ на несколько лет, в последние шесть месяцев сократил разрыв. Он также предупредил о возможном появлении ИИ-ученых.
«Может наступить момент, возможно, через год или два, когда системы начнут проводить собственные исследования. Их называют „ИИ-ученые“. Это как если бы вместо тысячи человеческих ученых появилось миллион ИИ-ученых. При таком темпе конкуренты просто не смогут догнать», — сказал Эрик Шмидт.
