Генеральный директор OpenAI Сэм Альтман в недавнем интервью Bloomberg рассказал о развитии искусственного интеллекта, связанных с ним рисках, а также о ценообразовании на новые технологии и возможной госпомощи для ИИ.
Как создавалась компания, о которой сегодня знает весь мир?
Есть миф об одном ужине, который решил все. Но на самом деле это серьезное упрощение. В 2015 году было около 20 таких встреч. А самой важной лично для меня стала беседа с Ильей Суцкевером.
Мой интерес к ИИ возник еще во время обучения в университете. Однако он значительно усилился после появления AlexNet в 2012 году. Я понял, что глубокое обучение — это реально работающая технология, и ее масштабируемость открывает огромные возможности. Кто-то должен был этим заняться.
В 2014 году идея AGI была очень нестандартной. Люди боялись обсуждать ее со мной, опасаясь профессиональных последствий. Это могло нанести ущерб карьере.
Я целенаправленно нашел Илью на конференции. Мы поговорили, и я понял, что он очень умный. Я рассказал ему о своих идеях, мы договорились о встрече. На нашем первом ужине Илья изложил (хотя и не теми словами, которые он использовал бы сейчас) стратегию создания AGI, которая до сих пор лежит в основе OpenAI.
Какие аспекты той первой встречи до сих пор актуальны для OpenAI?
Практически все. Конечно, появились новые элементы, но вера в глубокое обучение, выбранный технический подход, сочетание исследований и разработки — все это невероятно хорошо сработало. Хотя некоторые из наших первоначальных представлений, например, о структуре компании, оказались неверными.
Как OpenAI удалось привлечь ведущих специалистов в области ИИ, часто предлагая меньшую зарплату, чем конкуренты?
Наш подход был прост: «Присоединяйтесь к созданию AGI». В то время заявление о намерениях создать AGI было крайне неординарным, это отсеяло 99% кандидатов, оставив лишь действительно талантливых и нестандартно мыслящих специалистов. Это невероятно ценно. Если вы делаете то же, что и все остальные (например, создаете очередное приложение для обмена фотографиями), привлечь таланты очень сложно. А вот уникальность проекта позволяет собрать отличную команду. Наша смелая цель отпугивала опытных экспертов, зато привлекла молодых и талантливых людей, готовых к риску.
Вас удивил колоссальный успех ChatGPT?
Нет. Во-первых, я ожидал неплохих результатов! Остальная команда считала запуск преждевременным и неудачным решением. Я не часто принимаю подобные решения, но это было одним из них. Во-вторых, наблюдая за первыми днями работы ChatGPT (больший спрос днем, меньший ночью), команда посмеивалась, что интерес падает. Но мой опыт в Y Combinator подсказал: если каждый новый спад выше предыдущего пика, происходит нечто особенное. Так и было в первые пять дней, и я понял, что мы недооцениваем масштабы успеха.
Что произошло после этого понимания?
Началась лихорадочная работа по обеспечению вычислительных мощностей, которых у нас не было. Ведь запустили проект без бизнес-модели. В декабре на собрании я сказал, что рассмотрю любые предложения по монетизации, но так продолжаться не может. Были ужасные идеи, хороших не было. Поэтому решили попробовать подписку и разбираться с последствиями потом. Мы запустили GPT-3.5, зная о GPT-4, который будет лучше. Общение с пользователями показало, что мы можем улучшить и сам продукт. Быстро совершенствовали ChatGPT, что и привело к глобальному медийному резонансу.
У вас более 300 млн пользователей. Чему вы научились, наблюдая за их поведением, что изменило ваше понимание ChatGPT?
Общение с людьми о том, для чего они используют ChatGPT и для чего нет, очень помогло в планировании продукта. Например, люди пытались использовать ChatGPT для поиска, чего мы не планировали при запуске. И для этого он был ужасен. Но это стало очень важным аспектом. И, честно говоря, с тех пор как мы запустили поиск в ChatGPT, я почти не пользуюсь Google.
Еще один важный урок: часто люди обращаются к нему за медицинской помощью. Многие сотрудники OpenAI получают трогательные письма: «Я болел годами, ни один врач не мог поставить диагноз. Наконец, я ввел в ChatGPT все симптомы и результаты анализов — он сказал, что у меня редкое заболевание. Я пошел к врачу, получил лечение и полностью выздоровел». Таких примеров много. Мы должны развивать это направление.
Как устанавливать цены на технологию, которой никогда не существовало?
Мы запустили ChatGPT бесплатно, затем люди начали активно им пользоваться, и нам нужно было как-то оплачивать его работу. Протестировали две цены: $20 и $42. Остановились на более дешевом варианте. Это не было тщательным исследованием цен, с привлечением специалистов. Просто пользователям больше понравилось платить $20, а не $42. Многие клиенты вообще хотят оплату по факту использования: «В некоторые месяцы мне нужно потратить $1000 на вычисления, в другие — очень мало».
Как вы поймете, что создали тот самый AGI?
Когда ИИ сможет делать то, что умеют очень квалифицированные люди на важных должностях. Дальше возникает много вопросов: всю работу или часть? Сможет ли он, начав как программа, стать врачом? Сможет ли он делать то, что делают лучшие специалисты? Насколько он автономен? У меня пока нет точных ответов, но если бы вы могли нанять ИИ в качестве удаленного сотрудника-программиста, многие бы сказали: «Это что-то типа AGI». Мы будем постоянно поднимать планку, поэтому это сложно. А сверхинтеллект — это система, которая может быстро ускорять научные открытия на Земле.
Изменилось ли ваше понимание реальных опасностей?
У меня примерно те же риски в краткосрочной, среднесрочной и долгосрочной перспективе. Я все еще ожидаю серьезных проблем в кибербезопасности и биологии, которые потребуют решения. В долгосрочной перспективе, если говорить о действительно мощной системе, есть риски, которые трудно точно представить и смоделировать. Но я одновременно считаю эти риски реальными и верю, что единственный способ справиться с ними — это выпускать продукт и учиться.
В ближайшем будущем индустрия столнется с тремя препятствиями: масштабирование моделей, нехватка чипов и нехватка энергии. Можете ли вы ранжировать их по степени вашей обеспокоенности?
У нас есть план по каждому пункту. По масштабированию моделей мы продолжаем делать технический прогресс, улучшать возможности и безопасность.
Думаю, 2025 год будет невероятным и во многом переломным для развития ИИ.
Также мы усердно работали над всей цепочкой поставок чипов, со всеми партнерами. У нас есть люди для строительства дата-центров и производства чипов. У нас есть собственные разработки чипов. У нас прекрасное партнерство с Nvidia. И мы расскажем об этом подробнее позже, но сейчас самое время масштабировать производство чипов.
Что касается энергии. Ядерный синтез сработает. В какие сроки? Скоро. Скоро будет демонстрация управляемого термоядерного синтеза. Затем нужно создать систему, которая не ломается. Нужно масштабировать ее, создать фабрику — много фабрик — и получить разрешение. Это займет годы.
Что может сделать администрация Трампа для ИИ в 2025 году?
Это создание новой инфраструктуры — электростанций, дата-центров, а также упрощение процессов строительства в США. Бюрократические препоны тормозят развитие, и это особенно критично для лидерства в сфере ИИ.
Есть миф об одном ужине, который решил все. Но на самом деле это серьезное упрощение. В 2015 году было около 20 таких встреч. А самой важной лично для меня стала беседа с Ильей Суцкевером.
Мой интерес к ИИ возник еще во время обучения в университете. Однако он значительно усилился после появления AlexNet в 2012 году. Я понял, что глубокое обучение — это реально работающая технология, и ее масштабируемость открывает огромные возможности. Кто-то должен был этим заняться.
В 2014 году идея AGI была очень нестандартной. Люди боялись обсуждать ее со мной, опасаясь профессиональных последствий. Это могло нанести ущерб карьере.
Я целенаправленно нашел Илью на конференции. Мы поговорили, и я понял, что он очень умный. Я рассказал ему о своих идеях, мы договорились о встрече. На нашем первом ужине Илья изложил (хотя и не теми словами, которые он использовал бы сейчас) стратегию создания AGI, которая до сих пор лежит в основе OpenAI.
Какие аспекты той первой встречи до сих пор актуальны для OpenAI?
Практически все. Конечно, появились новые элементы, но вера в глубокое обучение, выбранный технический подход, сочетание исследований и разработки — все это невероятно хорошо сработало. Хотя некоторые из наших первоначальных представлений, например, о структуре компании, оказались неверными.
Как OpenAI удалось привлечь ведущих специалистов в области ИИ, часто предлагая меньшую зарплату, чем конкуренты?
Наш подход был прост: «Присоединяйтесь к созданию AGI». В то время заявление о намерениях создать AGI было крайне неординарным, это отсеяло 99% кандидатов, оставив лишь действительно талантливых и нестандартно мыслящих специалистов. Это невероятно ценно. Если вы делаете то же, что и все остальные (например, создаете очередное приложение для обмена фотографиями), привлечь таланты очень сложно. А вот уникальность проекта позволяет собрать отличную команду. Наша смелая цель отпугивала опытных экспертов, зато привлекла молодых и талантливых людей, готовых к риску.
Вас удивил колоссальный успех ChatGPT?
Нет. Во-первых, я ожидал неплохих результатов! Остальная команда считала запуск преждевременным и неудачным решением. Я не часто принимаю подобные решения, но это было одним из них. Во-вторых, наблюдая за первыми днями работы ChatGPT (больший спрос днем, меньший ночью), команда посмеивалась, что интерес падает. Но мой опыт в Y Combinator подсказал: если каждый новый спад выше предыдущего пика, происходит нечто особенное. Так и было в первые пять дней, и я понял, что мы недооцениваем масштабы успеха.
Что произошло после этого понимания?
Началась лихорадочная работа по обеспечению вычислительных мощностей, которых у нас не было. Ведь запустили проект без бизнес-модели. В декабре на собрании я сказал, что рассмотрю любые предложения по монетизации, но так продолжаться не может. Были ужасные идеи, хороших не было. Поэтому решили попробовать подписку и разбираться с последствиями потом. Мы запустили GPT-3.5, зная о GPT-4, который будет лучше. Общение с пользователями показало, что мы можем улучшить и сам продукт. Быстро совершенствовали ChatGPT, что и привело к глобальному медийному резонансу.
У вас более 300 млн пользователей. Чему вы научились, наблюдая за их поведением, что изменило ваше понимание ChatGPT?
Общение с людьми о том, для чего они используют ChatGPT и для чего нет, очень помогло в планировании продукта. Например, люди пытались использовать ChatGPT для поиска, чего мы не планировали при запуске. И для этого он был ужасен. Но это стало очень важным аспектом. И, честно говоря, с тех пор как мы запустили поиск в ChatGPT, я почти не пользуюсь Google.
Еще один важный урок: часто люди обращаются к нему за медицинской помощью. Многие сотрудники OpenAI получают трогательные письма: «Я болел годами, ни один врач не мог поставить диагноз. Наконец, я ввел в ChatGPT все симптомы и результаты анализов — он сказал, что у меня редкое заболевание. Я пошел к врачу, получил лечение и полностью выздоровел». Таких примеров много. Мы должны развивать это направление.
Как устанавливать цены на технологию, которой никогда не существовало?
Мы запустили ChatGPT бесплатно, затем люди начали активно им пользоваться, и нам нужно было как-то оплачивать его работу. Протестировали две цены: $20 и $42. Остановились на более дешевом варианте. Это не было тщательным исследованием цен, с привлечением специалистов. Просто пользователям больше понравилось платить $20, а не $42. Многие клиенты вообще хотят оплату по факту использования: «В некоторые месяцы мне нужно потратить $1000 на вычисления, в другие — очень мало».
Как вы поймете, что создали тот самый AGI?
Когда ИИ сможет делать то, что умеют очень квалифицированные люди на важных должностях. Дальше возникает много вопросов: всю работу или часть? Сможет ли он, начав как программа, стать врачом? Сможет ли он делать то, что делают лучшие специалисты? Насколько он автономен? У меня пока нет точных ответов, но если бы вы могли нанять ИИ в качестве удаленного сотрудника-программиста, многие бы сказали: «Это что-то типа AGI». Мы будем постоянно поднимать планку, поэтому это сложно. А сверхинтеллект — это система, которая может быстро ускорять научные открытия на Земле.
Изменилось ли ваше понимание реальных опасностей?
У меня примерно те же риски в краткосрочной, среднесрочной и долгосрочной перспективе. Я все еще ожидаю серьезных проблем в кибербезопасности и биологии, которые потребуют решения. В долгосрочной перспективе, если говорить о действительно мощной системе, есть риски, которые трудно точно представить и смоделировать. Но я одновременно считаю эти риски реальными и верю, что единственный способ справиться с ними — это выпускать продукт и учиться.
В ближайшем будущем индустрия столнется с тремя препятствиями: масштабирование моделей, нехватка чипов и нехватка энергии. Можете ли вы ранжировать их по степени вашей обеспокоенности?
У нас есть план по каждому пункту. По масштабированию моделей мы продолжаем делать технический прогресс, улучшать возможности и безопасность.
Думаю, 2025 год будет невероятным и во многом переломным для развития ИИ.
Также мы усердно работали над всей цепочкой поставок чипов, со всеми партнерами. У нас есть люди для строительства дата-центров и производства чипов. У нас есть собственные разработки чипов. У нас прекрасное партнерство с Nvidia. И мы расскажем об этом подробнее позже, но сейчас самое время масштабировать производство чипов.
Что касается энергии. Ядерный синтез сработает. В какие сроки? Скоро. Скоро будет демонстрация управляемого термоядерного синтеза. Затем нужно создать систему, которая не ломается. Нужно масштабировать ее, создать фабрику — много фабрик — и получить разрешение. Это займет годы.
Что может сделать администрация Трампа для ИИ в 2025 году?
Это создание новой инфраструктуры — электростанций, дата-центров, а также упрощение процессов строительства в США. Бюрократические препоны тормозят развитие, и это особенно критично для лидерства в сфере ИИ.