OpenAI заявила, что передовые модели искусственного интеллекта способны радикально ускорить научный прогресс — от разработки новых лекарств и вакцин до создания экологичных ферментов и лечения редких болезней. Однако одновременно с этим они представляют серьезные риски двойного назначения.
ИИ уже помогает ученым предсказывать успехи препаратов на клинических испытаниях, а в будущем может трансформировать медицину, здравоохранение и экологические технологии. Но возможности моделей, например, анализ биологических данных, предсказание химических реакций и помощь в лабораторных экспериментах, теоретически могут быть использованы и во вред, в том числе для создания биологического оружия.
OpenAI ожидает, что следующие поколения моделей достигнут «высокого» уровня способностей в области биологии. Компания уже сейчас внедряет комплексные меры безопасности: от запрета на генерацию опасных инструкций до системы мониторинга, фильтрации и ручной модерации запросов. Разработаны принципы, по которым ИИ должен отказывать в ответах, способных привести к злоупотреблениям, особенно в чувствительных областях, вроде генной инженерии и вирусологии.
