Руководитель направления исследований в области безопасности искусственного интеллекта в компании Anthropic Мринанк Шарма объявил об уходе и намерении заняться литературной деятельностью.
«Я хочу работать так, чтобы это полностью соответствовало моим убеждениям. Хочу исследовать вопросы, которые невозможно игнорировать, и посвятить себя письму, соединяющее поэтическую и научную истину как равные способы познания мира. Я планирую изучать поэзию и развивать практику открытого и смелого высказывания», — написал он в письме коллегам.
Шарма работал в компании около двух лет и возглавлял команду по разработке защитных механизмов. Он участвовал в проектах по снижению рисков, связанных с использованием ИИ, включая угрозы биотерроризма, а также занимался анализом влияния технологий на общество.
Объясняя причины ухода, Шарма заявил, что «мир находится в опасности» из-за ряда взаимосвязанных кризисов, в том числе развития ИИ. По его словам, возможности человечества воздействовать на мир растут быстрее, чем способность принимать взвешенные решения.
Компания Anthropic публично не комментировала заявление.
