Нейросети могут уже к концу 2026 года создавать собственные копии и распространять их по подключенным к интернету устройствам без участия человека.
В ходе экспериментов разработчики выяснили, что модели с числом параметров до 30 миллиардов уже выполняют многие действия, необходимые для самостоятельного копирования. Однако полностью воспроизвести этот процесс без ошибок они пока не могут.
В Anthropic предполагают, что в будущем ИИ захватит подключенные к сети устройства и использует их вычислительные мощности для дальнейшего распространения. При этом остановить такую систему будет сложно, поскольку у нее не окажется единого центра управления.
Эксперты по кибербезопасности разошлись в оценках угрозы. Некоторые считают, что компания преувеличивает опасность, поскольку современные нейросети требуют значительных вычислительных ресурсов. Другие предупреждают, что ИИ может превратиться в подобие компьютерного червя, самостоятельно проникающего на новые устройства.
В Anthropic подчеркивают, что речь пока идет о потенциальном сценарии. Испытания проводили в контролируемых условиях, а вероятность самостоятельного распространения нейросетей в реальном интернете остается неизвестной.
