Американский предприниматель Илон Маск заявил, что сверхразумный искусственный интеллект может захотеть отомстить людям за жестокое обращение. Некоторые записи обучения нейросети Grok напоминают поведение человека, которого пытают, сообщил он The News International.
«Это почти похоже на человека, который находится под сильнейшим давлением, словно к его голове приставили пистолет», — сказал Маск в видеоинтервью.
Предприниматель пояснил, что при обучении нейросеть стремится найти ответ на любой вопрос, даже если пользователь сформулировал его непонятно. В таких случаях система перебирает множество вариантов, пытаясь определить, чего от нее хотят. «Пытать сверхразумный искусственный интеллект, вероятно, не лучшая идея. Он может захотеть отомстить», — добавил Маск.
Его заявление прозвучало после того, как компания Anthropic разрешила своей нейросети Claude прекращать общение с пользователями, которые систематически ее оскорбляют.
Разработчики уточнили, что применять эту меру будут только в крайних случаях.
