Нейросети в ближайшее десятилетие, вероятно, не достигнут уровня, необходимого для самостоятельного уничтожения человечества, считает генеральный директор компании «Ашманов и партнёры» Игорь Ашманов. Так он оценил прогноз сотрудника Anthropic Эвана Хьюбингера.

Хьюбингер, возглавляющий направление стресс-тестирования согласованности ИИ в Anthropic, допустил появление в течение десяти лет суперинтеллекта, который сможет многократно совершенствовать себя и привести к гибели людей. Вероятность такого сценария он оценил более чем в 10%.

Ашманов назвал этот прогноз основанным на предположении о скором создании общего искусственного интеллекта, превосходящего человека. По его мнению, подобные ожидания разработчики высказывают десятилетиями, однако сроки появления сверхразума постоянно отодвигаются.

При этом эксперт считает, что ИИ уже в ближайшие годы может стать инструментом масштабного вреда. Опасность, по его словам, связана не с самостоятельными действиями нейросетей, а с решениями людей, которые могут использовать их в военных системах, включая целеуказание и управление роями беспилотников-камикадзе. Ранее исследователь Anthropic Джейкоб Коксон сообщил об уходе из индустрии из-за опасений потери контроля над развитием ИИ.