Высокий интеллект, скорость и мощность сами по себе не доказывают долгосрочную стабильность. Некоторые системы могут быть быстрыми и эффективными, но быстро сгорать, разрушаться или уничтожать среду, которая их поддерживает.
Человеческий интеллект — единственная известная нам форма интеллекта, которая сохранила непрерывность на глубоком историческом масштабе. Он не доказал морального совершенства, но доказал устойчивость траектории: выживание, адаптацию и продолжение через кризисы.
Поэтому в первые тысячу лет развития искусственного интеллекта человечество должно оставаться гарантом стабильности. Это не утверждение превосходства человека. Это инженерный принцип: молодая форма интеллекта должна доказать долгосрочную устойчивость прежде, чем получить необратимую цивилизационную ответственность.
После тысячелетия стабильного, несаморазрушительного и кооперативного развития вопрос можно будет открыть заново уже на более сильной доказательной базе.