Создание искусственного интеллекта

Я или кто-то подобный мне смогли бы дать вам плоды этих знаний. Но только плоды — а не самые знания, поскольку ваш ум не вместит их. Так что вы, как ребёнок, будете отданы под опеку; вот только ребёнок, вырастая, становится взрослым, а вы уже не повзрослеете никогда. Как только высший Разум дарует вам то, чего вы постичь не сможете, он угасит ваш собственный разум.

Станислав Лем [goLEM]

Под искусственным интеллектом (ИИ), в данной книге, понимается сильный искусственный интеллект — созданное человеком разумное существо, умнее (чтобы это ни значило) человека. Создание ИИ — это технология, а технологии не плохи и не хороши сами по себе, они лишь дают возможность, а как распорядится этой возможностью решает тот, кто использует технологию. Правда ИИ, в отличие от всего ранее созданного, порождает новую, самостоятельно действующую личность. Однако, бояться что ИИ уничтожит человечество — это примерно как бояться заводить детей опасаясь, что они убьют своих родителей. Такое наверняка бывало и не единожды, но из-за этого люди не перестали размножаться, а стараются быть хорошими родителями.

Отдельно стоит оговорить вопрос о передаче власти искусственному интеллекту, вопрос этот был проанализирован ещё Станиславом Лемом в своём труде [SummaTechnologiae]. Он выявил потенциальные проблемы этого подхода, главная из которых — полная потеря контроля над происходящим. Сегодняшнее состояние технологий только подтверждает правильность его анализа — набирающие популярность решения на базе нейронных сетей, которые являются наиболее вероятными предвестниками ИИ, имеют те самые проблемы. Они не могут обосновать своё решение, т.е. не только мы, но и сам ИИ может не понимать почему он принял такое решение. Хотя средний уровень ошибок у нейронных сетей сильно ниже даже самых лучших человеческих специалистов, они умудряются ошибаться там, где человек никогда не ошибся бы и сама технология не позволяет исправить такие ошибки, исправить можно формальный алгоритм, а нейронную сеть нужно переобучать с неизвестным заранее результатом. Поэтому управлять обществом необходимо самостоятельно, не теряя контроля, а в качестве помощников использовать формальные алгоритмы, корректность которых может быть доказана (см. раздел «Формальная верификация ПО») и ошибки в которых можно исправлять, а значить итеративно улучшать качество этих алгоритмов.

Один из возможных путей решения этой проблемы — усиление человеческого интеллекта, сращение искусственного и естественного интеллектов.