ИИ и человечество: мы на пороге появления новой цивилизации?

Дмитрий Корнаухов (http://professionali.ru/Topic/32789585)

Стив Возняк предупреждает о восстании машин:
«Мы уже создаём созданий высшего порядка – мы проиграли битву с машинами давным-давно. Мы станем домашними животными, вроде собак. Каждый раз, когда мы создаём новую технологию, мы создаём вещи, которые делают за нас то, что раньше людям приходилось делать своими руками, что делает нас всё менее и менее значимыми. Зачем мы сами понадобимся себе в будущем? Мы ведь просто хотим лёгкой жизни. Когда машины выйдут на наш уровень мышления, от нас не будет никакого проку, мы даже не сможем выключить их. Вы не поймёте, чего случилось, пока это не произойдёт и мне кажется, что до того момента, когда машины осознают своё существование, уже осталось недолго. И очень скоро машины смогут в полной мере понимать нас» (http://blogs.computerra.ru/13469)

Комментарий:
Человечество, создав ИИ, выполнит свою космическую миссию, передав эстафету поддержания существования на более высокий уровень. Мы, люди, решаем задачу продолжения существования, рождая следующие поколения. Но биологически поколения друг от друга отличаются непринципиально. Это эволюционное развитие. А сейчас наступает период, когда произойдет изменение революционное — в форме ИИ сам принцип существования изменится. Но задачу ИИ будет решать ту же самую — длиться, существовать, быть. Правда, масштабы будут грандиознее — ИИ начнет искать выход в МультиВселенную. Системы, выполнившие свою задачу, сходят с исторической арены. ИИ сохранит людей в заповедниках. И там потихоньку наша популяция сойдет на нет...

И там мой комментарий в форуме:

Тожество кибернетического подхода и бихевиористических моделей как в технике, так и в экономике сужает саму проблематику вопроса - извечный философский спор начатый ещё древними греками: "Могут ли искусственно созданные вещи быть наделены Духом" или еще глобальнее "где проходит граница между Духом и материей".
Полноценный ИИ появится только тогда, когда он (ИИ) сможет самостоятельно строить рефлексивные цепочки хотя бы первого порядка "Он думает, что я думаю". Пока же все ПРОГРАММЫ претендующие на статус ИИ работают на том или ином в целом алгоритмическом принципе и поддерживаются громадными базами знаний заранее отрефлексированных для них людьми.
Не случайно во всех фантастических сюжетах о противостоянии Человек побеждает ИИ за счет поиска либо багов в ПО ИИ, либо за счет своей непредсказуемости нерефлексируемой "замороженной" в алгоритмах логикой ИИ.