Прекрасная статья о том, что мозг не компьютер.
Перевод на русский есть здесь.
Ложная логика IP-метафоры (Information Processing) достаточно проста в формулировке. Она основывается на ложном аргументе с двумя разумными предположениями и единственным ложным выводом. Разумное предположение № 1: все компьютеры способны вести себя разумно. Разумное предположение № 2: все компьютеры есть информационные процессоры. Ложный вывод: все объекты, способные на разумную деятельность, являются информационными процессорами.
Если отбросить формальную терминологию, идея того, что люди являются информационными процессорами лишь потому, что компьютеры являются таковыми, звучит глупо, а когда однажды IP-метафора в конце концов изживет себя, когда от нее окончательно откажутся, она почти наверняка будет рассматриваться историками в качестве такой же глупости, как сейчас рассматриваются высказывания о гидравлической или механической природе человека.
Вообще это во-первых камень в огород трансгуманистов, которые говорят, что они оцифруют сознание и выгрузят нас в Сеть. И тут дело не в объёмах и сложности сети, а в том, что мы даже близко не представляем, что мозг считает информацией и как он её кодирует. Теоретически сознание после выгрузки может остаться даже сознанием. Только точно каким-то совсем другим.
Как говорила Татьяна Черниговская, если мозг и компьютер, то мы даже не знаем, какая там система счисления.
Во-вторых будьте очень осторожны с теми, кто применяет компьютерные метафоры к объяснениям того, что у нас в голове происходит. Технически они не правы.)
PS: это совсем не значит, что strong ai невозможен. ещё как возможен. только это будет другой интеллект.