Хотя основная часть специалистов по компьютерным наукам прекратила исследования в области нейронных сетей в конце 1970-х годов, работу в этой области продолжили специалисты из других научных направлений. Такие физики, как Джон Хопфилд [674], использовали методы из статистической механики для анализа свойств хранения данных и оптимизации сетей, рассматривая коллекции узлов как коллекции атомов. Психологи, включая Дэвида Румельхарта и Джефа Хинтона, продолжали исследовать модели памяти на основе нейронных сетей. Как будет описано в главе 20, настоящий прорыв произошел в середине 1980-х годов, когда по меньшей мере четыре разные группы снова открыли алгоритм обучения путем обратного распространения, впервые предложенный в 1969 году Брайсоном и Хо [201]. Этот алгоритм был применен для решения многих проблем обучения в компьютерных науках и психологии, а после публикации результатов его использования в сборнике статей Parallel Distributed Processing [1318] всеобщее внимание привлек тот факт, насколько разнообразными оказались области его применения.

Эти так называемые коннекционистские (основанные на соединениях) модели интеллектуальных систем многими рассматривались как непосредственно конкурирующие и с символическими моделями, разрабатываемыми Ньюэллом и Саймоном, и с логицистским подходом, предложенным Маккарти и другими [1442]. По-видимому, не следует отрицать, что на некотором уровне мышления люди манипулируют символами; и действительно, в книге Терренса Дикона под названием The Symbolic Species [354] указано, что способность манипулировать символами — определяющая характеристика человека, но наиболее горячие сторонники коннекцио-низма поставили под сомнение то, что на основании манипулирования символами действительно можно полностью объяснить какие-то познавательные процессы в подробных моделях познания. Вопрос остается открытым, но современный взгляд на эту проблему состоит в том, что коннекционистский и символический подходы являются взаимодополняющими, а не конкурирующими.