Одно из наиболее важных и трудно оспоримых критических замечаний в адрес искусственного интеллекта как сферы приложения человеческих усилий было сформулировано Тьюрингом как довод, основанный на "неформализуемости поведения". По сути это критическое замечание сводится к утверждению, что человеческое поведение является слишком сложным для того, чтобы его можно было описать с помощью какого-либо простого набора правил, а поскольку компьютеры не способны ни на что, кроме выполнения множества правил, они не способны и проявлять такое же интеллектуальное поведение, как люди. В искусственном интеллекте неспособность выразить все, что потребуется, в виде множества логических правил называют проблемой спецификации (см. главу 10).

Основными сторонниками этих взглядов были философы Хьюберт Дрейфус, который написал ряд влиятельных критических статей против искусственного интеллекта, в том числе "What Computers Can't Do" (Что не способны делать компьютеры) [414] и "What Computers Still Can't Do" [415], и его брат Стюарт, совместно с которым Хьюберт написал статью " Mind Over Machine" [416].

Положение дел, которое критиковали эти ученые, получило известность как "добрый старый искусственный интеллект", или сокращенно GOFAI (Good Old-Fashioned AI); этот термин был предложен Хоглендом [631]. При этом предполагается, что в основе GOFAI лежит утверждение, будто все интеллектуальное поведение может быть представлено с помощью системы, которая формирует логические рассуждения на основании множества фактов и правил, описывающих рассматриваемую проблемную область. Поэтому GOFAI соответствует простейшему логическому агенту, описанному в главе 7. Дрейфус был прав, утверждая, что логические агенты действительно имеют слабое место, поскольку не позволяют решить проблему спецификации. Но как было показано в главе 13, для использования в открытых проблемных областях в большей степени подходят вероятностные системы формирования рассуждений. Поэтому критические замечания Дрейфуса относятся не к компьютерам как к таковым, а скорее к одному конкретному способу их программирования. Однако, вполне можно предположить, что более правильное название для статьи Дрейфуса, " What First-Order Logical Rule-Based Systems Without Learning Can't Do" (Что не способны делать системы на основе правил логики первого порядка, в которых не применяются средства обучения), было бы гораздо менее впечатляющим.