Многие философы утверждали, что даже машина, которая пройдет тест Тьюринга, все равно фактически будет не мыслить, а лишь имитировать мышление. Тьюринг предвидел и это возражение против искусственного интеллекта. В частности, он процитировал приведенный ниже фрагмент речи профессора Джеффри Джефферсона [726].

Мы сможем согласиться, что машина равна мозгу, лишь после того, как она будет в состоянии написать сонет или сочинить концерт под воздействием своих мыслей и эмоций, а не благодаря случайному совпадению нужных символов; под этим подразумевается, что машина должна не только написать подобное произведение, но и понимать, что оно ею написано.

Тьюринг назвал это возражение доводом, основанным на понятии сознания; согласно этому доводу, машина должна понимать свои собственные психические состояния и действия. Безусловно, сознание — это важная тема, но ключевая идея Джефферсона фактически касается проблемы феноменологии, или изучения непосредственного опыта, т.е. этот ученый требует, чтобы машина действительно ощущала эмоции. Другие ученые сосредоточиваются на проблеме целенаправленности, т.е. на вопросе о том, действительно ли приписываемые машине убеждения, желания и другие внутренние представления касаются "чего-то", существующего в реальном мире.

Ответ Тьюринга на это возражение весьма интересен. Он мог продемонстрировать причины, по которым машины на самом деле способны были бы действовать сознательно (либо с точки зрения феноменологии, либо с точки зрения целенаправленности). Вместо этого он указал, что данный вопрос столь же некорректен, как и вопрос о том, могут ли машины мыслить. К тому же, на каком основании мы требуем применения к машинам более высоких стандартов, чем к людям? В конечном итоге в повседневной жизни мы никогда не получаем каких-либо прямых свидетельств о внутреннем психическом состоянии других людей. Тем не менее Тьюринг заявил: "Вместо ведения бесконечных споров на эту тему обычно принято заключать джентльменское соглашение и считать, что мыслят все".

Тьюринг утверждает, что Джефферсон согласился бы распространить это джентльменское соглашение на машины, только если бы имел опыт общения с теми из них, которые действуют интеллектуально. Он процитировал действительно происходивший приведенный ниже диалог человека с машиной, который считается такой неотъемлемой частью передающихся из уст в уста легенд искусственного интеллекта, что мы просто обязаны его включить в эту главу.