Формальный язык определяется как (возможно бесконечное) множество строк. Каждая строка представляет собой конкатенацию терминальных символов, иногда называемых словами. Например, в языке логики первого порядка терминальные символы включают л и Р, типичной строкой является "", а строка "" не считается элементом этого языка. Формальные языки, такие как логика первого порядка и Java, имеют строгие математические определения. В этом они отличаются от естественных языков, таких как китайский, датский и английский, которые не имеют строгого определения, но совместно используются сообществом говорящих на них людей. Но в этой главе будет предпринята попытка трактовать естественные языки так, как если бы они были формальными языками, хотя авторы признают, что эта попытка провести между ними аналогию не будет идеальной.

Грамматика — это конечное множество правил, которое определяет язык. Формальные языки всегда имеют официально утвержденную грамматику, описанную в руководствах или учебниках. Естественные языки не имеют официально утвержденной грамматики, но лингвисты стремятся раскрыть свойства языка в процессе научного исследования, а затем узаконить свои открытия в грамматике. До сих пор еще ни одному лингвисту не удалось добиться в этом полного успеха. Следует отметить, что лингвисты — это ученые, пытающиеся дать определение естественному языку в том виде, в каком он есть. Но некоторые специалисты берут также на себя роль распространителей норм грамматики и пытаются диктовать, каким должен быть язык. Они создают правила, подобные тому, что "нельзя применять инфинитив с отделенной частицей" (split infinitive), а эти правила иногда публикуются в руководствах по языковому стилю, но оказывают очень малое влияние на то, как фактически используется язык.

И в формальных, и в естественных языках с каждой допустимой строкой связан смысл, или семантика. Например, в языке арифметики может быть предусмотрено правило, указывающее, что если "X" и "Y" — выражения, то "Х+Y" — также выражение, а его семантикой является сумма X и Y. В естественных языках важно также понимать прагматику строки — фактический смысл строки, как речи, высказанной в данной конкретной ситуации. Смысл заложен не только в самих словах, но и в интерпретации этих слов в сложившихся обстоятельствах.