Действие происходит в китайской деревне Мацяо (провинция Хунань) в середине XX века. В то время в деревни, подобные Мацяо, отправляли школьников и студентов «для перевоспитания». Поэтому именно там оказывается пятнадцатилетний главный герой книги, который проведет в деревне долгие шесть лет. Все это время он будет усердно трудиться в поле, учиться местному диалекту, украшать горизонтальные поверхности высказываниями председателя Мао и стремиться вернуться в город. Однако «Словарь Мацяо» — это не только история жизни главного героя, но и анализ языка жителей деревни Мацяо.
Вот почему роман написан в виде словаря и включает 115 слов и историй, связанных с ними.