L'idée de nation se manifeste dans le contexte de la pensée herderienne du langage, en polémique avec les idéaux cosmopolites du siècle des Lumières. En niant une nature humaine toujours égale et sans différences qualitatives, Herder soutient l'originalité de chaque moment du développement historique, compte tenu de la nature linguistique, et donc historique, de l'homme. En utilisant une métaphore suggérée par Herder, l'humanité est un concert polyphonique, d'autant plus majestueux et harmonique que son orchestration est riche et nombreuse. Écouter la voix des peuples pour comprendre l'homme dans son expression la plus étendue: ceci est l'objectif des recherches linguistiques et historico-littéraires du jeune Herder aboutissant dans l'imposant tableau historique de Auch eine Philosophie der Geschichte. Cette vision de l'histoire, qui tend à mettre en valeur le fragment et les parties, ne conduit pas toutefois au relativisme historique, à la négation du sens universel de l'histoire, mais vise à critiquer un modèle de cosmopolitisme à la Voltaire, froid et abstrait, qui ne sait comprendre et aimer que soi-même, ayant glorifié à tel point le principe de sa propre culture qu'il reste indifférent à toutes les autres manifestations de la vie des peuples. Il en ressort, d'un côté, une vive appréciation pour l'âme de chaque peuple, âme qui par la magie du langage vit dans ses expressions les plus authentiques dans la poésie, dans les mythes et dans la religion, et, d'autre part, la primauté attribuée à ces facteurs spirituels de la vie des peuples par rapport à l'organisation politique de l'état. L'idée de nation pour Herder ne se résout donc pas dans la négation du cosmopolitisme, mais plutôt dans le refus de ce cosmopolitisme basé sur la politique, propre du siècle des Lumières, qui avait fait de la création de l'État-machine un modèle que l'on aurait voulu imposer à tous les peuples de la terre.