在中国历史上，修建长城，一直很多中原王朝的必修课。他们将长城视为抵御北方游牧民族入侵的屏障。从西周时期，就已经有修建长城的传统。在当时的长城上，人们会修建烽火台，用来作为敌军入侵的警报。而著名的“烽火戏诸侯”，就是发生在那个时候。
到了后来，虽然中国历经多次改朝换代，但修建长城，一直被作为必修项目保留下来。直到清朝时期，长城依旧在修建。所以，当所有王朝都在修建长城的时候，那两个不主张修建长城的王朝，反而成了异类。
唐朝确切的说，唐朝并非完全没有修建过长城。不过，那是在统一天下的时候，为了抵御住其他诸侯的进攻，这才下令修建了一条长城，用来发挥军事要塞的作用。但到了唐朝统一后，就再也没有修建过长城了。当年李世民也曾跟大臣讨论过，是否应该修建长城。许多大臣也同意修建长城，因为李世民统治时期的唐朝，边境的祸患依然严重。突厥、高昌、吐谷浑、吐蕃、契丹、高丽，这些都是当时能直接威胁到唐朝边疆安稳的隐患。
而修建长城，则是效法秦、汉时期的做法，抵御边患。但李世民却没有同意修建长城的看法。在李世民看来，修建长城是一个浩大的工程，需要耗尽大量的国力、民力。唐朝初年，国力仍然没有真正恢复。相比较于隋炀帝时期，仍有不小差距。如果忽然使用了这么大的财力去修建长城，很可能会造成国力枯竭，天下重新陷入混乱。而且，李世民认为，与其躲在长城的另一边被动的防御，不如主动出击。这样一来，在战争时期，可以更好的打击敌人。在和平时期，可以让边境跟唐朝互相融合。
在元朝时期，一个名为马可波罗的欧洲人曾游历过中国，并留下一本《马可波罗游记》，畅行欧洲。不过，在这本游记中，并没有留下关于长城的记载。从马可波罗的游记中可以推断，当年他是由新疆开始，经过甘肃，走河西走廊，最后到达元大都。如果将马可波罗的路线，与中国长城的遗迹对比就会发现。这位欧洲人，至少有两次可以看到长城。一次是在敦煌地区，一次在河套平原。如果马可波罗没有记载，只能说明一个问题。元朝对于过去的长城，并没有重修，导致它们看起来只是一堆不起眼的废墟。
