《桃花源记》全篇以渔人发现桃源的始末为线索，在结构上自然分成如下几层：
第一层(开头至“豁然开朗”)写渔人无意中发现桃花源的经过。文章首先交代了时间、人物及其职业，从捕鱼活动中自然地把人物引入桃花林，桃花林奇异的景色又引起渔人的探求，从而把人物引入桃花源。文章铺叙委曲婉转，水到渠成。桃花林景色的描写宛如仙境，为后文描写桃花源渲染了气氛，作了铺垫，暗中点明了桃花源名目的由来，同时也交代了桃花源与世隔绝的自然条件。
第二层(至“怡然自乐”)写桃花源中的景象和人们的生活，文章先是从渔人的所见所闻描绘桃花源的自然景色：平旷的土地，整齐的房舍，肥沃的田野，优美的池塘，纵横的道路，邻近的村落，茂密的桑竹……；然后写人们的生活情景：往来交游、耕种劳作、衣服穿戴和生活乐趣。淡淡的几笔勾画出一幅恬静快乐的与世隔绝的田园风光。
第三层(至“不足为外人道也”)写渔人和桃花源人的交往。从渔人和桃花源人的交谈往来中，表现了桃源民风的古朴淳厚，桃源人的知礼好客；说明了桃源人的来历及其与世隔绝的原因。他们的先世是为“避秦时乱”而“来此绝境”的，这里既没有帝王，也没有王朝的更迭，人们“不知有汉，无论魏晋”，汉、魏、晋三朝的更替，所引起的只是叹惋而已。从而表现了对暴政战乱的厌弃憎恶和对君权王朝的大胆否定。
最后一层写渔人离开桃源及桃源再次与世隔绝的过程。这一层描写进一步加强了世外桃源神密气氛的渲染。尽管渔人回时“处处志之”，却“遂迷不复得路”，就连好游山泽的高士刘子骥也无缘一睹胜境，虽欲游而终未果，以至“后遂无问津者”，桃源遂又与世隔绝。末尾一段文字与开头寻得桃源的描写是相互照应的。开始是“忘路之远近”，结尾是“不复得路”。作者笔下的桃花源究竟在何处，不得而知。不仅读者不知，就连发现它的渔人也无从知道。文章气氛的渲染更突出了桃花源虚幻的乌托邦色彩，也流露出作者苦闷迷惘的心情。
