清明祭祖的首要作用是培植孝亲仁爱的人伦道德，其次是寻找人类精神的信仰之地。
中国是一个实行“祖先崇拜”的国度。在传统社会，大多数人包括知识分子虽然没有明确的宗教归属，但却存在着多神信仰，特别是崇信祖宗神灵。他们虔诚地相信，已逝的祖先实际上生活在另一个世界，已成为那个世界的神灵，并密切关注着后代的生存和发展，为其提供护佑和福祉。凡家族的荣辱兴衰、福祸进退都与祖宗之神紧密相连。因此，在中国人看来，逝去的先祖并没有真正远离他们，而是时刻伴随在他们左右，关心和保护着他们。而作为逝去祖先的后代，理应尽祭祀拜敬之礼，时时怀念他们，与其保持心灵上的联系。中华民族是一个十分注重现实的民族，在对神祇的态度上也是这样。尽管也敬奉其他别的神祇，但认为只有祖宗神才和自己最为亲近，才会全心全意地保佑自己的子孙后代。所以，中国人心目中真正的神是自己的祖宗。正如美国学者J•L•斯图尔特在对中国传统文化作了细致考察后所说的：“祖先崇拜事实上才是中国的真正的宗教。”
中国人祭祀祖宗的方式是多样的，可以在宗庙、宗祠、坟前、墓地祭拜，亦可以在祖先灵位、遗像前祷告，甚至随时可以在心中默念。当然，究竟在何时何地用何方式进行祭拜，在不同历史时期和不同地区其礼仪形制是不一样的。但对于清明之祭来说，古往今来，大多数民众都是在先祖的墓地里进行的。在诸多祭祖活动中，我认为，只有坟前、墓地的祭祀才更为直观和感人。
当人们来到先人的坟前从事祭祀活动时，其所面对的是逝去亲人的遗骨和掩埋这些遗骨的坟冢，于是，先祖生前的生活场景和音容笑貌顿时浮现在眼前，从而激起对先人的无限思念和缅怀，一种无以言表的悲痛之情也油然而生。正是在这种缅怀和悲痛之中，祭奠者与逝者之间建立起了一座直接沟通和对话的桥梁。
在中国人看来，当其在坟前从事祭奠活动时，实际上是在与另一个世界的亲人交谈、对话，他们所面对的坟墓在其想像中就是逝去亲人的居所，是另一个神灵世界的有形的象征和物化的符号。虽然我们看不见他们的身影，但他们却真实地存在着，其对于亲人的祭祀行为及其心理活动也是完全知晓的。这就是为什么凡中国的祭祀者总爱在已逝亲人坟前诉说哀思和禀告近况的原因。
对于中国人来说，也许正是在这种恒常的祭奠中，找到了自己延绵不绝的生命之源，并把自己的生命融入到这种无限的血脉传承之中，从而自觉不自觉地发现了自己生命的终极意义，并最终找到了自己的信仰之源和精神之所。
如此说来，在中国人的文化中，“坟”既是物质的，又是精神的；既是感性的，又是超感性的；既是属于尘世的，又是属于天国的；既存在于现实之中，又指向不可知的未来；既是人的有限性的终点，又是其通向无限的起点，总之，“坟”是连接物质和精神、感性和超感性、尘世和天国、现实和未来、有限和无限的中介和载体。中国人所赋予“坟”的这一切独特属性，就是其祖宗崇拜和信仰观念的投影和映射，反过来说，其祖宗崇拜和信仰观念正是通过这种“坟”的物象而得到实现和表征。
由于“坟”在中国人心中的这种特殊地位，因而自古以来，人们十分注重对坟茔的选址、建造和保护，视坟茔为家族渊源和祖宗福地，神圣不可侵犯。据史料记载，历代统治者不仅对于历史名人坟墓予以保护并定期祭祀，而且均制定过“发墓者诛”和“窃墓者刑”的严刑峻法，以惩罚毁损坟墓的行为。在唐代，“开劫坟墓”与“十恶忤逆、官典犯赃、故意杀人、合造毒药、放火持仗”以及“关连”、“逆党”等同样看待，被列为最为严重的罪行之一。元代刑法有这样的规定：凡“移弃尸骸，不为祭祀者”，情同“恶逆”，予以严惩。但凡“发冢”之罪亦与“强窃盗贼”、制造假币、劫掠拐卖人口以及“放火、犯奸”等死罪同等处罚，且不得赦免。