早在数万年前，绵山一带本是一片汪洋的湖泊，名之晋阳湖。湖中深处为晋阳老龙的龙潭，水界众神也多居于此。

　　到古帝舜时，洪水泛滥，水怪四起，致百姓颠沛流离，生灵涂炭。舜帝便启用鲧治水。鲧堵截洪水，致洪水四溢，危害更甚。鲧治水未成而获罪。后舜又启用鲧的儿子禹治水。禹承父业，继续与洪涛顽强斗争。其志感动上天，遂有神女下凡相助。一日禹视察灾情，感到口渴，见前有一小舟，便上前讨水。舟上妇人将一碗水双手捧于禹，禹正欲一饮而尽时那妇人却用一石子将禹手中的碗击一豁口，碗内之水竟从豁口处汩汩流出。禹正欲责问那妇人，那妇人却眼看着禹手中的破碗微微点头一笑，便驾小舟而去。禹看着手中的豁口碗，思之良久，顿悟：此乃神人教其以疏通之法平息水患。遂有禹“打开灵石口，空出晋阳湖”之举。自此洪水平息，晋阳湖成为肥沃的良田和绵延的大山。百姓在肥沃的良田上繁衍生息，安居乐业。据《左传》载，此地始置邬县，即今介休的邬城店村一带。绵延的大山因其山势绵亘而被人称之为绵山。当初深居晋阳湖中的一部分水神随水迁居别地，唯晋阳老龙夫妇与五个儿子不愿离去，故湖水退去之后，仍栖居于绵山中。

　　绵山方圆百姓逢雨水不匀时，便上绵山求老龙王降雨。龙本水中之神，呼风唤雨自不费力，龙王对百姓的请求有求必应。百姓感恩戴德，常到山上供养老龙王。老龙王保绵山方圆百姓风调雨顺，五谷丰登的善功被天庭知道后，便召之上天，成为金仙正神，统管天下水界众神。龙妇人和五个龙子则仍镇居绵山，行风布雨，降雨开晴，为百姓解除灾害，故五龙盛名远近传播。百姓在绵山修建五龙庙以纪他们的功德，每逢节日及丰登之时，都不忘来绵山在五龙庙供养、祭奉，就这样代代相传，供养不断。

　　后来五龙的四位兄长被天庭委派分管东海、南海、西海、北海，成为四海龙王，唯五龙不求精进，贪玩成性，多次延时降雨，造成灾害，被龙母多次处以惩罚，最后被囚于井内。在绵山五龙缠便有反映五龙受罚的五龙庙。五龙后终醒悟，一改以往恶习，认真施云布雨，指拔晴阴，造福苍生，天庭便命其掌管天下所有池井湖泊。

　　五龙兄弟都成正果，唯龙母留恋绵山，不愿上天，五龙兄弟便经常到绵山看望龙母，并把龙子龙孙带来和龙母做伴。

　　唐武德三年，李世民与刘武周部在绵山下的雀鼠谷交战，危急之时，有108条白衣白甲好汉杀出，助唐军击败敌军后化为白龙飞向绵山。相传此百单八龙即五龙兄弟之龙子龙孙，奉上天之命以助李唐一臂之力。故有以后李世民登基在绵山敕建寺庙宫观，使绵山道教在唐代得以空前的发展。

　　中国作为一个农业大国，风调雨顺，五谷丰登，时和岁稔是中国人的理想追求。可在当时水利设施不完备，百姓靠天吃饭，因此饱受年灾月厄，水涝亢旱袭击的中国农民，把自己的这种企盼寄托于上天神灵。中国的统治者同样懂得“国以民为本，民以食为天”的道理。特别是唐太宗李世民，他本人亲自率领起义军推翻隋王朝，体会到劳动人民的疾苦，感受到劳苦大众的力量，故以舟比做君王，以水比做百姓，说“水可载舟，亦可覆舟”。可见统治者更希望风调雨顺，国泰民安，以保其社稷稳固。统治者把这种企盼同样寄托于上天神灵，以祈天永命，百世其昌。

　　龙作为中华民族的图腾，是吉祥和权利的象征，也是征服大自然的象征，华夏先民更赋予它与人民生活息息相关的神能。龙下可入海，上能飞腾，行风布云，降雨开晴，以至惩恶扬善，护佑苍生。而绵山始为晋阳龙潭，湖水退去又为龙栖之山。老龙王在此升天，小五龙于此证果，在人们心目中，绵山就是一座龙山，绵山更是一座灵山。华夏先民在此祈雨活动的遗迹俯拾可得，自1995年山西省著名的企业家、三煤公司董事长阎吉英先生修复绵山以来，人们发现了多座五龙庙，雷神庙以及龙王庙、水母殿、玄武庙、井神、龙池等众多古迹，并在寺庙中陆续发现了部分方圆百姓祈雨灵验后敬送上来的神位以及谢雨石刻碑文等等。种种迹象表明，绵山的祈雨文化源远流长，影响广泛。古往今来，在绵山祈雨得雨的动人故事，一代代地流传着。