丘祖拜王重阳祖师为师，金世宗大定十四年（1174年）入蟠磻溪穴居，乞食度日，行携一蓑。随后赴陇卅川龙门山修道，为全真龙门派创始人。1191年后，他以栖霞县太虚观为中心进行传教活动，受到金章宗重视。他广结高官显贵，又大力拯救民众苦难，获得极高声誉，于1220年率徒一行十八人应成吉思汗之召，不远万里，西行到印度河上游成吉思汗行宫。他三次晋见成吉思汗，太祖问他治理天下良策，他回答以“敬天爱民”为本；问长生久视之道，回答以“清心寡欲，无为清静”为要。劝不可杀人，禁止不孝和色欲，深得欢心。成吉思汗封他为神仙，授予道士免除一切赋税的特权，令丘祖掌管天下道教。1227年诏改太极宫为长春观（今北京白云观），赐丘祖金虎牌，由于成吉思汗的支持，后道侣云集，全真教大兴。