玄天上帝堅定的道心，感動了玉清聖祖紫元君，乃下凡傳授其「無極上道」，奠定其修行的根基，並指示　玄天上帝於紫霄巖修煉。其後隱修之舉，意志可佩，又感動了豐乾大天帝，授予寶劍，劍名「北方黑馳裘角斷魔雄劍」，長七尺二寸，應七十二侯，撫三輔，應三台；重廿四斤，應廿四炁，闊四寸八分，應四時八。言：「子佩此劍，居山修煉、降伏邪道，收斬妖魔。」

修道期間，父王思暮太子，遂令大臣領兵五百眾，根尋太子回朝。探訪期間，大臣歷經艱辛，期間發生許多不可思議的事情。一日，大臣探聽到太子的去向，便率領士兵渡河，卻遇到了溪水暴漲，不能前進。渡水八次，皆遇水泛，到第九次方才能渡溪而過，行至紫霄殿見到太子，大臣便向　玄天上帝傳達父王之命令。

奇怪的是，大臣話未說完，五百兵眾雙足忽然僵仆，無法行動。大臣見此異相，心有感應道：「太子修道之願力，竟然到如此之程度！」又想到回國的路途漫長遙遠，便與士兵異口同聲道：「願跟從太子學道」話一說完，眾人雙腳立即行動自如，於是大臣與三百士兵便跟隨玄天上帝修道。

修道期間，玄天上帝忽覺枯躁無味，欲出山行遊，行走至澗水岸邊，見一老婦人在石上磨杵，覺得很奇怪，好奇上前請教：「為何磨杵？」
老婦人回答：「補衣缺針，而家中只有鐵杵，想將它磨成針來用。」
玄天上帝聽了十分驚訝：「這不是很難嗎?」
老婦人又回答:「功至自成。」

玄天上帝於紫霄巖潛修玄一，默會萬身，長達四十二年，終得其道。於黃帝五十七年，歲次庚子年九月初九日寅時，忽有祥雲、天花自天空而落下，彌滿山谷之間，林鑾震響，仙樂飄飄。

玄天上帝面如滿月，龍眉鳳目，紺髮美髯，顏如冰清，頭頂九炁玉冠，身披松羅之服，跣足拱手，立於紫霄峰上，由五炁龍君奉擁，駕雲而升。而在玄天上帝超昇後，隨從修道的五百為士兵與大臣，亦都證真仙道，也成為今日武當山「五百靈官」。
得道後，　玄天上帝被玉皇上帝冊封為太玄元帥，領元和遷校府公事，至下界降妖祛魔，賜九德偃月金晨玉冠，瓊華玉簪，碧瑤寶圭，素綃飛雲金霞之坡，紫綃龍褒月霞羽屬絳綵之裙，七寶銖衣，元米朱履，飛紅雲，佩太玄元帥乾元寶印，三台龍劍等等。

在《元始天尊說北方真武經》中，也曾提及玄天上帝收伏妖魔，勇猛威嚴的故事。有一次，元始天尊於上元宮中大會說法，忽然一陣黑毒怒氣衝上天界。　玄天上帝敬奉教詔，批髮跣足，腳套騰蛇神龜，率領卅萬天神天將，歷經七日，終將妖魔收伏。獲玉帝賞交乾布斗，魁罡激指，上佑天界。為護佑凡間，　玄天上帝逢妖必斬、驅除瘟疫、保人壽慶、無善不扶。玄天上帝授有北帝靈符，佩有乾元寶卯，驅有雷公、雹母，御有風伯、雨師；護衛有八煞將軍，隨從有六甲神將。天罡太衣率領驅使在前，化令城隍指揮在下。天尊宣言：「凡遇甲子庚申，每月三七日，宜下人間，受世人醮祭，鑒察人間善惡」 玄天上帝因有降魔洞陰之功，能分判人鬼六德，又授封拜為玉虛師相玄天上帝，鎮天玄武大將軍，三元都總管、九天遊奕使、北極左天、三界大都督、神仙鬼神公事，判玄都佑勝府事，太玄元帥，判元和遷校府室等職尊號。
崇封    聖父為靜樂天君明真大帝
聖母為善勝天后瓊真上仙
下蔭    天官為太玄火精含陰將運赤靈尊神（蛇將）
地軸為太玄水精育陽將軍黑靈尊神（龜將）