葛洪在《抱朴子·内篇·金丹》中称其从祖曾从左慈学道，受《太清丹经》《九鼎丹经》《金液丹经》等道经，葛洪的师父郑隐是葛玄的弟子，所以葛洪的很多道术，也传承自葛玄。

葛玄在道教中的地位是随着道教灵宝派的盛行而逐步提高的。从葛玄的活动内容来看，他本是一位方士，但在东晋末，葛洪的族孙葛巢甫构造《灵宝经》，创建道教灵宝派，一时“风教大行”。灵宝派尊元始天尊为最高神，尊葛玄为祖师。因传说葛玄在吴嘉禾二年（233），在今江西樟树市阁皂山东峰建庵，筑坛立炉，修炼九转金丹，所以灵宝派道士奉他为阁皂宗祖师。此说法与本篇葛玄最后尸解而去的说法有异，所以极有可能是灵宝派兴起后，本派的道士所编创的。另外敦煌文献《灵宝威仪经诀上》中说：“太极真人称徐来勒，以己卯年正月一日日中时，于会稽上虞山传太极左仙公葛玄，字孝先。玄于天台山传弟子郑思远、沙门竺法兰、释道微、吴先主孙权。思远后于马迹山传葛洪，仙公之从孙也，号抱朴子，著外内书典……”若依此说，则葛玄的灵宝派道法也传承自徐来勒。东晋前后时期有《葛仙公别传》一篇，未题撰人，在道门中流传。书中提到葛玄一生经行七十二处修道，其中阁皂山是其影响最著者。

关于葛玄的神仙身份，南朝梁上清派道士陶弘景对此有异议，他在《真诰·稽神枢》中称葛玄只能算地仙，只是“得不死而已，非仙人也”。又在《吴太极左仙葛公之碑》对葛玄被称为“仙公”一事加以澄清，认为是后世讹传。

葛玄，字孝先，从左元放受《九丹金液仙经》 (1) ，未及合作，常服饵术 (2) 。尤长于治病，鬼魅皆见形，或遣或杀。

能绝谷连年不饥 (3) ，能积薪烈火而坐其上，薪尽而衣冠不灼 (4) 。饮酒一斛 (5) ，便入深泉涧中卧 (6) ，酒解乃出，身不濡湿。