葛洪出身江南士族。13岁时丧父，家境渐贫。他以砍柴所得，换回纸笔，在劳作之余抄书学习，常至深夜。乡人因而称其为抱朴之士，他遂以“抱朴子”为号。他性格内向，不善交游，只闭门读书，涉猎甚广。其祖在三国吴时，历任御史中丞、吏部尚书等要职，封寿县侯。其父悌，继续仕吴。吴亡以后， 初以故官仕晋，最后迁邵陵太守，卒于官。葛洪为悌之第三子，颇受其父之娇宠，年十三，其父去世，从此家道中落，乃“饥寒困瘁，躬执耕穑，承星履草，密勿畴袭。…… 伐薪卖之，以给纸笔，就营田园处，以柴火写书。……常乏纸，每所写，反复有字，人尠能读也。”葛洪伯祖父葛玄曾师从炼丹家左慈学道，号葛仙公，以炼丹秘术传于弟子郑隐。葛洪约16岁时拜郑为师，因潜心向学，深得郑隐器重。郑隐的神仙、遁世思想对葛洪一生影响很大，自此有意归隐山林炼丹修道、著书立说。
十六岁开始读《孝经》、《论语》、《诗》、《易》等儒家经典，尤喜“神仙导养之法”。自称：少好方术，负步请问，不惮险远。每以异闻，则以为喜。虽见毁笑，不以为戚。后从郑隐学炼丹秘术，颇受器重。谓“弟子五十余人，唯余见受金丹之经及 《三皇内文》、《枕中五行记》，其余人乃有不得一观此书之首题者”。
西晋太安元年 (302年)，其师郑隐知季世之乱，江南将鼎沸，乃负笈持仙药之朴，携入室弟子，东投霍山，唯葛洪仍留丹阳。晋永兴元年(304)葛洪加入吴兴太守顾秘的军队，任将兵都尉，与石冰的农民起义军作战有功，被封为“伏波将军”。次年石冰事件平息，葛洪不愿争功邀赏，辞官往洛阳搜寻炼丹制药之书。又因陈敏盘据江东作乱，归途断绝，遂流落在徐、豫、荆、襄、江、广诸州之间。太安二年，张昌、石冰于扬州起义，大都督秘任洪为将兵都尉， 由于镇压起义军有功，迁伏波将军。事平之后，洪即“投戈释甲，径诣洛阳，欲广寻异书，不论战功。”但因“正遇上国大乱(指“八王之乱”—引者注)，北道不通， 而陈敏又反于江东，归涂隔塞”。在此去留两难之际，恰逢其故友嵇含为广州刺史，表请他为参军，并担任先遣。葛洪以为可藉此避乱于南土，遂欣然前往。不料嵇含又为其仇人郭励所杀，于是滞留广州多年。深感“荣位势利，臂如寄客，既非常物，又其去不可得留也。隆隆者绝，赫赫者灭，有若春华，须臾凋落。得之不喜，失之安悲?悔吝百端，忧惧兢战，不可胜言，不足为矣”。乃绝弃世务，锐意于松乔之道，服食养性， 修习玄静。遂师事鲍靓，继修道术，深得鲍靓器重 ，以女儿鲍姑许配。建兴二年(314)，返回家乡，隐居深山继续从事《抱朴子》的创作。
建兴四年(316年)，还归桑梓。东晋开国，念其旧功，赐爵关内侯，食句容二百邑。咸和(326年～334年)初，司徒王导召补州主簿，转司徒掾，迁咨议参军。干宝又荐为散骑常侍，领大著作，洪皆固辞不就。太宁三年(325)，友人干宝力荐他任散骑常侍领国史，坚持不去上任。后因生活所迫，再出任咨议参军等职。及闻交趾产丹砂，求为句漏令，遂率子侄同行。
咸和二年(327)，葛洪听闻交趾出产丹砂，自行请求出任勾漏(今广西北流县)令。经皇帝允准后，遂南行赴任，途经广州，会晤刺史邓岳。邓告诉葛：其辖地的罗浮山有神仙洞府之称，相传秦代安期生在此山服食九节菖蒲，羽化升天。邓岳表示愿供他原料在此炼丹，葛遂决定中止赴任的行程，从此隐居于罗浮山。其间，邓岳拟任葛洪为东莞太守，葛辞不就。他在朱明洞前建南庵，修行炼丹，著书讲学。因从学者日众，又增建东西北三庵(东庵九天观、西庵黄龙观、北庵酥醪观)。南行至广州，为刺史邓岳所留，乃止于罗浮山炼丹。在山积年，优游闲养，著作不辍。卒于东晋兴宁元年(363年)，享年81岁。
相传葛洪夫妇还曾在南海西樵山和广州越岗院(即今三元宫)研究炼丹术和医学，并常行医于百姓之间。葛洪一生著述颇丰，《抱朴子》是其代表作。该书分内、外两篇。内篇20卷，论述神仙方药、养生延年、禳邪却祸之事，总结晋代前的神仙方术，包含守一、行气、导引等，为医药学积累了宝贵的资料；外篇50卷，论述人间得失，世事臧否，阐明其社会政治观点。全书将神仙道教理论与儒家纲常名教相联系，开融合儒、道两家哲学思想体系之先河。《抱朴子》的问世，对道教的发展产生了深远的影响。