家庭背景
相传他的祖先是北魏太武帝拓跋焘的儿子（一说为秦王拓跋翰，另一说为南安王拓跋余）。其祖先又随孝文帝由平城（今大同市）南迁洛阳，并在孝文帝的汉化改革中改姓元。北魏分裂之后，户籍落至汝州（今河南省临汝县）。五代时期以后，又由河南移家平定州（今山西省平定县）。他的高祖元谊，在北宋徽宗宣和年间（1119—1125年）官忻州神武（虎）军使。曾祖元春（一作椿）任北宋隰州（治今山西省隰县）团练使，又从平定移家忻州，遂为忻州人。祖父元滋善，在金朝海陵王正隆二年（1157年）任柔服（今内蒙古土默特右旗托克托附近）丞。父亲元德明多次科举不中，以教授乡学为业，平时诗酒自娱，著有《东岩集》。
游学四方
金章宗明昌元年七月八日（1190年8月10日），元好问诞生在忻州农村一个世代书香的士大夫家庭里。由于他的二叔和三叔都没有儿子，元好问的兄弟有三个，他又是第三。根于中国传统，他的叔父元格（后元好问称他为陇城府君）在他生后七个月时，就把他当做过继儿子，随即把他带到掖县县令任上。
据记载，元好问天资聪明，七岁就能写诗，被人誉为“神童”。十一岁时，元格在冀州任职，元好问得到了翰林侍读学士兼知登闻鼓院路择的赏识，路择“爱其俊爽，教之为文”。十四岁时，元好问又师从陵川人郝晋卿，博通经史、淹贯百家。到元好问十七岁时，元格被罢去陵川县令之职，但为了儿子的学习，他仍继续住在陵川，直到元好问十九岁完成学业，才带全家离开陵川。
科场受挫
元好问从十六岁起开始参加科举考试。由于金章宗明昌元年（1190年）“识免乡试”，他直接到并州参加府试，但榜上无名。此后在泰和八年（1208年）十九岁时，他又到长安参加府试，但这次又未中。
元好问二十一岁时返回故里，在离祠堂几十里外的定襄遗山读书，故而自号“遗山山人”。两年之后，蒙古大军突袭秀容，屠城十万余众，其兄元好古丧生。为避兵祸，元好问举家迁往河南福昌，后转徙登封。
卫绍王崇庆元年（1212年），元好问又到中都（今北京）第三次参加考试，仍未考中。这年正月，金朝三十万大军被蒙古击败，蒙古已逼近中都，路途的坎坷、国家的危机，加上考试的失败，使他的情绪非常低沉忧虑。
贞佑二年（1214年），蒙古兵围攻、金兵节节败退，金宣宗仓皇迁都南京，元好问于这年夏天赴汴京，准备将于秋天举行的考试。虽然考试又一次失败，但他却通过应试汴梁，得以与朝中名人、权要如赵秉文、杨云翼、雷渊、李晏等交接结好，诗歌创作极丰。其中《箕山》、《元鲁县琴台》等篇，深得时任礼部尚书的赵秉文赞赏，其文名震京师，被誉为“元才子”。但不久由于蒙古兵围攻，元好问不得不由山西逃难河南，并在豫西逐渐定居下来。贞佑五年（1217年），二十八岁的元好问又赴京赶考，仍未成功。
坎坷仕途
兴定五年（1221年），三十二岁的元好问进士及第，因科场纠纷，被诬为“元氏党人”，便愤然不就选任。又过了三年，到他三十五岁时，元好问又得到赵秉文等人的贡举，以考试优异得中科举。这次宏词科登第后，元好问才正式就选，被任为权国史院编修，留官汴京，但生活颇为清苦。
金哀宗正大二年（1225年），三十六岁的元好问因不满冷官生活请长假回到了登封，期间撰写了一部重要著作《杜诗学》，内容包括杜甫的传志、年谱和唐朝以来评论杜诗的言论。
正大三年（1226年），元好问任河南镇平县令。次年，改官河南内乡县令，不久其母张氏身故，其长子出生，元好问丁忧闲居内乡白鹿原，应邓州帅移刺瑗之邀，赴任幕僚。不久，蒙古军攻陷凤翔，邓州帅投降，元好问借机辞去幕府。
正大八年（1231年），元好问调任南阳县令，他在任上大刀阔斧进行改革，成绩斐然。所以河南志书称他“知南阳县，善政尤著”。《南阳县志》记载：“南阳大县，兵民十余万，（元好问）帅府令镇抚，甚存威惠”。
国亡被囚
此后不久，元好问赴京调金中央政府任尚书省令史，移家汴京。此后又升任左司都事，又转任尚书省左司员外郎。官至翰林知制诰。
天兴二年（1233年），蒙古军围开封，元好问在围城中。金哀宗逃出京城，兵败卫州后逃往归德府。朝中无主，崔立率兵向蒙古请降献城。崔立投降蒙古后，胁迫朝臣为其立碑歌功颂德，元好问、王若虚、刘祁等都被迫参加撰写碑文，磨掉宋徽宗所立《甘露碑》字迹，刻上碑文。
天兴二年（1233年）四月，蒙古兵攻破汴京，元好问即向当时任蒙古国中书令的耶律楚材推荐了五十四个中原秀士王若虚等，请耶律楚材予以保护和任用。金亡后，元好问随金朝大批官员被俘，并被押往山东聊城看管两年，后居住冠氏县。元好问作为囚徒，与家人辗转于山东聊城等地，并逐渐与蒙古国的汉军首领严实、赵天锡等接上关系，生活逐渐好转和行动较为自由。
这期间，他痛心金国的沦亡，奸贼的误国，并为了以诗存史，勤奋编辑金国已故君臣诗词总集《中州集》。以“中州”名集，则寓有缅怀故国和以金为正统的深意。
晚年生活
元太宗十一年（1239年）秋，因其诗文名气颇大，耶律楚材倾心接纳元好问。可五十岁的元好问已无意出仕为官，其年重回老家，隐居故里，并交友游历，潜心编纂著述。元宪宗七年九月四日（1257年10月12日），元好问在获鹿寓舍逝世，享年六十八岁。