早年经历
宋太祖乾德元年（963年），陈尧佐出生。他的先祖是河朔人，至高祖陈翔时，因任蜀州新井县令，便定居于此，为阆州阆中人。
宋太宗端拱元年（988年），陈尧佐登进士第。历任魏县、中牟县尉，曾撰《海喻》一篇，人们惊奇于他的志向。后以试秘书省校书郎身份知朝邑县，恰逢其兄陈尧叟出使陕西，揭发宦官方保吉的罪行，方保吉怨恨陈尧叟，便以事诬陷陈尧佐，被降职为朝邑县主簿。其后移任下邽县主簿，升任秘书郎、真源知县，任开封府司录参军。
通判潮州
宋真宗咸平二年（999年），升任开封府推官。他上书指摘时弊，言他人所不敢言，因触怒真宗，被贬为潮州通判。到潮州后，新修孔庙，并“选潮民秀者劝以学”，发展潮州教育事业。还倡议在孔庙正室东厢建韩吏部祠，并写了《招韩文公文》，极力称赞韩愈“专以孔子之道教民。民悦其教，诵公之言，箴公之文，绵绵焉迨今知学者也。”
咸平三年（1000年），百姓张氏的儿子与其母在江中洗澡，鳄鱼尾随吃掉他的儿子，母亲无法施救。陈尧佐听说后为之伤心，命两个小吏划小船拿着网前去捕捉。鳄鱼最为凶暴，无法网到，到此时，却顺服被网住，陈尧佐撰《戮鳄鱼文》，把鳄鱼示众街市并就其烹杀，人们都感到惊异。
历职地方
陈尧佐在任三年后被召还朝廷，献诗数百篇，被任命为直史馆、知寿州。当年大饥荒，陈尧佐拿出俸米做成粥供饥饿的人吃，官吏和百姓都献出大米，赈济几万人。后移任庐州，因其父陈省华病重而请求辞官回乡，提点开封府界事。
后来任两浙转运副使。钱塘江用竹笼装石为堤，堤在次年就毁坏。陈尧佐请求放进柴薪装满泥土才坚固耐久，丁谓不认同，陈尧佐与之反复争论，丁谓遂将其徙为京西转运使，但最终还是按他的建议实行。移任河东路转运使，他根据河东土地贫瘠百姓贫困、依靠石炭为生的情况，奏请朝廷免除税收。又减少泽州大广冶铁课税几十万。移任河北路转运使，母亲年迈请求就近侍养，朝廷召他纠察在京刑狱，为御试编排官，因安排等次失误降职监鄂州茶场。
天禧年间，黄河决口，朝廷起用陈尧佐为滑州知州，制造木笼以减除水患，又修筑长堤，人们称作“陈公堤”。
入朝拜相
真宗驾崩后，朝廷营造永定陵，又移任陈尧佐为京西转运使，入朝担任三司户部副使，移任度支副使，参与撰写《真宗实录》。没有应试中书，朝廷特升其为知制诰兼史馆修撰、知通进银台司。
天圣二年（1024年），进升枢密直学士、知河南府。
天圣三年（1025年），移任并州知州。每次汾水暴涨，并州百姓往往忧虑，陈尧佐替他们修筑堤防，栽植柳树几万株，修造柳溪，百姓赖其利。
天圣五年（1027年），陈尧佐参与撰写真宗一朝国史。又接替其弟陈尧咨同知开封府，累迁右谏议大夫，任翰林学士。
天圣七年（1029年），拜枢密副使。当时祥符知县陈诂治理严厉苛刻，官员打算加罪陈诂，便使县为之一空，刘太后果然愤怒；但陈诂与宰相吕夷简连亲，执政大臣以嫌不敢争辩。事情传至枢密院，只有陈尧佐说：“惩处陈诂则奸吏得计，以后谁敢再约束胥吏呢？”陈诂因此得以免罪。陈尧佐其后以给事中之职任参知政事（副相），又升尚书吏部侍郎。
出知永兴
明道元年（1032年），四月，刘太后去世后，宋仁宗亲政，他首先罢黜刘太后所任用的宰相，陈尧佐因而于次年以户部侍郎之职罢知永兴军。经过郑州，被郡人王文吉以反叛事告发，传经御史中丞范讽处理，此事才辨明。改任庐州知州，移任同州知州，又移知永兴军。刘太后曾派宦官在京兆（今西安）造佛塔，前知永兴军姜遵为迎合太后，把古碑古碣全部毁掉充作砖瓦用，陈尧佐上奏说：“唐代贤臣墓碑，现在已损失十分之七八了。其子孙深深地镌刻大字，是想传之千载，一旦与瓦砾等同，实在是可惜。那些没有被毁坏的，希望敕令州县完整保护。”移任郑州知州。恰逢修造真宗章惠皇后的园陵，郑州陈设之物很严格，仁宗赐书褒谕。[21]
晚年生活
景祐四年（1037年），授任同中书门下平章事、集贤殿大学士，再次拜相。
景祐五年（1038年），因数次出现灾异，罢为淮康军节度使、判郑州。
康定元年（1040年），以太子太师职致仕。
庆历四年（1044年）十月辛卯（10月26日），陈尧佐去世，享年八十二岁。赠司空兼侍中，谥文惠。