权德舆秉性耿直，为人宽和，言语质朴自然，风度甚佳，为时人所称道。他办事光明正大。有一次，运粮使董溪、于皋谟盗用军费，案发后，被流放岭南。宪宗感到量刑太轻，很后悔，又暗暗派宦官赶去将两人杀死于流放途中。权德舆就立即上疏说，依据这两人的罪名，本当公开处死的，但既然已经宣判了流放，就应当遵照执行，如今却又暗暗地将他们处死，这是名不正，言不顺，有损朝廷信誉，劝宪宗今后再也不能如此干了。这足见他为人之耿直。
权德舆好著述，善写铭文表章，文辞雅正而又弘博，当时，王侯将相的铭志十有八九都请他撰写。他尤其喜欢读书，常常手不释卷，作有文集50卷，称《权文公集》，流传后世。
宪宗曾询问权德舆：“宰相为政，宽猛何先?”权德舆对答说：“秦朝以严酷而亡国，汉朝以宽大而兴盛，为政该以何者为先，由此就可知了。”
权德舆任相的次年，李吉甫和李绛又先后被拜为宰相。李吉甫好逢迎宪宗心意，而李绛为人梗直，两人常为政事在宪宗面前争论。每当此时，权德舆总不表态，并因此而受到朝臣的指责，也引起了宪宗的不满。元和八年 (公元813年)正月，他被罢去相职，以检校吏部尚书留守东都，后又拜为太常卿，改刑部尚书。公元816年，他又以检校吏部尚书外出担任山南西道(今陕西汉中)节度使。二年后，以病乞还，卒于途中，享年60岁。赠尚书左仆射，谥曰文。
权德舆寓居阳羡期间，曾游览玉女潭，称玉女潭为“阳羡胜境，以此为首”。另有诗作《周平西墓》：“英威今寂寞，陈迹对崇丘。壮志清风在，荒坟白日愁。穷泉那复晓，乔木不知秋。岁岁寒塘侧，无人水自流”传世。