早年经历
上官仪自幼随父亲上官弘迁居江都（今江苏扬州）。大业十四年（618年），上官弘在江都之变中遇害。上官仪因藏匿得以幸免，为求避祸，自行披剃为僧。他研习佛典，精通《三论》，而且涉猎经史，善做文章。
累职拜相
贞观年间，上官仪得到扬州都督杨仁恭的器重，并入京参加科举考试，考中进士，被授为弘文馆直学士，累迁至秘书郎。当时，唐太宗常命上官仪起草诏谕，还让他参与宫中宴集，侍宴赋诗。
贞观二十二年（648年），宰相房玄龄、褚遂良等人修成《晋书》。上官仪因曾参与《晋书》修撰工作，被改授为起居郎。
贞观二十三年（649年），唐高宗继位，上官仪又升任秘书少监。
显庆元年（656年），唐高宗立五子李弘为皇太子，后任命上官仪为太子中舍人。
龙朔二年（662年），上官仪升任西台侍郎、同东西台三品，成为宰相，又加银青光禄大夫，仍兼弘文馆学士。
含冤遇害
麟德元年（664年），皇后武则天引道士入宫，行厌胜之术，被宦官王伏胜告发。当时，唐高宗常被武则天压制，对她已有不满，意欲将她废为庶人，便密召上官仪商议。上官仪道：“皇后专横，海内失望，应废黜以顺人心。”高宗便命他起草废后诏书。武则天得到消息，向高宗申诉辩解。高宗又不忍废后，因怕武后怨怒，便道：“这都是上官仪教我的。”
同年十二月（665年1月），武则天指使亲信许敬宗，诬陷上官仪、王伏胜勾结废太子李忠，图谋叛逆。上官仪曾在李忠的陈王府担任谘议参军，与王伏胜一同事奉过李忠，因此遭到诬陷。不久，上官仪下狱，与儿子上官庭芝、王伏胜一同被处死，家产抄没。李忠也被赐死于贬所。从此，唐高宗大权旁落，朝政完全由武则天掌控。
上官仪遇害时，孙女上官婉儿尚在襁褓，与母亲郑氏一同被没入掖庭，充为官婢。她生性聪颖，逐渐得到武则天的重用，被引为亲信女官，掌管宫中制诰。
神龙元年（705年），唐中宗继位，上官婉儿被册为昭容。上官仪得以平反，追赠中书令、秦州都督、楚国公，并被以礼改葬。