张说入朝为官时，武则天的两个内宠张昌宗、张易之兄弟权倾朝野，多为不法。满朝官员中只有出名的硬汉宰相魏元忠不怕他们的淫威。张氏兄弟对魏元忠恨得要死，千方百计想把魏元忠除掉。他们在太后面前诬告魏元忠，说魏元忠在背后议论：太后老了，不如跟太子靠得住。武则天一听就火了，把魏元忠打进了牢监，准备亲自审讯，并且要张昌宗他们两人当面揭发。
张昌宗恐怕辩不过魏元忠，就偷偷地去找魏元忠的部下张说，要张说作伪证，并且许诺说，只要张说答应，将来就提拔他。
第二天，武则天上朝，召集太子和宰相，让张昌宗和魏元忠当面对质。魏元忠说什么也不承认有这回事。两人争论了半天，没有结果。张昌宗说：“张说亲耳听到魏元忠说过这些话，可以找他来作证。”武则天立刻传令张说进宫，张说进了朝堂。武则天问他说：“你听到魏元忠诽谤朝廷的话了吗?” 魏元忠一见张说进来，就高声叫起来说：“张说，你想跟张昌宗一起诬陷人吗?”张说回过头来哼了一声说：“魏公枉做宰相，竟说出这种不懂道理的话来。”张昌宗一看张说的话不对头，就在旁边催促他，说：“你别去管他，快来作证。”张说向武则天说：“陛下请看，在陛下面前，他还这样胁迫我，可以想象他在宫外是怎样作威作福了。现在我不能不实说，我确实没听魏元忠说过反对陛下的话，只是张昌宗逼我做伪证罢了。”
武则天是个聪明人，听了张说的答话，知道魏元忠的确冤枉，但是她又不愿张昌宗他们下不了台阶，就骂张说说：“你真是反复无常的小人。”说着，就命令侍从把张说抓起来。以后，武则天又派人审讯张说。张说横下一条心，咬定他没有听到魏元忠说过谋反的话。因此，张说在朝廷大臣中获得了很高的声誉。