隋朝大业末年时,迁居魏州昌乐县(今河南南乐县)。张文瓘自幼丧父,他孝顺母亲,尊敬兄长,以孝友闻名。
唐朝贞观年间,张文瓘参加科举,以明经及第,补任并州参军,深受长史李勣的器重。他在高宗年间,升任水部员外郎,但因与兄长张文琮(时任户部侍郎)同在尚书省为官,不合制度,被外放为云阳县令。
龙朔元年(661年),张文瓘升任东西台舍人、参知政事,成为宰相。
乾封二年(667年),张文瓘改任东台侍郎(后改称黄门侍郎)、同东西台三品,并管理左史事务。
咸亨二年(671年),唐高宗巡幸东都洛阳,命张文瓘与戴至德、李敬玄留守长安,辅佐太子李弘监国。
咸亨三年(672年),张文瓘兼任太子左庶子,后改任大理寺卿,但仍保留宰相职权。他上任十日,便判决疑案四百余件,执法公平,被时人比作贞观名相戴胄。
上元二年(675年),张文瓘升任侍中,兼太子宾客。他生性严正,对百官奏议多有纠驳,深受唐高宗的器重。张文瓘卧病之时,朝廷每有大事,高宗都会询问是否已和张文瓘商议。若是商议过,便一概准奏。
仪凤三年(678年),新罗反叛,唐高宗欲发兵征讨。张文瓘正在家养病,得知后抱病进谏:“现在西部吐蕃入侵,正屯兵抵御。若再东征新罗,恐怕百姓难以承受。请陛下停止用兵,以安抚百姓。”唐高宗纳取了他的谏言。
这一年九月,张文瓘逝世,终年七十三岁,追赠幽州都督,谥号为懿。他生前曾为李弘的东宫属官,因而陪葬恭陵。
张文瓘曾参与修撰《永徽留本司格后》。《全唐文》则收录其奏疏一篇:《谏造蓬莱上阳宫疏》。
李勣:稚圭,今之管萧,吾所不及。
白居易:国朝以来,有刘德威、张文瓘、唐临为大理卿,有魏徵、虞世南、颜师古为秘书监,设官之重,得贤之盛,人到于今称之。
刘昫:文法,理具之大者,故舜命皋陶为士,昌言诫敕,勤亦至焉。盖人命所悬,一失其平,冤不可复,圣王所以疚心也。如唐临之守法,文瓘之议刑,时属哲王,可以理夺。
王夫之:若宇文节、柳奭、崔敦礼、辛茂将、许圉师、窦德玄、乐彦玮、孙处约、姜恪、阎立本、陆敦信、杨弘武、戴至德、李安期、张文瓘、赵仁本、郝处俊、来恒、薛元超、高智周、张大安、崔知温、王德真、郭待举、岑长倩、魏玄同者,皆节不足以守筦库,才不足以理下邑,或循次而升,或一言而合,或趋歧径而诡遇,竞相踵以赞天工。