1979年,刚上大二的张铁林参与拍摄了中央电视台的第一部单集电视剧《有一个青年》,在片中扮演男主角顾明华,80年主演对越反击战影片《年轻的朋友》。
1983年,出演香港导演李翰祥执导,梁家辉、刘晓庆主演的电影《火烧圆明园》、《垂帘听政》。同年与龚雪合作电影《大桥下面》出演见义勇为的男主角,该片获得文化部故事片一等奖。两年后再次与龚雪合作拍摄了电影《多彩的晨光》。
1987年,赴英国留学,四年半后他留校任教。此后为BBC拍摄纪录片,给好莱坞导演乔治·卢卡斯《印第安纳琼斯》当副导演,他拍摄的短故事片《外国人》获得了英国学院奖。
1990年初,从英国到香港,加入徐克香港电影工作室,在《黄飞鸿1》中演孙中山,后又出演《黄飞鸿3》及《仙鹤神针》等。演戏的同时他还写剧本,《山不转水转》、《孙子》、《椅子》,五年中荣获台湾三届“优良电影剧本奖。
1995年,张铁林在动画电影《狮子王2》中为辛巴配音。1996年,张铁林在刚开播的凤凰卫视主持节目《电影世界》。之后进入内地,与赵明明、袁莉、赵薇主演了古装宫斗剧《汉宫飞燕》。
1998年,与赵薇、林心如、苏有朋主演古装清朝喜剧《还珠格格》饰演乾隆,为观众所熟知,之后出演了《还珠格格2》。
2001年,搭档张国立、王刚主演古装剧《铁齿铜牙纪晓岚》饰演乾隆,之后三人形成“铁三角”,主演了《铁齿铜牙纪晓岚》系列的2、3、4部,以及古装剧《布衣天子》、《少年宝亲王》、《宋莲生坐堂》和民国剧《五月槐花香》。
2002年,在张卫健、严宽、苏有朋主演的古装喜剧《少年张三丰》中饰演澄空大师。联合斯琴高娃、李芯逸主演家庭情感剧《众里寻她千百度》饰林海涛。
2003年,在苏有朋、贾静雯主演的金庸武侠剧《倚天屠龙记》中饰演“光明右使”杨逍。搭档吴奇隆、范冰冰主演武侠剧《名捕震关东》。在焦恩俊、胡静主演的古装神话剧《十八罗汉》中饰演老方丈。
2004年,搭档李立群、李诚儒主演古玩题材电视剧《人生几度秋凉》,并演唱片尾曲。在吴京、袁咏仪、淳于珊珊主演的动作剧《南少林三十六房》中饰演雍正。在徐峥、张庭、汪芫主演的清朝喜剧《满汉全席》中饰演康熙。
2006年,联合孙兴、曹颖主演古装喜剧《铁将军阿贵》。在保剑锋、金巧巧主演的古装励志剧《薛仁贵传奇》中饰李道宗。参与霍建华、孙俪主演的偶像剧《屋顶上的绿宝石》。
2007年,在唐国强、聂远主演的历史剧《贞观长歌》中饰罗艺。与斯琴高娃、温峥嵘主演历史古装剧《无字碑歌》饰唐高宗李治。与吕丽萍共同主演情感剧《非常夫妻》。在范冰冰、赵文瑄主演的古装剧《大唐芙蓉园》中饰演李白。
2009年,联合郭富城、郝蕾主演电影《白银帝国》饰康老太爷。
2010年,搭档唐国强、刘劲、郑卫莉主演人物传记题材剧《黄炎培》饰黄炎培。
2011年,在历史古装剧《新水浒传》中饰演洪太尉。在唐国强、蒋勤勤主演的历史剧《中国1945之重庆风云》中再次饰演黄炎培。参与胡歌、陈意涵主演的青春励志时尚剧《摩登新人类》。在陈坤、张雨绮主演的电影《钱学森》中饰演毛泽东。
2012年,在苗圃、罗晋主演的历史传奇古装剧《穆桂英挂帅》中饰演宋真宗。与王志文、霍建华主演医疗题材剧《感动生命》。主演革命史诗历史剧《红军东征》饰毛泽东与曹曦文、马跃主演古装剧《黄梅戏宗师传奇》。
2013年,参与拍摄廖京生、高云翔主演的抗战剧《刀影》中饰演彭振山。
2014年,担纲历史剧《文房四宝》的总导演并领衔主演,该剧是以“中国文房四宝之乡”—安徽宣城和“徽文化”、“徽商”为背景。
2016年10月,张铁林做客北京卫视书画鉴赏文化节目《我爱书画》。
2017年1月,参加在京举行的优秀华语网络影视作品推介会;参加高能达人秀节目《我爱二次元》;6月,原创街头互动挑战脱口秀节目《真星话大冒险》。