2001年，张胜祖参演电影《哨兵线》，客串饰演角色“张一兵”。
2004年，张胜祖参演南东协执导的独立电影《Happy Delivery Service》，饰演“贤德”。
2005年，张胜祖通过出演音乐剧《求婚》正式出道；同年，出演音乐剧《灰姑娘的故事》与电影《On Air》。
2006年，张胜祖出演音乐剧作品《Dino & Flora》、 《Miss Saigon》。
2007年，张胜祖出演音乐剧作品《West Side Story》，饰演“Tony”；在音乐剧《补妆》中饰演“志燮”。
2008年，张胜祖接连出演了音乐剧《李舜臣》中的“吉俊”；主演《罗密欧与朱丽叶》的“罗密欧”一角；在《The Covenant Journey》中饰演“约瑟”；出演《色即是空》里的“达秀”。
2009年，张胜祖出演音乐剧《青的故事》，饰演“辉元”。
2010年，张胜祖参演申根浩执导电影作品《不良男女》，饰演“东烈”一角。
2011年，张胜祖主演音乐剧作品《狼的诱惑》，饰演主人公“郑泰成”；同年，主演改编自真实拐卖儿童杀人案题材的音乐剧《Thrill Me》。
2012年，张胜祖在音乐剧《Black Mary Poppins》中饰演“汉斯”；在音乐剧《夏洛克·福尔摩斯》中饰演“Adam Anderson”一角；同年，主演话剧作品《坏家伙》 ，在其中饰演“戈登”。
2013年，张胜祖接连主演音乐剧作品 《mama, Don't Cry!》、《古腾堡》、《Trace U》与话剧作品《模范生们》、《Puzzle》。
2014年5月，张胜祖将重心转向电视荧屏，出演OCN电视台出品的法医学及犯罪侦查剧《神的测验4》，饰演“李才俊”；同年10月，出演tvN有线台月火剧《欺诈游戏》，饰演30岁的国会议员辅佐官“金奉根”；同年，出演音乐剧作品《Blood Brothers》。
2015年4月，张胜祖在MBC月火剧《华政》中，饰演“定远君”；7月，与郑允浩、金佳恩、曹胤瑀等演员合作主演SBS Plus网络剧《指定你》，饰演广告公司经理“凯文·朱”；7月，在MBC水木剧《夜行书生》中，饰演李允的父亲，被鬼夺去生命的“思童世子”一角。7月，出演SBS爱情喜剧《为你点餐》，饰演Angde Communication组长kevin。8月，出演KBS周末家庭剧《拜托了，妈妈》，饰演青年时候的张哲雄。10月，出演SBS古装历史剧《六龙飞天》，饰演成均馆儒生。
2016年1月，张胜祖出演SBS晨间剧《我女婿的女人》，饰演KP集团本部长“崔在永”。
2017年4月，主演MBC晨间剧《训长吴纯南》，饰演纯南的前夫兼车氏一家的长孙车有民。10月，出演《花都情缘》，饰演白成久。11月，张胜祖主演MBC周末剧《金钱之花》，饰演豪门大公子“张富天”。
2018年8月，张胜祖主演tvN水木剧《认识的妻子》，饰演男主角的同事“尹钟厚”。
2018年11月，张胜祖出演tvN水木剧《男朋友》，饰演女主角的前夫“郑宇泽”。
2019年11月，出演JTBC爱情剧《巧克力》，饰演李江的堂哥李俊。
2020年7月，主演JTBC刑侦悬疑剧《模范刑警》，饰演重案组刑警吴志赫。
2021年，参演电视剧《雪滴花》。
