张率字士简，性格宽厚文雅。十二岁能写文章，常常每天规定写诗一篇，有时几天不作，就加以追补，逐渐进而写作赋颂，到了十六岁，过去的作品已有两千余首。有个叫虞讷的见了以后加以诋毁，于是张率有一天把它们全部烧毁，重新作了一首诗拿给他看，托名是沈约所作。虞讷于是句句称赞，无字不佳。张率说：“这是我的作品。”虞讷惭愧地退走了。
当时陆少玄家里有他父亲的书一万多卷，张率与陆少玄要好，于是互通书籍，全部读完了他家的书。
齐朝建武三年(496)，举为秀才，任命为太子舍人，和同郡的陆翺、陆厥幼年的时候互相亲昵友好。曾经同车到左卫将军沈约那里去，遇到任窻也在那里。沈对任说：“这两位少年是后进秀才，都是南国的金子，您可以认识一下。”由此与任窻成了朋友。
梁朝天监年间(502～519)，担任司徒谢紻的属官，在文德待诏省值勤，诏令让他抄录乙部书，又让他撰写古代妇女的故事。让擅长书法的琅笽人王琛、吴郡人范怀约等抄写给后宫。张率请假东归，谈论者认为他是傲世，张率很害怕，于是写了一篇《待诏赋》上奏，很受赞赏。皇上手诏答复说：“司马相如精细而不敏捷，枚皋迅捷而不精美，卿可以说是在金马门兼具了二人的优长。”又曾经参加皇上的宴会作诗，武帝单独赐张率一首诗说：“东南有才子，故能服官政，余虽惭古昔，得人今为盛。”张率奏诗往返六首。后来武帝在玉衡殿召见他，对他说：“卿在东南很有声望，朕很早就听说。您说宰相应该是谁，不从天上掉下来，不从地下冒出来，卿是名家奇才，如果又肯留心礼法律令，便是这种人选。秘书丞是天下最清雅的官，东南有名望的世族还没有人担任过，今天把它授给您，为卿立定名誉。”很快就任命他做了秘书丞，掌管集书诏策。
天监四年的一天，在华光殿禊饮，这天河南国献了一匹赤龙驹，能伏拜，善跳舞，诏令张率和到溉、周兴嗣作赋，武帝以张率和周兴嗣的作品为优秀。
这一年，张率因为父亲去世而离职。他父亲在世时的艺妓有几十人，其中善唱的一个非常漂亮，同乡的仪曹郎顾王光之前来求婚，歌女不同意，于是出家为尼。她曾因为斋醮在张率的家里相会，顾王光之便写匿名信说她与张率奸婬。南司把这事报告了皇帝，武帝爱惜他的才能，压下了这件事，但是仍然引起了当时的议论。服丧期满，很长时间没有任职。
天监七年(508)，任命为中权建安王记室参军，不久在寿光省值勤，负责修丙、丁部书抄。逐步调任晋安王宣惠咨议参军。张率在府中十年，恩情礼遇很宽厚。后来做扬州别驾。张率虽然历任多种职务，却不曾留心簿籍。到了做别驾时有事上奏，武帝看了奏章提出问题，他都不能对答，只是说：“情况都在奏章中。”武帝很不高兴。后来又做了黄门侍郎。出京担任新安太守，遭到了生母的丧事而去世。
张率酷爱喝酒，不爱管事，对于家务尤其不在意。在新安他曾经派家僮载米三千石回家，等运到家便损耗了一大半。张率询问原因，回答说：“雀鼠损耗。”张率笑着说：“好雄壮的雀鼠！”终于也没再追问。他从幼年写文章，《七略》和《艺文志》所载的诗赋，今天遗失原文的，都进行了补作。他所著的《文衡》十五卷、文集四十卷流行在世间。