王秀之字伯奋，幼年的时候，祖父王敬弘喜爱他的风采。在宋朝做官担任太子舍人。父亲去世，他在墓旁盖了一座茅庐，守丧结束，复职。吏部尚书褚彦回想让他和女儿结婚，王秀之不肯，因此他总是做两府的外兵参军。后来担任晋平太守，当了一年要求回来，有人问他是什么缘故，他回答说：“这个郡土壤肥沃，珍宝财富日益增多，人们所迷恋的是财物，财物多了则祸患就会赶来，智者不贪恋财物，也不愿意招祸。我的家产已经足够，怎么可以久留，以致妨碍贤才的道路？”
他在齐朝做官担任豫章王萧嶷的骠骑长史。萧嶷在荆州建立学校，让王秀之兼任儒林祭酒。武帝即位，逐步升迁为侍中祭酒，转任都官尚书。
王秀之的祖父王敬弘性格忠贞正直，徐羡之、傅亮掌握朝中大权，他不和他们往来。退职后隐居在吴兴，他给王秀之的父亲王瓒之写信，常常用静退的思想鼓励他。王瓒之担任五兵尚书，没有到过一个朝中贵人家中。江湛对何偃说：“王瓒之现在便是朝隐。”后来柳元景、颜师伯富贵显要，王瓒之到底不问候他们。等到王秀之做了尚书，又不和王俭友好地结交。三代不侍奉权贵，当时的人们非常称赞。转任侍中，兼射声校尉。
后来出京担任随王镇西长史、南郡内史。后来担任辅国将军、吴兴太守。王秀之早先做诸王的长史、行事，就曾慨叹说：“仲祖的卓识，已经看到了很多的例证。”便不再去求升迁，只是经营舍亭山的宅院，有在这里终老的心愿。后来被任命主持吴兴郡，这是一个隐居的处所，所以心里愿意担当这一职务。到郡上以后，修整旧山，转移安置物资。隆昌元年(494)去世，遗令说：“朱红官服不能入棺材，祭祀只用酒和干肉即可。世人们让仆人和妻妾在灵前值守痛哭，当是由于丧主不能纯朴闲静，想用多种声音相乱。魂魄如果有灵的话，我会感到好笑的。”谥号称他为简子。