庾杲之字景行，新野人。祖父庾深之，位居义兴太守，以善政而闻名。父亲庾粲是南郡王刘义宣的丞相城局参军，南郡王起兵，他被杀害。
庾杲之幼年就很有孝行，宋朝的司空刘面力见到他认为很奇异，对他说：“见到您足以使江汉一带仰望，优秀人才声名远扬。”初次做官担任奉朝请，逐步升迁为尚书驾部郎。家业清贫，吃的只有腌韭菜、煮韭菜、生韭菜等。任窻曾经给他开玩笑地说：“谁说庾郎贫穷，吃菜曾经有三九(韭)二十七种。”
他经过多次调动担任了尚书左丞。王俭对别人说：“过去袁公做卫军，想用我为长史，虽然没有做成，关键是他曾有这种意向。现在也需要像我们这样的人。”于是任用庾杲之为卫将军长史。安陆侯萧缅给王俭写信说：“贵府的僚佐，实在难以选拔。庾景行泛渌水，依芙蓉，多么美丽啊！”当时的人把入王俭府比作莲花池，所以萧缅写信赞美他。
他历任黄门吏部郎，御史中丞，参与大选。他容貌美好，善于谈笑。曾经兼任侍中夹侍，柳世隆在皇帝那儿坐，对齐武帝说：“庾杲之被蝉冠所辉映，更加富有华彩，陛下所以应当让他真地成为贵近朝臣。”皇上很高兴，王俭则说：“国家因为庾杲之清美，所以允许他假借官职。如果让他真地任职，应当在胡谐之的后面。”
武帝曾经与朝臣商议，一次酒后他对群臣说：“我以后应当得到什么样的谥号？”群臣没有人回答。王俭于是眼睛看着庾杲之，庾杲之从容地说：“陛下寿比南山，正与日月齐明，千载以后，难道是臣子们轻易可以衡量的吗？”当时的人都很称赞他雄辩的对答。
庾杲之曾经兼任主客郎对答魏朝的使者，使者问庾杲之说：“百姓们怎么能够家家写门帖卖宅子？”回答说：“朝廷既然要扫荡京洛，克复神州，所以才家家卖宅子。”魏朝的使者缩着鼻子而不回答。
当时诸王年少，不能轻率地称赞和接待别人，诏令庾杲之和济陽的江淹五天一次去到诸王那里去，让他们交游通好。庾杲之又升迁为尚书吏部郎，参大选事务，太子右卫率，加任通直常侍。永明九年(491)去世，皇上非常惋惜，谥号为贞子。