梁毗字景和，安定乌氏人。
祖父梁越，西魏泾州、豫州、洛州三州刺史，合阝陽县公。
父亲梁茂，北周沧、兖二州刺史。
梁毗性格刚直，颇有学问。
北周武帝时，举明经，累次升迁，到当布宪下大夫。
平定北齐时，以梁毗为行军总管长史。
攻克并州，梁毗有功劳。
拜授别驾，加授仪同三司。
宣政中(578)，封为易陽县子爵，食邑四百户。
升为武藏大夫。
隋高祖受北周禅让后，梁毗晋爵位为侯爵。
开皇初年，朝廷设置御史官，因梁毗正直，拜授他为治书侍御史，他有称职之名。
继而转任大兴县令，调任雍州赞治。
梁毗既从司法部门出来，又治理京邑，他直道而行，无所回避，因此颇失权贵们的欢心，因此把他调出去当西宁州刺史，改封为邯郸县侯爵。
他在西宁州十一年。
此前，蛮夷的酋长都戴金冠，以金多者为豪隽，因此互相抢夺金子，常常诉之于干戈，边境没有安宁的年份。
梁毗很担心。
后因诸酋长跟着把金子送给梁毗，梁毗于是把金子放在座位旁边，对金子痛哭道：“这个东西，饿了不能吃，冷了不能穿。
你们因为它而互相消灭，死人不可胜数。
如今把这东西拿来，是想杀我吗？”梁毗一点金子都不要，全部还给他们。
于是蛮夷酋长感悟，不再互相攻击夺金子。
高祖知道了，认为他这么做很好，调他入京当散骑常侍、大理卿。
他司法公允，当时人都称赞他。
一年多后，升任上开府。
梁毗见左仆射杨素显贵得宠擅权，文武百官都怕他，担心他成为国家的大害，因此秘密上奏章说：“我听说，臣下是不能作威作福的。
臣下作威作福，为害就危及家族，行凶就危及国家。
我看左仆射、越国公杨素，得到的宠幸和待遇越来越重，权势越来越大，连朝中大臣，都要看他的脸色行事。
忤逆他的，他就大夏天下严霜，顺从他的，他就大冬天下春雨。
荣辱都由他嘴巴决定，废兴都等着他来指挥。
他所亲近的，都不是忠党；所提拔的，全是他的亲戚，他的子弟布满了很多州县。
如果天下无事，他尚会暂停陰谋；如果天下稍稍有点什么，他肯定会成为第一个反贼。
那些奸臣弄权擅命，都是逐渐来的。
王莽靠的是多年在朝中的积累，桓玄是在太平之世打的基础，但最后却灭了汉朝，倾覆了晋代。
季孙氏专权于鲁国，田氏篡权于齐国，都记在典籍上，不是我瞎说。
陛下如把杨素当作阿衡，我担心他的心未必像伊尹。
伏请陛下以古今为鉴，适当处置，以使基业永固，天下幸甚。
我轻率地冒犯您，听候您的处置。”高祖看了奏章，十分震怒，命令有关部门把他关起来，高祖亲自来审问他。
梁毗说：“杨素既已擅权，作威作福，他到了哪里，就在哪里滥杀无辜。
另外，太子和蜀王因罪被废黜时，百官无不震惊，惟有杨素扬眉奋臂，喜形于色，把国家的祸灾当作他的幸运的事。”梁毗讲得真实有理，有诚实坦荡之节操，高祖也无法使他屈服，于是放了他。
杨素从此恩宠渐衰。
但是，杨素权势很大，颇能折挫他人，当时朝中大臣没有不怕他的，没有谁敢与他争辩是非。
在杨素面前，能不屈服的，惟有梁毗、柳..以及尚书右丞李纲而已。
后来，皇上不再专门委任杨素，就是从明白梁毗的话开始的。
炀帝即位后，梁毗升任刑部尚书，并兼任御史大夫之事。
梁毗上奏，弹劾宇文述私自役使部兵。
炀帝想免宇文述之罪，梁毗固诤，因此忤逆圣旨，于是让张衡代替他当御史大夫。
梁毗忧愤，过了几个月就死了。
炀帝让吏部尚书牛弘去吊口言他，赠送他家缣采五百匹。