孟怀玉，平昌安丘人。他的高祖孟珩，是晋朝的河南尹。祖父孟渊，官至右光禄大夫。父亲孟绰，在高祖起义后当给事中、光禄勋，死后被追认为金紫光禄大夫。孟怀玉世世代代住在京口。
高祖东伐孙恩，用孟怀玉当建武司马。孟怀玉参加起义军，跟从高祖平定京城。因此功被封为鄱陽县侯，食邑一千户。高祖镇守京口以怀玉为镇军参军、下邳太守。义熙三年(407)，孟怀玉出外当宁朔将军、西陽太守、新蔡内史，又被任为中书侍郎，转任辅国将军，带丹陽府的部队，戍守石头城。
卢循进逼京城，孟怀玉在石头城江岸上连续作战，都有功劳，被委任为中军谘议参军。敌将徐道覆多次想以精兵登岸，因怕孟怀玉不敢上岸。卢循逃向南方，孟怀玉和各军一齐追击，直到五岭江南。徐道覆屯据始兴，孟怀玉围攻他，亲自搏击，经几十天终于攻下始兴。再向南追击卢循，卢循被平定，孟怀玉被封为陽丰县男，增加食邑二百五十户，再当太尉谘议参军、征虏将军。八年(412)，孟怀玉迁任江州刺史，不久又当督江州豫州的西陽新蔡、汝南颍川司州的恒农扬州的松滋六郡诸军事，南中郎将，刺史还照旧。当时荆州刺史司马休之占据上游，心怀异端，所以授予孟怀玉这个职务，用以防卫休之。十一年(415)，孟怀玉加官持节，因为父亲去世，怀玉孝心很重，于是得了重病，上表请求解除自己的职务，没有被允许。他又上书说自己的弟弟孟仙客过继给叔父，父亲丧事只有自己能主持。于是被同意辞职，还未离任，当年便去世了，享年三十一岁。死后被追认为平南将军。他的儿子孟元死了，没有儿子，封爵便被取消。怀玉另外一个封爵是陽丰男，他的儿子孟慧熙继承了这个爵位，孟慧熙因为不祭祀被取消爵位。慧熙的儿子孟宗嗣，官至竟陵太守、中大夫。