秦军在长平大败赵军以后，公元前261年，围攻赵都邯郸，赵国危在旦夕。赵王很着急，忙召平原君进宫，商讨让秦国退兵的方法。平原君说：“看现在的局面，只好向其他国家求助了。我和魏王的弟弟信陵君是姻亲，我们向来关系很好，可以求他发兵援助。楚国国力很强，但是离我们太远了，不如向它提议，几个国家联合起来，共同对抗强秦。这件事我愿意亲自前去。”赵王同意了。
平原君是战国时期有名的公子，对有才德的人以礼相待，不计身份前去结交，所以很多人投奔他。平原君门客众多，毛遂在最末的那一列。平原君回府后，立即召集门客，把即将出使楚国，联合彼此抵抗秦国的事告诉他们，并说，这一次去楚国，希望可以选二十个人一同前往。平原君说：“这一次去楚国，要求合纵，订立盟约，关系到邯郸能不能守住、赵国是存是亡，关系重大，所以只许成功不许失败。如果和平谈判不行的话，就只好使用武力逼迫，所以选出来的二十个人必须要文武双全。大家都是有才德的人，况且事发紧急，这二十个人就从你们当中选择吧。”
平原君门客虽多，但是能文的人不一定能武，能武的人不一定能文，选来选去只选出十九个，最后一个合适的人选怎么找也找不到。平原君忍不住说：“我选贤任能几十年，聚拢了这么多门客，没想到竟然连二十个人都选不出来。”
这时候，坐在最后面位置的毛遂站起来，说：“我虽然没什么才能，可愿意随同前往。”平原君看着这个人，觉得没见过几面，也没听身边的人提起过他，故意考验他说：“先生到我门下有多久了？”毛遂回答：“有三年了。”平原君的目光里立刻有了轻视的意思，说：“真正有才德的人在这个世界上，好像放在口袋里的一把锥子，很快就能扎破口袋，引人注目。现在，先生到这里已经有三年了，我却从来没有听人提起过先生，可见，先生无论文武都算不上上等。何况，楚国一行关系到国家的存亡，这么重大的使命，以先生的本事恐怕难以承担，先生还是留在这里吧。”
平原君这么说，毛遂却丝毫没有退缩，他马上回答：“您说得有道理。有才德的人在这个世界上，是能表现出才德来的，但是要想表现才德，首先要有表现的机会。您以知人善任、以礼待人而为人称道，但是，如果您没有赵国公子这样的名号，又有几个人知道您知人善任，您又怎么会有今天的地位呢？我之所以没能被人注意到，也是因为没有机会进到口袋里，不然早就从口袋里出来了，而不只是扎破口袋而已。”毛遂对答流畅，说理清晰，让平原君甚为惊奇。时间紧急，平原君不可能再去其他地方寻找人选，于是同意了让他随行。
另外十九个随行的人虽然也听到了毛遂的话，但没有一个人把他放在心上。他们觉得这个人不过是会耍嘴皮子罢了，于是彼此对笑，笑他自不量力。这十九个人都自认为学识渊博，一路上侃侃而谈，说东论西，针砭时弊。而毛遂总是一言不发，但偶尔发言，必定一针见血，见解透彻。等他们一行到了楚国，另外的十九个人已经对他心服口服。
军情紧急，平原君到楚国后，第二天一大早就连忙赶到楚国朝堂，和楚王商讨六国合纵的事。楚王说：“六国合纵本来就是赵国发起的，但从没能让联盟稳固。大家先是拥立怀王做纵约长，一起领兵讨伐秦国，没能攻下它；后来又拥齐王做纵约长，但是每个国家都想着自己的利益，联盟不成又失败了。到了现在，六国合纵这件事都成了大家的避讳，就算结成联盟，六个国家各有各的心思，也拢不到一块儿，没用的。更别说以秦国现在的国力，哪一个国家能跟它对抗呢？还是各安一方求自保才是良策啊。而且秦国和楚国才刚结交，约定从此以后友好往来，如果楚国又跟赵国联合起来，这不就违背了跟秦国的盟约吗？这样做一定会惹来刀兵之祸，不就等于替赵国背黑锅了吗？合纵的事还是不要再提了！”楚王畏惧强秦不敢答应。平原君再三恳请，陈述利弊，直到中午都没能说服楚王。
毛遂和其他十九个门客在外面等着，久等不见平原君出来，于是十九个人便对毛遂说：“先生去看看。”毛遂不发一言，直接提起剑上了台阶，昂首阔步走到殿内，问平原君：“六国合纵的事，只要说清楚利弊，不过几句话的问题，怎么谈了一上午还谈不出个结果呢？”楚王一看，这个人居然敢提着剑直闯进殿，而且说出来的话这么没有礼貌，很生气。但他又不知道毛遂的来历，被这个人的气势震住了，不敢贸然呵斥，于是先问平原君：“这个人是谁？”平原君说：“这是我的门客毛遂。”楚王立刻大声斥责起来：“放肆！我和你的主人商讨国家大事，哪里容你插嘴，还不赶快出去！”
毛遂毫不畏惧，提剑上前，慷慨陈词：“六国合纵，事关天下，天下的人都可以说，更何况你在我的主人面前斥责我，是想给谁难堪呢？你不过是仗着楚国人多势众，现在我和你之间不过十步，楚国人再多也帮不上你什么。我想要你的命，随时都可以，你威风什么呢？况且当年商汤只有七十多里的土地，照样称霸天下；周文王只有百余里的土地，照样能让天下信服，他们哪一个是凭借人多，仗势欺人的呢？堂堂楚国，方圆五千里，兵卒百万，条件足以称霸了吧，没想到偏偏被秦国压制，败仗连连，就连国君也成了秦国人的俘虏，大王难道不觉得羞耻吗？六国联合抗秦，不只是为了赵国，更是为了楚国，您却游移不定，左摇右摆，这样不觉得窝囊吗？”一席话，说中了楚王的痛处。
楚王无言以对，连连点头。毛遂问：“那么，合纵一事同意吗？”楚王忙答：“同意，同意。”毛遂立刻命令楚王的侍从：“拿血来！”侍从将装血的铜盘端上。毛遂托起铜盘，双手呈给楚王，说：“那就歃血为盟，大王先，主人次，毛遂跟。”说完，又招呼朝外的十九个人说：“先生们在堂下跟饮吧！你们这些不顶用的人，只能依靠别人才能成事，不是吗？”
平原君回国后，感慨地说：“我自以为慧眼识珠，不会遗漏任何一个可用的人才，没想到毛先生跟随我三年，我都没能看到他的才干。毛先生在楚国朝堂，不只谈成了六国合纵的事，还为赵国赢得了尊严。您的三寸不烂之舌，胜过了百万雄师啊。从今以后我再也不敢自称是个伯乐了。”从此，毛遂成了平原君的上等门客。