战国中后期，赵国的实力越来越衰落，在与齐、秦、魏等国的战事中屡次战败，损兵折将，不得不忍辱割地，就连周边的小国都不断向赵国发兵，进行掠夺，但赵国却无力还击。公元前326年，赵武灵王即位，即位之初，他的父亲赵肃侯刚刚去世，魏、楚、秦、燕、齐以吊唁为名，组织了万人的联军想趁机占领赵国。15岁的赵武灵王在大臣肥义的帮助下，从容应对，终使五国退兵，使赵国免于灭国。年轻的赵武灵王胸怀大志，痛定思痛，决定奋发图强，改变被动挨打的状况。
赵国地处北方，东接东胡，北邻匈奴，西边和林胡、楼烦相接。这些部落都是以游牧为生，非常擅长骑马射箭，经常以骑兵进犯赵国边境。在频繁地与这些游牧民族接触的过程中，赵武灵王深刻意识到骑兵的优越性。他对部下说：“这些游牧民族的骑兵来去如飞，反应快速灵敏，这样的军队驰骋疆场，怎会不打胜仗？”
经过长期观察总结，赵武灵王发现，胡人的士卒穿窄袖短袄和长裤，不管是在平时的生活起居中，还是作战时骑在战马上，都比较灵活方便，而赵国军队的军服类似于平民的短打，显得不太适合作战，因此在与胡人骑兵的交战中往往处于劣势。而且赵军以步兵和车兵为主，而胡人作战时用骑兵、弓箭，与兵车、长矛相比，战马、弓箭具有更大的灵活机动性。
赵武灵王认识到：赵国在战事中败绩连连，并不是赵国军队的士兵衰弱，而是因为军队军装不适于骑兵，同时车战的作战形式落后。中原传统的步兵和战车配合作战的方式不适合现在的作战需要，因为战车笨重，只有在较为平坦的地方作战时才能发挥效力，而遇到复杂的地形，运用起来就会非常不便，并且赵国以步兵为主，怎能是迅猛如飞，灵活机动的骑兵的对手？为了增强赵国军事力量，赵武灵王决定学习这些游牧民族的长处，组建骑兵，同时改中原地区宽袖长袍的服装为短衣紧袖的胡服，以适应骑战的需要。
赵武灵王坚信以骑射改装军队必然能增强赵军军队的战斗力，彻底改变赵国总是被动挨打的局面，但他也知道中原国家向来鄙视夷族，因此这番改革一定会遇到非常强大的阻力。于是为了提高国民对在全国实行胡服骑射政策的信心，他在颁布改革法令前，为胡服骑射的好处做了现实而有说服力的宣传。赵武灵王事先对少数人进行了骑射的训练，组成了一只人数不多但很精锐的骑兵，然后就带领着有限的骑兵向北进攻中山国，取得了一系列的胜利，使赵国国民的信心受到极大鼓舞。接着，他率领骑兵渡过黄河，在黄河西侧进入林胡人长期活动的地带。这个过程中，赵武灵王多次与游牧民族骑兵作战，从未战败。
这一系列的胜利有力地证实了骑兵的优越性，赵武灵王改革的信心也更加坚定。他先找大臣肥义和将军楼缓商议，说：“我国处于强敌包围之中，如今我想改革军装，穿胡服，胡服便于骑射。”肥义、楼缓等人有戎狄背景，都十分赞同，而且他们分析了赵国的国情、地形、人文等现实情况，认为施行胡服骑射对结束国家分裂，增强军事力量和竞争力都有好处。
赵武灵王的叔叔公子成及赵文、赵造、赵俊等，认为胡服的改革会损害自己的利益，以新法违背古法，不得人心为由，反对变法。赵武灵王反驳了他们的观点，说：“圣人做事是以实际情况为基础，因地制宜，采取相应的对策，只要是有利于国家昌盛的，何必拘泥于古人的旧法？”
赵武灵王立志将西北少数民族纳入赵国版图，决定采用以胡制胡的策略，冲破守旧势力的阻拦，力排众议，毅然颁布了“胡服骑射”法令。法令的中心内容是穿胡人的服装，即窄袖短衣，脚登皮靴，腰系皮带，束金钩，戴有貂尾蝉蚊装饰的武冠。
赵武灵王带头穿起胡服，将赵国军队的军装全改成胡服，装备齐全后，就开始训练将士，骑马射箭，并在围猎活动中进行实战演习。
赵国的贵族没想到赵武灵王改革的决心如此坚决，便散布谣言说：“平时，赵武灵王就看不惯我们，这次是借机给我们难堪。”赵武灵王听后非常生气，把满朝大臣召集起来，当众弯弓搭箭，射穿了门楼上的枕木，声色俱厉地说：“再有胆敢散布谣言阻挠变法者，枕木就是他的下场！”贵族们知道事情已经无法阻止，都不敢再说反对的话了。
赵武灵王改穿胡服的变法很彻底，他下令除了军队的将士，全国上下，不论大臣百姓都要改穿胡服。赵武灵王带头穿着胡服去会见群臣，并派专人去见他的叔父公子成，请他改穿胡服。使臣回报说，公子成不愿意穿胡服。武灵王便亲自去见公子成，耐心地劝解，公子成被说服，也穿着胡服上朝。赵国的宗室贵族见公子成都接受了胡服，就都跟着同意了。就这样，胡服就在赵国上下推行开来。
实行胡服后，赵国建立起一支以骑兵为主体的军队，胡服的便利在战斗中立刻显现出了威力。赵国打败了宿敌中山国，夺取了林胡、楼烦之地，国土向北方拓展了上千里，军事力量日益强大，在云中、雁门、代郡设置行政区，管辖范围达到今河套地区。