王导字茂弘，是光禄大夫王览的孙子。父亲王裁，任镇军司马。王导年少时就风姿飘逸，见识器量清越弘远。十四岁时，陈留高士张公见到他后非常惊奇，对他的从兄王敦说：“这个孩子的容貌气度，是当将军宰相的材料。”开始承袭祖上的爵位为即丘子。司空刘萛引荐他为东阁祭酒，又迁秘书郎、太子舍人、尚书郎，但他都未接受。后来在东海王司马越处任参军。
当时元帝还是琅王牙王，与王导关系很亲密。王导知道天下已经开始了动乱，于是全心全意辅佐琅王牙王，暗中立下了兴复朝纲的志愿。元帝也非常信任器重他，两人就像是好朋友一样。元帝还在洛陽时，王导总是劝说他要尽快回到自己的藩国。当元帝出镇下邳的时候，请王导担任安东司马，军事谋划，都听从王导的安排。到元帝转为镇守建康的时候，吴地之人不愿归附，到建康已一个多月了，士族百姓还没有人来登门拜谒，王导为此事很焦急。正好遇上王敦来朝，王导对他说：“琅王牙王仁义德行虽厚，但名望还不够大，你现在威望名声已经很高了，应该帮一帮琅王牙王才对。”正值三月上巳，元帝亲自出外郊游观看人们的修禊活动，乘着肩舆，摆着全副仪仗，而王敦、王导等人和一些知名人士都骑马跟随。吴人纪瞻、顾荣，都是江南的名人，悄悄地前来观看，见王敦、王导等人竟如此恭敬，都大吃一惊，于是相继在路边施礼拜迎。王导因而再向琅王牙王献策说：“古代的帝王，无不礼敬故老，访问当地风俗民情，谦虚克己，以招贤才。何况现在天下丧乱，神州大地四分五裂，建国大业才刚刚开始，正是需要人才的时候啊。顾荣、贺循，是当地有声望的名人，不如好好结纳他们以收揽人心。这两人到了，其他的人没有不来的。”元帝于是就派王导亲自去造访贺循、顾荣，两人都应召而至。由此吴地之人望风顺附，百姓归心。从此之后，他们相互依靠，君臣的名分就确立了下来。
不久京师洛陽沦陷，中原人士到江南避难的有十之六七，王导劝元帝乘机收揽贤人君子，扩大力量以图大事。其时荆、扬二州比较安定，人口众多，物产丰饶，王导的治理方针讲求清静，常劝元帝克己垂范励精图治，辅佐君主安宁邦国。于是越发受元帝的器重，两人之间的感情日益深厚，朝野之中都为之倾心，称王导为“仲父”。元帝曾经真诚地对王导说：“你就是我的萧何呀。”王导回答说：“过去秦朝无道，天下百姓厌弃乱世，而极为狡黠的人又欺凌践踏人民，人们感怀汉王刘邦的恩德，群起响应反秦，所以大功容易告成。自从曹魏立朝以来，直到晋太康时期，公卿士大夫及门阀世族，奢侈挥霍相互攀比，先贤政教逐步衰退，先朝治世法度，无人遵循，大小辟吏，沉溺于享乐之中，才使得奸佞之人有机可乘，导致朝政大道亏伤。然而混乱后将会出现安定，这是天地间的规律。大王将要建立盖世之功勋，重新一统山河，管仲、乐毅这样的人才，这时就会出现，不是我们这样普普通通的臣子所能比拟的。希望大王能深谋远虑，广择贤能。顾荣、贺循、纪瞻、周王己，都是南方的名士，希望能对他们礼敬优待，则天下可安。”元帝采纳了王导的建议。
永嘉末(312)，迁丹陽太守，加封为辅国将军。王导上奏笺说：“昔日魏武帝曹孟德，是通达政理的君主。荀文若，是功臣中最杰出的人，封爵也不过亭侯。曹冲，是他最宠爱的儿子，也不过授别部司马之职。以这样的做法处理所有的事情，人们能不谨慎吗！可今天执政者，不分贵贱贤愚，都封以重爵尊号，都拥有旗鼓伞扒等仪仗，动不动就相互攀比摆架子，有些没有得到的，便觉得很羞耻。天子与官吏之间的界限混杂不清，朝廷的威望日见降低。王导我肩负重任，不能为朝廷清理河山，却开启导致混乱的先端，不切实际地贪窃名号，弄乱了朝廷礼法典章，请以后慎重而不要轻易赐予臣下鼓盖等礼崇之物，就从我王导开始吧，让尊卑雅俗有所区别，群下的信仰尊崇就不会出偏差。”元帝下令说：“王导德重功高，为孤所倚，本想予以表彰加以殊礼，但他谦虚谨慎严格约束自己，努力王事尽一片忠心，以身作则，因此顺从他的良好的愿望，促进他的纠正弊端的良苦用心和举动。”于是拜宁远将军，接着又加振威将军。愍帝即位，征为吏部郎，王导没有接受。
元帝即位后，以王导为丞相军谘祭酒。桓彝刚到江南，见朝廷力量微弱，对周岂页说：“我因为中原动乱不安，来到这里想保全自己，可朝廷衰弱成这个样子，能成什么大事！”心中一直忧郁不快。他去拜见王导，畅谈天下大事，回家后，对周岂页说：“刚才我见到了管夷吾，不再忧愁了。”过江南来的诸人，每到闲暇之日，相邀到新亭宴饮。周岂页在席上感叹：“风景倒还差不多，可举目有江河之异。”大家都相视而泣。惟王导神色肃然地说：“大家应振奋起来效力于王室，收复神州土地，怎么能像可怜的楚囚一样光会流泪哭泣呢！”大家这才收泪拜谢他的教诲。不久拜右将军、扬州刺史、监管江南诸军事，又迁骠骑将军，加散骑常侍、都督中外诸军、领中书监、录尚书事，假节、刺史如故。王导因为看到王敦统率六州，坚决辞掉都督中外诸军的职务。后又因其他事情的牵连除去了符节。
当时战争不断，各地学校废弃而未能得到兴建，王导上书说：
“教化万民的根本在于正人伦，正人伦的关键措施在于兴办学校。学校兴办起来了，人们才得以明晓五教之礼，道德礼法弘扬通达，伦理明而有序，人人知羞知耻守规守矩，父子之间、兄弟之间、夫妻之间、长幼之间关系顺畅严谨，那么君臣之间的大义就稳固了。《易》中所言‘治好家也就能平定天下’就是这个道理。所以圣明的君王要从小培养正德，要接受正统的教育，使优秀的品德像雨露滋润禾苗一样在心中潜移默化，慢慢养成习惯形成性格，不自觉地纳入善行，远离丑恶，等有了完善的德行后，再登位掌管天下。虽然是王侯之子也应和国人之子一样，先掌握了大道然后才算得上高贵。朝廷任人选士，都要看他们是否有道德学问的根底。古时的《周礼》说，卿大夫献给国王的贤能之书，国王拜谢而受之，这就是尊崇大道而器重贤士的事例。人们都知道贤士之高贵是由于他们掌握了道，就会退而修养自身的德行并治其家，家事已正再到乡里，在乡中学业已成再进入朝廷。返本复始，每人都从自己做起，纯朴敦厚的风气越来越普遍，浮华虚伪的恶习渐渐消失，这都是教育的结果。人们如果这样，对上侍君就会竭力忠诚，对下管民就会宽厚仁慈。孟轲说：‘没有仁者会遗弃自己的亲人，义者会不尽忠于自己君王的。’就是这个道理。
“自从我朝纲常失于统理，颂德之专消歇，到如今已有二十多年了。古书上这样说：‘三年不为礼，礼必然会被破坏，三年不为乐，乐必然会残缺不齐。’何况今天礼坏乐崩已有这么久了。年长的人已忘掉了揖让的礼节与气度，年轻的只听到过征战杀伐之声。天天都可以看到干戈横舞的战争，以礼兴教、尊祖祭神的俎豆之设却见不到了。先王的大道离我们越来越远，而浮华虚伪的风气却日益盛行。这种局面，可不是人们所说的使国家正本清源的好现象啊。殿下以才高一世之资。偏有多灾多难的陽九之运，礼乐征伐兼而用之，才有希望实现中兴大业。现确实应该以古人之法来治理天下，兴学校提倡学业，以教导培养后进，让他们逐步受到礼义的熏陶浸润，使文王武王的圣明之道由衰微而重新振兴，使被人遗忘的俎豆之礼得到恢复和张扬。当今敌虏势力正强，国家蒙受的耻辱未能洗雪，忠臣义士们因此扼腕抚胸，郁愤难消。若是礼仪制度牢固地确立了，淳朴的风尚渐渐形成，就会使众人深受礼教的感化、广被圣朝的恩德。使缺失的帝王典则得以补全，使废弛的皇朝纲纪得以恢复，让兽心者洗心革面，让贪婪凶恶之徒收敛自己的性情。凭揖让之举使四夷臣服，以缓带从容之姿使天下归心。得到先王之道，这些还有什么难的。古代的有虞舞干戚使三苗归顺，鲁僖公作泮宫使淮夷宾服。齐桓、晋文的霸业，都是先教化而武力才得以成功。现今若是依照古代圣王的法则崇尚礼义教化之道，择取朝中子弟入学，选拔博通礼学之士为师，成教化，定风俗，没有比这更重要的事了。”
元帝司马睿很高兴地采纳了王导的建议。
到元帝正式登基的时候，文武百官列队陪侍，元帝让王导上来和自己一起坐在御床上。王导坚决推辞，以致于元帝请了三四次，王导说：“如果太陽也和地下万物一样，那么老百姓该到哪里沐浴扁辉呢？”元帝这才罢了。晋封王导为骠骑大将军、仪同三司。又以征讨华轶的战功封武冈侯，晋位侍中、司空、假节、录尚书，领中书监。当时太山太守徐龛反叛，元帝访求可以镇守安抚河南的人，王导推举太子左卫率羊鉴。不久羊鉴战败，受到处罚。王导上疏说：“徐龛叛逆，好长时间没有受到诛罚，臣主张武力征讨，推荐并委派了羊鉴担此重任。羊鉴胆小懦弱丧师败绩，有司予以应有的处罚，圣上降天地之大恩，保全了他的性命。然而臣身负重任，总领全局掌握机要，使三军受挫，这是臣的责任，请求对我予以贬黜，以严肃朝廷之法纪。”元帝下诏不许。随后，代替贺循为太子太傅。当时中兴局面处于草创之际，朝中未设史官，王导执政时开始设置，从此典籍史录就较齐备了。其时孝怀太子司马诠在胡遇害，于是也奉其名讳，有司奏丧礼的规格，天子举三朝之哀，群臣一哭就可以了。王导认为皇太子是皇位的继承者，普天下都有悲哀之情，应该也哀伤三朝而非仅仅是一哭。这一建议被采纳了。等到刘隗在朝中得宠用事，王导和元帝的关系逐渐疏远，但他一任自然安其本分，淡泊自如。有识之士都称赞王导善于对待升沉兴废。
王敦反叛后，刘隗劝元帝尽诛王氏家族之人，人们议论纷纷，都为之担心。王导率族中兄弟子侄二十余人，每天天亮时到台阁处等待议罪领罚。元帝因王导素来忠诚正直，特地还给他朝服，并召见了他。王导叩首答谢说：“叛臣贼子，哪个朝代没有呢，但想不到会出在我们王氏家族中。”元帝赤着脚走下来拉着王导的手说：“茂弘，我正要托付公侯之命与你，你怎么说这样的话呢。”于是下诏说：“王导以大义而灭亲，可以把我任安东将军时的符节授予他。”到王敦得势的时候，任王导为尚书令。当初，西都沦陷，海内都盼望明主，群臣及四方郡国都劝元帝登基就大位。其时王氏家族正兴盛，有专天下之权的野心，王敦畏惧元帝贤能，准备违背人们的公议另立他人，王导坚持力争才没能实行。及这次夺权之争，王敦对王导说：“当初不听我的话，这次差点灭族。”但王导仍坚持当初的主张，王敦没有办法让他改变态度。
自从汉魏以来，朝廷赐谥号多是依据其人的封爵，有人虽然地位高德行声誉重，因没有爵位，按例不加封谥号。王导上疏说：“武职官员有爵必定加谥，而卿校常伯等官因无爵不得其谥，这种做法不符合赐谥制度的本意。”这一建议被采纳。自此以后，公卿等文职官员没有爵位的也可加封谥号，这都是王导提议的结果。
当初，元帝喜爱琅王牙王司马裒，有以他取代长子司马绍的想法，去征求王导的意见。王导说：“立太子都是立长子，而且司马绍也很贤明，不应当随意改变。”元帝还是犹豫不决。王导天天劝谏，太子的名分才得以确立。
到明帝司马绍即位时，王导奉元帝遗诏辅佐朝政，解除扬州刺史职务，迁官司徒之位，依照曹魏时陈群辅佐魏明帝的先例。后王敦领兵向京师逼进，当时王敦正患病，王导率族中子弟为王敦发丧，大家都以为王敦已死，于是胆气倍增斗志高昂。明帝讨伐王敦，使王导假节，都督诸军，领扬州刺史之衔。王敦被讨平，王导晋封为始兴郡公，食邑三千户，赐绢九千匹，进位太保，司徒之职依然如前，特许他带剑上殿，入朝不拜，礼赞时不呼其名。王导坚决推辞不受。明帝驾崩，王导又和庾亮等人一同受遗诏，共同辅佐幼主，就是成帝司马衍。为王导加羽葆鼓吹仪仗，班剑二十人。石勒之兵侵犯阜陵，下诏加封王导为大司马，假黄钺勒之仪仗，出兵讨伐。军队停留在江宁，成帝亲自在郊外为之饯行。不久敌人退走，王导解除大司马之职。
庾亮准备下诏召苏峻，和王导商议此事。王导说：“苏峻奸诈多疑，必定不肯奉诏前来。山川原野中，可以躲藏毒虫猛兽，苏峻在外，还不至于马上发难，应暂时包容不惊动他。”王导力争，庾亮不听，终于诏请苏峻，接着祸乱就发生了。朝廷六军战败，王导进入宫中侍卫成帝。苏峻因王导德高望重，不敢加害，仍让他官居原职处于自己位置之上。苏峻逼迫成帝驾幸石头城，王导竭力争执不起作用。苏峻天天在成帝面前放肆地胡言乱语，王导担心会有不测之祸。当时苏峻部下路永、匡术、贾宁都劝说苏峻，要他杀掉王导，尽诛朝中大臣，重新安置上自己的心腹。苏峻敬畏王导，不听他们的劝告，因此路永等人和苏峻产生了矛盾。王导派参军袁耽暗中开导、诱劝路永等人，谋划让成帝潜逃出来投奔陶侃、温峤的义军。由于苏峻防守看护甚严，事情未能成功。王导只好带着两个儿子随路永逃奔到白石。
苏峻之乱平息后，宫廷宗庙都被焚为灰烬。温峤建议迁都到豫章，东吴之地的豪杰们请求定都于会稽，这两种意见争来争去，不知哪样为好。王导说：“建康，古时的金陵，过去就是帝王之都，而孙仲谋、刘玄德都说这里是帝王之宅。古代帝王不必因简陋豪华而移都，如果能弘扬卫文公以大布之衣大帛之冠为君的风尚，则可无事不成。若不勤勉耽于安乐，即使找到一块乐土，也会变成废墟。况且北方敌寇像游魂一样，窥伺我们的空隙，我们一旦有胆怯的表现，跑到南越之地，再想得到威望和实力，恐怕是难以办到。现在应该特别镇静，这样民情便可自安了。”由此温峤的计划未能实施。
王导善于根据具体情况灵活办事，虽然每天开支用度没有宽余，可一年总还有些节余。当时朝廷财政枯竭库藏空虚，只有粗丝布几千端，出售到市上却无人购买，因而朝廷开支非常困难。王导很着急，就和朝中的一些名贤都用这种粗布做衣裳，于是人们纷纷仿效他们也穿这种衣服，这些布匹的价钱一下子就贵了起来。这才令主管者去卖，每端布卖到一两金。王导就是这样被人仰慕。
咸和六年(331)冬，举行冬祭，下诏将祭品送给王导，并说“不必下拜。”王导连连推辞不敢承受。当初，成帝年幼，每次见到王导，都要下拜。又曾在给王导的诏书上写着“惶恐地说”这样的话，中书省起草的诏书，则称“敬问”，这以后就成了定规。后来正月初一，王导入朝，成帝还亲自起来迎接。
当时天下大旱，王导上疏请求退职。诏书说：“圣明的君主管理天下，行动都要合乎天道，举止不能偏离了规则，这才能使人伦肃整，万物生长顺利。我肩负祖宗基业的重任，受着王公的推举辅佐，但不能继承仰接古圣王的遗风，使宇宙万物平安，造成天旱日久，万民忧愁怨胥，国家的不幸，责任在我一人。郡公贤明通慧，精于道博于理，才志弘大深远，功盖四海，辅助朝政已有三代，国家之典则没有废亡，都是由于郡公像仲山甫那样辅佐的结果。而现在贬低自己的功绩，引咎自责。现在把元首的过失，移给宰辅大臣来承担，这更会增加我的过错。国家治理的万千事机，不可一日不理，明公应该放下谦虚礼让的个人品节，而承担起治世经国的大任。门下省速遣侍中以传达我的诚意。”王导坚决地推让，朝廷数次下诏恳请，然后才继续执掌朝政。
王导平素俭朴寡欲，仓中没有积蓄的粮米，穿衣不同时穿两件帛衣。皇帝知道后，送给他布万匹，以供他私人开支。王导体弱患病，出席不了朝会，皇帝就亲自到他府中，置酒设乐，然后用舆车将他接到殿里，皇帝就这样敬重尊崇他。
石季龙的军队出来侵掠到了历陽，王导请求出征讨伐。朝廷加大司马职，授黄钺节杖，领中外诸军事，设置左右长史及司马，供给布万匹。敌人随即退走，解除大司马职，又转任中外大都督，进升太傅之位，又拜丞相，依照汉朝制度，罢去司徒之设，以职权归于丞相。晋封的符命上说：“朕过去常常遭到不幸，登上帝位，又正值多灾多难之际，祸乱一件接一件发生。公经文有九职之功，兴武有禁暴、戢兵、保大、定功、安民、和众、丰财之七德，外安定四海，内整顿八政，天地得以平安，人神和谐，其功业如同伊尹，其道德可比姬旦。追慕古时的唐尧虞舜，重用俊杰之人，隆重地任命群臣，诚然安治，众人都有功绩。朕也希望依凭公的深广的谋略，依靠公的杰出的智慧，以古代的这种设置衔位授予上公，使之永远辅佐晋朝。愿公接受委命行使职权，谨慎地遵循古人的道德遗训，以尽天职，这正是美政之所在呀，愿明公以此为鉴。”
这一年，其妻曹氏去世，朝廷追赠以金章紫绶。当初，曹氏性格嫉妒，王导非常畏惧她，于是暗中在别处置下馆舍，以安置其他的姬妾，曹氏知道后，要亲自去查看。王导深怕姬妾们会受到曹氏的凌辱，命人马上准备车驾赶去，还怕速度太慢，用手中拿的拂尘柄当鞭子赶牛奔跑。司徒蔡谟听说这事后，取笑王导说：“朝廷恐怕要为公加九锡了。”王导不予理会，只是谦恭地走开算了。蔡谟又说：“我没听说过别的什么东西，只知道有短辕的牛车，长柄的拂尘。”王导这才大怒，对人说：“我和各位贤能一起在洛陽游玩时，哪里听说过这个姓蔡的小子！”
当时庾亮因为名望高而所辖地盘狭窄，于是出镇外地。南蛮校尉陶称挑拨说：“庾亮一定会举兵向内。”劝王导暗中要提防。王导说：“我和庾元规休戚与共，这些无根无据的议论，不应当出自智者之口。如果就像你说的那样，庾元规真的领兵打进来，我就头戴角巾穿上便服回家，有什么可担忧的？”又给陶称写信，说因为庾亮是皇帝的大舅，应该尽心尽力侍奉。这样一来，挑拨的谣言就平息了。当时庾亮虽镇守于外，但还执掌着朝政大权，又据于上流之形胜，手握强兵，一些顺风转舵的人都投奔他。王导在朝中心内不平，常常在刮起西风的时候，用扇子挡起风尘，慢吞吞地说：“庾元规吹起的灰尘把人弄脏了。”
自汉魏以来，群臣不拜皇帝的陵墓，王导因和元帝亲密得如同布衣之交一样，不仅仅只是君臣关系，每一次提拔封赏，都到陵前拜祭，不胜悲哀。由此下诏百官拜帝王之陵，这是由王导开始的。
咸康五年(339)，王导去世，时年六十四岁。皇帝在朝堂上为之举哀三天，派遣大鸿胪持符节监护治丧之事。丧者的衣衾服饰、棺椁车马，一律按照汉博陆侯霍光和本朝安平献王司马孚的丧葬规格，安葬时，赐给九游鍂车京车、黄屋左纛、前后羽葆鼓吹、武贲班剑百人，中兴以来的名臣没有谁能够相比。朝廷追悼的册书说：“高位用来酬射大德之人，厚爵用来报答大功之人。至于盖棺定论，追述一生的行迹，给予应有的崇高谥号，使之英名流传百代，就是因为这些。惟公心胸开朗豁达，心居玄冥之处，览知万物，淡泊无欲约束自己，仁义体民广布恩惠。流连于尘务之外，英名传遍华夏，隐于世外等待机遇，暗中运筹谋划。过去我中宗元皇帝、肃祖明皇帝基业初定中兴之始，以诚信托重任于深居之中，于是谋划指挥以定江东，拱手无为静心而治，使众臣尽力政绩显著。其威望之所振动，能使邪恶的人改邪归正，盛千之感化，能使恶兽木寿杌改变其凶性。顺天地之理调和陰陽，依人伦之礼肃顺秩序。遥远的辽东陇西都承其风教，南方丹穴之地也都望影而归附。这样盖世的奇功，使人们复兴了宣皇帝、武皇帝的业绩，国家神器得以保全，全是公的智慧决策。还有公受诏负命，保着我这幼童登基，遭到一次次的艰难坎坷，都化险为夷，转危为安，把将要沦坠的局面扭转过来，把即将倾倒的大厦扶正并广施仁政。经纬三朝之政其德其影响深远。正要依靠你的才德，以安定四海，谁知苍天不同情我，突然间你就薨殂而去，我心内无比的悲痛。就是殷失去了宰相伊尹，周失去了周公召公，也不会比我更难受了。今特遣使持节、谒者仆射任瞻锡谥号为文献，祠以太牢。你的魂魄有灵，请来接受这种殊荣吧。”
王导的两个弟弟：王颖、王敞，年少时和王导一样知名，当时人们以王颖比温峤，以王敞比邓攸，两人都早卒。王导有子六人：王悦、王恬、王洽、王协、王劭、王荟。