王琨，琅笽临沂人。祖父王荟，晋朝任卫将军。父亲王怿，不聪慧，与侍婢生王琨，名为昆仑。王怿后来娶南陽乐玄的女儿，无子，改王琨名字，立为子嗣。
王琨少时拘谨笃重，为堂伯父司徒王谧所喜爱。宋朝永初年间(420～422)，武帝因其娶了桓修女儿，授他郎中、驸马都尉、奉朝请。元嘉初年，堂兄侍中王华权重受宠，因门户衰弱，待王琨如亲兄弟，多次荐举他。后任尚书仪曹郎，州治中。累官至左军谘议，领录事，出京任宣城太守，司徒从事中郎，义兴太守。历任都很廉洁。还都任北中郎长史，黄门郎，宁朔将军，东陽太守。孝建初年，迁任廷尉卿，竟陵王骠骑长史，加授临淮太守，又转为吏部郎。吏部选辟，朝中权贵往往要来开后门，王琨规定从公卿到士大夫，以例任用两门生。江夏王刘义恭曾要王琨照顾两个人，后又派来给王琨做下属，王琨回答说不行。
出都任持节、都督广、交二州军事、建威将军、平越将军、平越中郎将、广州刺史。南方富实肥沃，在任者往往能聚敛巨富，世人称“广州刺史但凡从城门一过，便可得三千万”。王琨不仅分文不取，还上表献上俸禄的一半。州镇原有鼓吹一部，他也上启送还朝廷。及卸任，孝武帝知道他清廉，问他还有多少资？王琨说：“臣买房用了一百三十万，别的东西就是应得的了。”皇帝很满意他的回答。后任廷尉，加任给事中，又转任宁朔将军长史、历陽内史。
皇上因王琨忠厚老实，调他任宠子新安王东中郎长史，加任辅国将军，调任右卫将军，度支尚书。出任永嘉王左军、始安王征虏二府长史，加任辅国将军、广陵太守，都是孝武帝的几个儿子。泰始元年(465)，迁任度支尚书，不久加光禄大夫。
当初，堂兄王华的孙子王长承南齐书袭王华的爵位为新建侯，嗜酒过度多有失言。王琨上表说：“臣下的门侄作风不好，从孙王长是已故左卫将军的后裔，少时资质猥劣，指望长大有所长进。现在更是昏酣，毫不检点。故卫将军王华忠肃奉国，善行泽及后世；而王长承袭封爵，将败坏原来的基业。下面还有个小孙儿王佟品性端正谦退，很有祖风，如能被扶立为继嗣，则死者和生者都将感荷皇上给予的殊荣，并可保下私禄。”
又出任冠军将军、吴郡太守，迁任中领军。在郡任时因用朝舍钱三十六万供给二宫诸王及作绛袄奉献军用，被降职为光禄大夫，不久加太常及金紫，加散骑常侍。廷尉虞和认为社稷应合为一神，王琨据典辩驳。当时虞和很得皇上亲宠，朝廷很多人钦佩王琨强正。
明帝临崩时，王琨出京任督会稽、东陽、新安、临海、永嘉五郡军事、左军将军、会稽太守，常侍如故。因失误竟被关押起来，降号冠军。元徽年间(473～476)，迁任金紫光禄、弘训宫太仆，常侍如故。任本州中正，加特进。顺帝即位，进号右光禄大夫，常侍等如故。顺帝逊位时，王琨陪同他交还帝位并辞别祖庙，都痛哭流涕。太祖即位，王琨领武陵王师，加侍中，配给亲从二十人。
其时王俭为宰相，示意王琨用东海郡安排部下，王琨对传话的人说：“告诉他，中央的三台五省，都是他定人用人；外方小郡，应当让给寒贱人士，省辟还能再剥夺去吗！”于是不答应这事。
王琨性情古板谨慎，但过于俭啬，家人杂事，都要亲自操持。公事朝会，都是半夜就早早起来，检查衣裳，料理冠帻，如此再三再四，世人因此笑他。不久解去王师之职。
建元四年(482)，太祖驾崩，王琨闻这个噩耗时，牛车不在家，离朝有几里地，就步行入宫了。朝士都说王琨：“你实在应坐车，这样有损国家威严。”王琨说：“今日奔赴国丧，都应如此才是。”不久得病，亡故，追赠左光禄大夫，别的官爵名位如故。时年八十四岁。