王玺是太原左卫指挥同知。成化初年，他被提升为代理都指挥佥事，守备黄河七座别墅。巡抚李侃向朝廷推荐他。阿鲁出侵犯延绥，王玺奉命充任游击将军赴援，与敌寇战于孤山堡，击败之。敌寇再次入侵，王玺战于漫天岭、刘宗坞及漫塔、水磨川，都有功劳。他因而进升为都指挥同知，充任副总兵，镇守宁夏。九年(1473)，王玺作为将才与周玉一同被荐举。十二年，他被提升为代理都督佥事，充任总兵官，镇守甘肃。
黄河以西，自庄浪至肃州南山，是外番人阿吉等二十九族人所居之处。洪武年间，立石划界，相约砍樵放牧不能越过疆界。界石因岁久被埋没废弃，诸番往往擅自进入，而中原的无赖又暗中与之来往，成为边患。王玺请求道：“重新划定疆界，然后召集诸番，告诉他们因为界石已废，惟恐官军欺凌诸部，现在重新立石，任凭他们在界外驻留放牧，互市时则可入关。如此，番族必然听命，便可悄悄消除他日之忧患。”皇上觉得有理，便听从了他。
十七年(1481)，王玺进升为理都督同知。当时王玺以都督佥事的身份任总兵官，而鲁鉴以代理都督同知的身份为参将，王玺惟恐难于节制，请求解除兵权，因此才有以上的任命。
当初，哈密为吐鲁番所骚扰，便命其将牙兰驻守。都督罕慎寄居苦峪口，挨近赤斤、罕东，双方多次互相攻击，罕慎势穷无援。朝廷商议后命王玺在苦峪口筑城，另立哈密卫驻守。王玺派间谍去离间牙兰。牙兰不听，间谍于是夺得被其所掠的九十余人而归，将所探虚实全部上报。十七年(1481)，王玺召集赤斤、罕东将士，以牛肉、酒食犒劳，命他们协助罕慎。罕慎会合二卫兵，夜袭哈密及剌木等八城，于是收复其地，仍命罕慎驻守。捷报上奏，朝廷给予褒奖慰劳，并赏赐金币。不久，罕慎自东入侵，王玺击退之，并请求兴师征讨。皇上念其时常协助罕慎，只派遣使臣予以责备。第二年，北寇杀死哨兵，王玺率领参将李俊及赤斤兵在狼心山、黑河之西打击他们，多有斩获。
二十年(1484)，王玺移镇大同。他有收复哈密之功，却没升官，于是向朝廷诉说，才被授为都督同知。
王玺熟悉韬略，深谙文辞，勇而有谋。廷臣大多赞许他。王玺在边疆二十多年，番人十分害怕他。弘治元年(1488)，王玺去世。皇上赐其祭葬，赠恤有加。