王玺是太原左衛指揮同知。成化初年，他被提升為代理都指揮佥事，守備黃河七座别墅。巡撫李侃向朝廷推薦他。阿魯出侵犯延綏，王玺奉命充任遊擊将軍赴援，與敵寇戰于孤山堡，擊敗之。敵寇再次入侵，王玺戰于漫天嶺、劉宗塢及漫塔、水磨川，都有功勞。他因而進升為都指揮同知，充任副總兵，鎮守甯夏。九年(1473)，王玺作為将才與周玉一同被薦舉。十二年，他被提升為代理都督佥事，充任總兵官，鎮守甘肅。
黃河以西，自莊浪至肅州南山，是外番人阿吉等二十九族人所居之處。洪武年間，立石劃界，相約砍樵放牧不能越過疆界。界石因歲久被埋沒廢棄，諸番往往擅自進入，而中原的無賴又暗中與之來往，成為邊患。王玺請求道：“重新劃定疆界，然後召集諸番，告訴他們因為界石已廢，惟恐官軍欺淩諸部，現在重新立石，任憑他們在界外駐留放牧，互市時則可入關。如此，番族必然聽命，便可悄悄消除他日之憂患。”皇上覺得有理，便聽從了他。
十七年(1481)，王玺進升為理都督同知。當時王玺以都督佥事的身份任總兵官，而魯鑒以代理都督同知的身份為參将，王玺惟恐難于節制，請求解除兵權，因此才有以上的任命。
當初，哈密為吐魯番所騷擾，便命其将牙蘭駐守。都督罕慎寄居苦峪口，挨近赤斤、罕東，雙方多次互相攻擊，罕慎勢窮無援。朝廷商議後命王玺在苦峪口築城，另立哈密衛駐守。王玺派間諜去離間牙蘭。牙蘭不聽，間諜于是奪得被其所掠的九十餘人而歸，将所探虛實全部上報。十七年(1481)，王玺召集赤斤、罕東将士，以牛肉、酒食犒勞，命他們協助罕慎。罕慎會合二衛兵，夜襲哈密及剌木等八城，于是收複其地，仍命罕慎駐守。捷報上奏，朝廷給予褒獎慰勞，并賞賜金币。不久，罕慎自東入侵，王玺擊退之，并請求興師征讨。皇上念其時常協助罕慎，隻派遣使臣予以責備。第二年，北寇殺死哨兵，王玺率領參将李俊及赤斤兵在狼心山、黑河之西打擊他們，多有斬獲。
二十年(1484)，王玺移鎮大同。他有收複哈密之功，卻沒升官，于是向朝廷訴說，才被授為都督同知。
王玺熟悉韬略，深谙文辭，勇而有謀。廷臣大多贊許他。王玺在邊疆二十多年，番人十分害怕他。弘治元年(1488)，王玺去世。皇上賜其祭葬，贈恤有加。