陆光祖，字与绳，平湖人。祖父陆淞，父亲陆杲，都是进士。陆淞任光禄卿。陆杲任刑部主事。陆光祖十七岁时，与父亲同时在乡试中举。不久考中嘉靖二十六年(1547)的进士，授职为睿县知县。兵部尚书赵锦发布命令让京郊的百姓修筑边墙，陆光祖称不利。赵锦恼怒，弹劾他。陆光祖向巡抚陈述，请求发放雇工费，百姓才安定。郡王抢夺民产，陆光祖依法加以制裁。
他调任南京礼部主事，因急事请假回乡。回任后补祠祭主事，历任仪制朗中。严讷任尚书，向来器重陆光祖，他的提议没有不批准的。等到严讷改任吏部职，调陆光祖担任验封郎中，又改任考功郎中。王崇古、张瀚、方逢时、王一鹗为舆论困扰，陆光祖极力替他们洗刷。不久他改任文选郎中，更加尽职发掘人才，对那些素有威望的士大夫尽数选用。又破格提拔廉洁、能干的官吏王化、江东、邵元善、张泽、李珙、郭文通、蔡琮、陈永、谢侃。他们或者是由乡里举荐的贡士，或者是由书吏中提拔。因此下层官吏竞相勉励，严讷也全力任用他，所以陆光祖能够实现意愿。左侍郎朱衡怀恨陆光祖，在背后议论，御史孙丕扬就以专权之罪弹劾陆光祖。当时他已调任太常少卿，被撤职闲居。
大学士高拱掌管吏部，谋划倾覆徐阶。徐阶的宾客都躲避了，唯独陆光祖替他申辩。等到高拱罢职，杨博代替他负责吏部，认为他仗义，特意启用陆光祖为南京太仆少卿。还没上任，就升任本寺卿。不久又升任大理寺卿。半路上闻报父亲去世，回家奔丧。万历五年(1577)出任原职。张居正因为居丧未满夺情出任官职，杖责议论的人，陆光祖送信规劝他。等到王用汲弹劾张居正，张居正即将重惩他时，当时任大理寺卿的陆光祖极力解救使他幸免。张居正与陆光祖同年考取进士，相互友好，想引荐他做助手，陆光祖不屈身相随。等到他调任工部右侍郎，因为议论漕运改为折色银两而违逆了张居正，御史张一鲲疏论他，陆光祖就称病回乡了。
万历十一年(1583)冬天，他被举荐担任南京兵部右侍郎。才过十来天，就召任他为吏部职。他把张居正所摒弃的老成人全部召回安排在九卿各部中，安置了很多人。李植、江东之极力请求治张居正的罪，陆光祖称张居正辅佐的功绩不可抹杀，与舆论相反。李植等人因为丁此吕以前攻击尚书杨巍，陆光祖支持杨巍诋毁议论的人，议论的人于是群起攻击陆光祖，他由左侍郎出任南京工部尚书。御史周之翰弹劾陆光祖依附同族的人陆炳得到清高显贵的官职，神宗不理会。御史杨有仁就弹劾陆光祖收受贿赂，请求将他交给官吏治罪，杨巍极力保护他，事情得以平息，陆光祖最后称病离职。
万历十五年(1587)，他出任南京刑部尚书，改派到吏部。率领同僚弹劾东厂太监张鲸，并且请求宽恕李沂。此后，称皇储未定，是因为张鲸搞阴谋，请求清除他以便安定宗庙社稷。等到神宗召回张鲸，他又率领同僚极力劝谏。他入朝担任刑部尚书。神宗曾将他的名字书写于御屏上，吏部尚书宋纟熏去世，于是起用陆光祖代替，让赵锦代替陆光祖的原职。御史王之栋称他们两人不应当任用，神宗恼怒，将王之栋降职为杂仆。当时部中的权力被内阁夺取了，宋纟熏极力矫正，遭受挫折，陆光祖不为惊惧。曾经因事与大学士申时行相抵触。申时行不高兴，陆光祖最终没有顺从。申时行辞职，神宗特意授旨起用赵志皋、张位，都是申时行暗中推荐的。陆光祖称，辅佐大臣应当由朝廷推荐，不应当由宫内降旨。皇上这次的命令应下不为例。
万历二十年(1592)全面考察地方官吏，给事中李春开、王遵训、何伟、丁应泰，御史刘汝康都先在京城之外任过职，名声不好，全部被罢黜。又举荐许孚远、顾宪成等二十二人，当时的舆论一致称赞。不久，因为推举饶申、万国钦与圣旨抵触，文选郎王教以下的人全被驱逐。陆光祖称事情的起因在自己，告罪请求退休，为郎官请求宽恕，神宗没有批准。等到推举内阁大臣，朝廷大臣遵循旧例，首先报上陆光祖的姓名。神宗下诏答复：“你先前请求朝廷推举，推举的原来首先就是你。”陆光祖知道皇上不容忍自己，每天都怀藏离去的打算。不久，因为王时槐、蔡悉、王樵、沈节甫等德高望重，特别推荐给皇上，给事中乔胤就弹劾陆光祖和文选郎邹观光。陆光祖就极力请求离去，神宗允许他乘坐驿车，回乡五年后去世。被赠封为太子太保，谥号庄简。
陆光祖为人耿介有骨气，见识高明，通晓朝廷典制，每当议论大政方针，他一言确定要害。