吴澄字幼清，抚州崇仁人。自幼聪敏，三岁能诵读古诗，五岁每日受课千余言，读书通宵达旦。母亲怕他勤奋过度，不让他多读。澄候母亲就寝后，又燃灯读书。九岁与其他子弟参加乡校考试，吴澄总是名列前茅。长大成人之后，学习经、传，致力于圣贤之学。曾参加进士考试，未中。
至元十三年(1276)，人民刚归附于蒙古，各处盗贼兴起，社会尚不安宁。乐安郑松邀他避居于布水谷。吴澄在那里著《孝经章句》，并校定《易》、《书》、《诗》、《春秋》、《仪礼》及《大戴记》、《小戴记》。侍御史程钜夫奉诏至江南求贤，吴澄被荐选至京师，但不久因母病辞归。钜夫奏请将吴澄所著各书置于国子监，以供诸生学习。元贞初年(1295)，吴澄游学于龙兴时，按察司经历郝文迎他于郡学，每日听他讲经论史，记录其问答凡数千言。行省官员元明善，常以文学自负，但听了吴澄讲解《易》、《诗》、《书》、《春秋》诸经典的含义之后，不禁赞叹道：“同吴先生谈论学问，如同探索大海一般，深不可测。”遂终身拜吴澄为师。左丞董士选把吴澄请到家中，亲自敬茶奉饭，极力向朝廷推荐，说他道德文章都优于常人。朝廷擢引他为应奉翰林文字，当地官府多次敦请，方去赴任，但不久辞职南归。以后又任命他为江西儒学副提举，到职仅三个月，又因病离去。
至大元年(1308)，朝廷召他为国子监丞。在此之前，许文正公衡为国子监祭酒，以《朱子小学》等书教授国子生。吴澄到任后，每日清晨向学生授课。在下午休息期间，来向他请求解答《经》书中疑难者，接踵而至。澄根据学生的才能，反复讲解，循循善诱，直到深夜。无论寒暑都是如此。
皇庆元年(1312)，升吴澄为司业，以程纯公(程颢)《学校奏疏》、胡文定公(胡安国)《六学教法》、朱文公(朱熹)《学校贡举私议》为教材。教学分为四科：一曰经学，二曰行实，三曰文艺，四曰治事。但这套教学计划未能实施。他常对学生说“：朱子(熹)主要是在探求天理中得到学问，而陆子(象山)则以静心修养德性为主。如果求学不以德性修养为本，则必然偏重于语言文字，舍本逐末。若以德性修养为本，那就可望获得许多知识。”所以有人认为吴澄属于陆象山学派，违背许衡尊信朱子之本意。然而，这些议论者也并不知陆、朱之学是什么。吴澄辞司业之职而去，从学诸生中，有人不告假也随先生南行。不久，朝廷又召澄为集贤直学士，特授奉议大夫，催促迅速回京。但行至真州，因病不能继续前往。
英宗即位，越级提升吴澄为翰林学士，进阶太中大夫。至治三年(1323)英宗驾崩，泰定帝即位，设经筵，首命吴澄与平章政事张王圭、国子祭酒邓文原为讲官。朝廷修纂《英宗实录》，命吴澄主持其事。数月后《实录》修成，尚未进呈，澄称病请求还归故里。中书左丞许师敬，奉旨赐宴于国史院，向吴澄表示朝廷挽留之意，吴澄坚持不肯，宴罢立即出城乘舟南下。中书闻讯，派官员追赶，终未追上，回朝奏告皇帝说：“吴澄是我朝名儒，德高望重的老臣。今告老还乡，朝廷亦不忍使他过于操劳，应该嘉奖才是。”于是，诏令加吴澄为资善大夫，赐金织文绮二件及钞五千贯。
吴澄诲人不倦，对于别人提出的疑难，总是不厌其烦地进行解答，直到明白为止。他对于中国古代文化的继承与发展，有自己系统的见解，认为从伏羲、黄帝、尧、舜、禹、汤、文、武、周公、孔、颜、曾、孟、周敦颐、二程、张载直到朱熹，是一脉相承，以后还要继承发展。他自青年时代就以继承传统文化为己任。无论入朝为官还是隐退归家，凡所经过的郡县，其士大夫们都争着请他去教育子弟。四方之士不远千里，跋山涉水，来向他求学者，常不下千百人。平时稍有闲暇，即著书立说，直到生命最后一刻方才搁笔。对于《易》、《春秋》、《礼记》都有自己的解释，破除以前注释中穿凿附会的陋习，阐发书中深奥的道理，条理分明，文笔简洁，见识高超，成为一家之言。著有《学基》、《学统》二篇，使学者明了做学问之要本所在，懂得求学的途径，循序渐进。他的学术思想，尤得益于邵雍的学说。他还校订了《皇极经世书》、《老子》、《庄子》、《太玄经》、《乐律》以及《八阵图》和郭璞的《葬书》。
吴澄故居有草房数间，程钜夫为之题名为“草庐”，因此学者称吴澄为“草庐先生”。天历三年(1330)，朝廷因吴澄年事已高，特任命其次子吴京为抚州教授，以便就近奉养。天历四年，吴澄病逝，享年八十五岁。朝廷赠为江西行省左丞、上护军，追封临川郡公，谥“文正”。