，入都应京兆试。上书言：“致治之本，在兴俭举廉，不言理财而财自裕。若专务掊克，罔恤民艰，其国必敝。”后六年成进士，授编修。穆宗大婚典礼隆缛，疏请裁减繁费，直声震朝右。出为陕甘学政，奏以仓颉列祀典，允之。又荐诸生贺瑞麟、杨树椿笃志正学，给瑞麟国子监学正衔，树椿翰林院待诏衔，士风为之一变。时诏修颐和园，大澂复言时事艰难，请停止工作。疏入，留中。

光绪三年，山、陕大饥，奉命襄办赈务。躬履灾区查勘，全活甚众。左宗棠、曾国荃、李鸿章等交章论荐。四年，授河北道。时比岁荐饥，贫民减价鬻田，十不得一。巡抚涂宗瀛饬荒岁贱价之田准取赎，然往往为势家所持，以故失业者众。惟大澂能判决如巡抚恉。

六年，诏给三品卿衔，随吉林将军铭安办理西北边防。大澂周历要隘，始知珲春黑顶子地久为俄人侵占。因请颁旧界图，将定期与俄官抗议，未得旨。时有韩效忠者，登州人，佣于复州侯氏。负博进，遁往吉林夹皮沟。地产金，在宁古塔、三姓东，万山环绕，广袤七八百里。流冗啸聚其中，亡虑四五万，咸受效忠约束。效忠严而不扰，众服其公允，屡抗大军不出。大澂单骑抵其巢，留宿三日，劝效忠出，效忠犹豫，意难之。大澂曰：“我不疑若，若乃疑我耶？”对曰：“非敢疑公。某负罪久，万一主兵者执前事为罪。某死不恨，辜公意奈何？”大澂挺以自任，遂与效忠出，奏给五品顶戴，子七品，孙登举有平寇功，授参将。七年，授太仆寺卿。法越事起，会办北洋军务，驻防乐亭、昌黎。

十年，迁左副都御史。俄，命使朝鲜，定其内乱，盐运使续昌副之。至则日本使臣井上馨避不肯见，而挟朝鲜左议政金宏集于议政院，索偿兵费三十万。大澂谓续昌曰：“是蔑我也！”立率兵至议政院，排闼入，责数宏集：“柄国败坏国事。今定约稍不慎，便滋异日纷，非所以靖国也。”宏集唯唯，井上馨亦气慑，减索兵费十一万而去。

十一年，诏赴吉林，会同副都统伊克唐阿与俄使勘侵界，即所侵珲春黑顶子地也。遂援咸丰十一年旧界图立碑五座，建铜柱，自篆铭曰：“疆域有表国有维，此柱可立不可移。”于是侵界复归中国，而船之出入图们江者亦卒以通航无阻。十二年，擢广东巡抚。葡萄牙侵界至澳门香山。总署与立约通商，画澳门归葡辖。大澂持不可，条上驳议，不报。

十四年，郑州河再决，上震怒，褫河督李鹤年职，以大澂代之。是年冬，河工合龙，大澂力居多。大澂盛负时誉，会海军议起，以醇亲王奕枻为总理。大澂素与王善，治河功成，实授河道总督，加头品顶戴。大澂遂疏请尊崇醇亲王称号礼节。疏入，孝钦显皇后震怒，出醇亲王元年所上预杜妄论疏颁示天下。大澂几得严谴，以母丧归，乃已。

十八年，授湖南巡抚。朝鲜东学党之乱也，日本与中国开衅，朝议皆主战。大澂因自请率湘军赴前敌，优诏允之。二十一年，出关会诸军规复海城，而日本由间道取牛庄。魏光焘往御，战不利。李光久驰救之，亦败，仅以数骑免。大澂愤湘军尽覆，拔剑欲自裁，王同愈在侧，格阻之，同愈以编修参大澂军事也。光焘请申军法，大澂叹曰：“余实不能军，当自请严议。”退入关，奉革职留任之旨。乃还湖南，寻命开缺。二十四年，复降旨革职永不叙用。二十八年，卒，年六十八。