。碰上黄巾军进攻青州地区，郑玄就到徐州避难。徐州牧陶谦用师友之礼接待他。

建安元年(196)，郑玄从徐州回到高密，路上遇到数万黄巾军。黄巾军见了郑玄都下拜，大家相约不得进入高密县境。后来，郑玄患了一次重病，恐自己不久于人世，于是写信告诫他的儿子郑益恩说：“我们家过去很贫困，得到父母和诸弟的宽容、支持，辞掉了像贱役一样的小吏，到周、秦等地游学，往来于幽、并、兖、豫等州，能够觐见那些在位的博通古今的大师，和隐居的著名学者。最使我得意的是这些通儒接受了我的请教，对我有所传授。于是，我广泛查考《六艺》，浏览传记，还不时阅读珍秘的国书，窥见国谶的奥秘。过了四十岁，才回家供养父母，租田耕种以欢度时日。碰上宦官独揽权力，我被党人牵连而遭禁锢，过了十四年才获赦免。后来多次被推举为贤良、方正、有道诸种人才，被大将军、三司府征召任职，两次被朝廷征召。和我同列征召名牒的其他人，有的早已做了宰相。想到那几位具有美德高才的人，他们能够胜任大臣的职责，因此应当任用。我估量自己没有才能担任这类职务，只想阐述先圣孔子儒家学说的本意，统一各家歧异，也希望竭尽自己的才智，所以接到征召而没有应命。黄巾造**，使我南北奔走，行踪漂泊，现在才返回故乡。到这一年我已经七十岁了。旧时的学业素养已经荒疏，还有些失误之处。根据典礼规定，就应该把家事传给儿子管理了。现在我告诉你，我老了，家事都交给你承担，我将闲居安性，深入思考以完成事业。除非接受国君的命令，慰问亲族的疾苦，察看祭扫坟墓，观览省察野物，我何曾拄杖出过门呢？大小家事，全由你承担。可叹你独自一人，没有兄弟姐妹可以依靠。你一定要奋勉努力，追求君子的修养，钻研不懈。要谨慎地注意自己的态度仪表，亲近那些有德行的人。显赫的声誉是由同事、朋友促成的，德行是靠自己的志向建立的。如果得到了好名声，亦可光耀父母，这些，岂可不深思吗？我虽然没有高官的显赫，但有让爵的清高，以评论整理经典的事业自乐，希望不会落得后人的讥笑。

最后，我的心不能平静的，是死去的双亲坟墓没有修成，所喜爱的群书大都腐烂，不能于讲学习礼的堂内写成定稿，传给应该传授的人。我就像西下的太阳，将近迟暮，还能完成这些事业吗？我们家比过去稍好一些了。只要勤奋努力，爱惜光阴，就不怕缺衣少食。粗茶淡饭，简朴衣裳，如果能在这两方面加以节制，就算让我没有什么遗憾了。如果忘记了我这些话，体会不到我的一片苦心，那也就算了吧。”这时，大将军袁绍在冀州统领大军。他派使者邀请郑玄，大会宾客。郑玄最后到达，袁绍把他延入上座。郑玄身材高大，能饮酒一斛，眉清目秀，容貌仪表，温和伟岸。袁绍的客人大都是俊秀豪杰，有才气，善辩论，他们看到郑玄是个儒者，以为他并不是什么通博的人。于是大家争相设想一些刁钻古怪的问题，各家学派的观点纷杂提出。郑玄依照儒家正统的观点答辩应对，内容都超出了提问的范围。大家获得了闻所未闻的知识，没有人不叹服敬佩郑玄的。这时，汝南人应劭也归附袁绍，于是自我介绍道：“前秦山太守应中远，向您北面称弟子，怎么样？”郑玄笑着说：“孔子的学生，要考德行、言语、政事、文学四科，颜渊、子贡这些学生向来不称自己的官衔和门第。”应劭听了感到很惭愧。于是，袁绍荐举郑玄为茂才，上表推荐他为左中郎将。郑玄都没有就任。朝廷征召他为大司农，给了他一辆安车，并规定凡是他所经过的地方，主管官员都要迎送。郑玄都以有病请求还家。