南宋开禧元年(1205)入太学,绍定二年(1229)登黄朴榜进士,授江西南安军教授。后知四川嘉定,再升总领淮西军马钱粮,转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱;知平江时兼淮浙发运使。贾似道当权于朝,四处网罗人才以为己用,有意拉拢郑霖。但郑霖深恶贾似道恃世弄权,不愿与其往来,后贾似道以"司都"、"监礼部郎官"等职授郑霖,皆拒不就职。贾怀恨在心,遂诬郑霖造登台桥一事为"积粮聚众,图谋不轨"。理宗偏听不察,竟加杀害。时年七十二岁。数年后,理宗见到郑霖遗表,幡然悔悟,昭雪其冤,追赠中奉大夫龙图阁直学士,并赐葬西岙集福寺前。
唯夫蝉之清素兮,潜厥类乎太阴。在盛阳之仲夏兮,始游豫乎芳林。实澹泊而寡欲兮,独怡乐而长吟。声皦皦而弥厉兮,似贞士之介心。内含和而弗食兮,与众物而无求。栖高枝而仰首兮,漱朝露之清流。隐柔桑之稠叶兮,快啁号以遁暑。苦黄雀之作害兮,患螳螂之劲斧。冀飘翔而远托兮,毒蜘蛛之网罟。欲降身而卑窜兮,惧草虫之袭予。免众难而弗获兮,遥迁集乎宫宇。依名果之茂阴兮,托修干以静处。有翩翩之狡童兮,步容与于园圃。体离朱之聪视兮,姿才捷于狝猿。条罔叶而不挽兮,树无干而不缘。翳轻躯而奋进兮,跪侧足以自闲。恐余身之惊骇兮,精曾睨而目连。持柔竿之冉冉兮,运微粘而我缠。欲翻飞而逾滞兮,知性命之长捐。委厥体于膳夫。归炎炭而就燔。秋霜纷以宵下,晨风烈其过庭。气憯怛而薄躯,足攀木而失茎。吟嘶哑以沮败,状枯槁以丧(刑)[形]。乱曰:诗叹鸣蜩,声嘒嘒兮,盛阳则来,太阴逝兮。皎皎贞素,侔夷节兮。帝臣是戴,尚其洁兮。