吴荫培天禀敏慧,读书过目成诵。18岁补博士弟子员,20岁中举于乡试,声名远扬。与乡里名士砥砺学问,弟子受业者其众。
吴荫培考中探花后,出任顺天府乡试同考官。光绪十九年,再次出任顺天府乡试同考官。光绪二十一年,吴荫培任会试同考官。光绪二十八年,吴荫培以编修出任福建乡试副考官。光绪二十九年,就沪宁铁路借款,建国内大学堂,截留出洋初级生。他尽力上疏陈其弊病。光绪三十年,出任会试同考官。光绪三十一年,自费赴日考察。回国后,创办女子师范幼稚园、水利农林讲习所。由两江总督端方转奏,清廷采纳,次第施行。而后,曾经外任贵州,作镇远府知府官。后历任廉州府、潮州府等。辛亥革命后,吴荫培回乡,看到大量流亡者,他募集款项,设织布厂安置。他任男普济堂董事十年。民国初年,吴地盗墓成风。他捐资创办"吴中保墓会",保护了众多名人古墓。民国五年,设修志局于沧浪亭,他与曹允源、蒋炳章一道出任《吴县志》总纂。他为人做事,邑人称道。民国十九年(1930)腊月十九日卒。葬于枫桥白马涧祖茔。