元符三年(1100年)正月，哲宗去世，徽宗赵佶即位，暂由向太后执政，诏复司马光等人。在贬谪多年之后，黄庭坚终于熬到还朝，不禁欢喜;想到苏轼和秦观等人都已在归途中去逝，又不禁唏嘘。

　　但还没等他回过神来，新一轮更加残酷的政治迫害就开始了。崇宁元年(1102年)，徽宗亲政，蔡京擅权，又兴党祸。四月，赵佶下诏销毁三苏、秦观和黄庭坚的文集;六月，罢免黄庭坚的太平州知州的职务;九月，在各地立“元佑奸党碑”，苏黄都在其中。担任副宰相的赵挺之，因曾与黄庭坚有过政见冲突，假公营报私怨，更是“痛打落水狗”，诬告他“幸灾谤国”。至此，黄庭坚受到了人生最严厉的打击：撤销一切职务，流放宣州(今广西省宜山县)编管。

　　当时，黄庭坚已经年近六旬，体弱多病，听说要流放到宜州这种“南方瘴雾”之地，家人都为他忧心忡忡、伤心落泪。黄庭坚却笑呵呵道：“你们都放心吧!我早在熙宁年间，就有鬼怪来送梦，提醒我会被贬宜州。宜州者，所以宜于人也;鬼怪之言，岂欺我哉!”

　　黄庭坚很早就信佛，以之排遣人生的郁闷和烦恼。第一个妻子孙氏死后，他写了一篇祭文《文愿文》，说：“今日对佛发大誓，愿从今日，不复淫欲、饮酒、食肉。设复为之，当堕地狱，为一切众生代受头苦。”此后二十年，他基本上践言而行，保持清心寡欲、超然淡泊的心态。据说他还和苏轼一道拜访高僧，高僧说东坡前身是五祖戒和尚，而山谷前身则为一女子。黄庭坚信以为真，恍然大悟地说，难怪在贬谪到涪陵时，曾梦见一女子来送梦，告之是她转世云云。他特地记载了这件事，刻石于涪陵江上。

　　崇宁三年(1104年)三月，黄庭坚到了宜州，却没有居所。他向小老百姓租房，却遭无理官吏刁难，竟租不到一间房子。无奈之下，他搬进宜州唯一的一处寺庙居住，可这所崇宁万寿寺却是皇家专用的，又被人驱赶了出来，流落街头。直到崇宁四年(公元1105年)五月，黄庭坚才好不容易在城头寻觅到一间破败阁楼，算是有了栖身之地。

　　宜州潮湿闷热，夏秋之交更是难捱;而秋老虎肆虐之时，小小阁楼里闷热、潮湿、狭窄，简直就不是人过的。但黄庭坚并没有怨天尤人，还读书赋诗，写词唱歌，书法越练越精。

　　九月三十日，干涸多日的宜州下了一场小雨，酷热的天气倏地变得凉爽。黄庭坚高兴得手舞足蹈，叫来好友范寥，破戒喝了几两小酒。饭毕，他坐在小凳上，挽起裤子，脱掉鞋子，把双足伸到屋檐外。当双足沾到清凉的雨点时，他舒畅极了，笑得散乱了满头白发，还回头对范寥说：“真爽啊!信中(范寥的字)，什么铁龙爪，不过是党派之争的借口罢了。我今天统统把它抛到九宵云外。哈哈哈……信中，我一生从没有这样快活过!……”

　　话音未落，他就慢慢地倒了下来，永远地闭上了眼睛。