庭坚自幼聪颖异常，五岁能背诵五经，七岁写过一首《牧童诗》：“骑牛远远过前村，吹笛风斜隔岸闻。多少长安名利客，机关用尽不如君。”因此黄庶非常喜爱这个孩子。舅父有时亦来黄家，随便从书架上取书一本查问庭坚，他能对答如流。李常为之惊奇，称他有“一日千里之功。”
嘉佑三年（1058年），其父黄庶在康州（今广东省德庆县）任上逝世。由于家境不太富裕，黄庭坚才十五岁，遂跟着舅父李常到淮南游学。嘉佑六年，他在扬州（今江苏省扬州市）认识诗人孙觉（字莘老）。孙觉推崇杜甫，认为杜甫的《北征》诗胜过韩愈的《南山》诗。而另一诗人王平甫却认为《南山》诗比《北征》诗好，两人反复争论，都不能说服对方，时值庭坚在座，两位老人征求他的意见，他说：“若论工巧，《北征》不及《南山》。若书一代之事，以与《国风》、《雅》、《颂》相为表里，则《北征》不可无，而《南山》虽不作，未害也。“（范温《潜溪诗眼》）当时庭坚仅十七岁，而他一席之言，使两位前辈心服口服，结束一场争论。从此，孙觉非常赞美这位聪颖少年，后来就把自已的女儿兰溪许配给他。
嘉佑八年，黄庭坚首次参加省试，当时传说他中了解元，住在一起的考生设宴庆贺。正在饮酒间，忽然有一仆人闯了进来告诉大家：这里有三个人考中了，而他不在其内。席上落第者纷纷散去，而庭坚仍若无其事，自饮其酒，饮罢，又与大家一同看榜，毫无沮丧的神色。英宗治平三年（1066年），黄庭坚再次参加省试。诗题是《野无遗贤》，主考李洵看到他试卷中的“渭水空藏月，传岩深锁烟”，不禁拍案叫好。说黄庭坚“不特此诗文理冠场，他日有诗名满天下。”就此中了第一名。第二年春天，再到汴京（今河南省开封市）参加礼部考试，中了三甲进士，登上仕途。初任余干县主簿，后调汝州叶县（今河南省叶县）县尉，途中写了一首《冲雪宿新寨不乐》诗：县北县南河日了，又来新寨解征鞍。山衔斗柄三星没，雪共月明千里寒。小吏有时须束带，故入频问不休官，江南长尽梢云所，归及春风斩竿竿。”抒发开始走向仕途，对小吏生涯郁郁不乐的心情。熙宁五年（1072年），诏举四京学官，庭坚考得优等，被任为北京（今河北省大名县）国子监教授。当时留守北京的大老文彦博很器重他的才学，在他任满之后，又留他再任，一直在北京度过了七年。七年中，他致力于诗歌创作，在艺术技巧上有较大的提高。元丰元年（1078年）庭坚作了二首古风，投书给当时任徐州的太守苏轼，以表示仰慕之意。苏轼读其诗，认为“超绝尘，独立万物之表，驭风骑气，以为造物者游，非今世所有也。”由是诗名大震，两位大诗人也从此结下至死不逾的友谊。
神宗即位后，于熙宁三年（1070年），任王安石为宰相，开始实行新法。但是，新法一开始就遭到以司马光为首的保守派猛烈反对。后来新旧两党斗争愈演愈烈，革新和保守的斗争逐渐蜕化成官僚集团之间的争权夺利，一直延续到北宋灭亡。在这场斗争中，黄庭坚站在旧党一边，他很尊敬司马光和苏轼兄弟。司马光逝世后，他作诗追挽：“毁誉盖棺了，于今名实尊。哀荣有亡命，终始酌民言。蝉冕三公府，深衣独乐园。公元两无累，忧国爱元元。”（《司马文正公挽词四首》之四）但是，他也很尊敬王安石的人品：“然余尝观其风度，真视富贵如浮云，不溺于财利酒色，一世之伟人也。”（《跋王荆公禅简》）他虽然没有积极参加这场斗争，但他的一生一直卷在斗争的旋涡里。
元丰三年（1080年），黄庭坚入京改官，被任为吉州太和县（今江西省太和县）知县。这是他第一次担任独当一面的地方官。为了了解人民的生活实际情况，他常常深入穷乡僻壤，踏遍了太和县境的崎岖山路，将农民的疾苦，如实上报，减轻农民负担。人称：“治政平易，人民行以安定”。元丰六年，庭坚调任德州平镇（今山东省商河县境内）的监镇压官。此时德州通叛赵挺之属于新党，正在德州推行市易法（由官府管理市场贸易），他认为德平镇小民贫，实行市易法有困难，不同意这样做，与赵挺之公文往来，反复争论，种下了后来遭受贬的祸根。元丰八年三月，神宗去世，哲宗即位，因哲宗年幼，由神宗的母亲太皇太后高氏执政，司马光任宰相四月，庭被召入汴京任秘书郎，因司马光的推荐，参加了几个有的校定《资治通监》的工作；十月，被任为神宗实录院检讨官，集贤校理，主持编写《神宗实录》。检讨官。此处据《历代著名文学家列传》）元佑六年书成，擢起居舍人。元佑八年，被任为国史编修官。这年哲宗亲政。九年，改元绍圣，表示要继承神宗在熙宁、元丰年间的政策，并起用新党的蔡京等人。蔡京等虽然打着神宗和王安石的旗号，事实却在排除异已，借此打击一切旧党人员。他们对旧党主修的《神宗实录》大为不满，下令国史院核实《神宗实录》的记载，以“诬毁先帝”、“修实录不实”加罪，于绍圣元年（1094年）十二月，黄庭坚被贬为涪州（今四川省涪陵县）别驾、黔州（今四川省彭水县）安置，左右惨然不安，他却颇能自我解脱，坦然处之，在黔州四年，寓居开元寺摩围阁，仍然诵书写字，沉醉于艺术世界之中。绍圣四年，庭坚的外兄张向任提出举夔州路常，十二月，朝迁以“回避亲嫌”为由，下诏庭坚移到戎州（今四川省宾市东北），在州南的一个僧寺里住下来。为了避免遭受进一步迫害，他自称“身如槁木，心如死灰”，把寺中的居室叫作“槁木庵”和“死灰”。后来在城南另外租了房子，又起名叫“任运堂”，表示自已安分守命，无心世事了，所以在戎州的三年中，生活还算安定。
元符三年（1100年）正月，哲宗去世，徽宗即位，暂时由太后向氏听政。五月，诏复司马光等三十三人入官。十月，蔡京等人相继被贬出京。次年改元为建中靖国元年（1101年）。三月，庭坚接到权知舒州的任命。四月，又被召为吏部员外郎。两次上表，说明身有羸疾，请求在太平州（今安徽省当涂县）或无为军（今安徽省无为县）当一个地方官。崇宁元年（1102年）四月接到知太平州任命。六月，到达太平州，接受了知州的职务。不料只过九天，吏部公文就下来了，免去了知州职务。原来，此时徽宗亲政，起用蔡京为相，新党重新握政权，蔡京等人对旧党人物迫害比绍圣年间更加残酷。崇宁二年四月，下诏销毁三苏、秦观和黄庭坚的文集。九月，又下诏在各地立“元佑奸党碑”，几乎把旧党人物一网打尽。这时，赵挺之已被蔡京荐为副宰相。庭坚地德平镇时曾与赵有过政见上的冲突，因而假公营私报宿怨，暗中指使荆州转动判官陈举从庭坚所写《承天院塔记》中摘取“天下财力屈渴”等语句，诬告庭坚“幸灾谤国”，使庭坚受到“除名羁营宜州”（今广西省宜山县）的严厉处分。崇宁三年三月，庭坚到宜州贬所，初租民房，后迁寺，都被官府刁难。崇宁四年五月，被迫搬到城头破败戍楼里栖身，人不堪其忧，庭坚终日读书赋诗，举酒浩歌，处之泰然。宜州人民敬其旷达高洁，许多人慕名前往求诗求书，向他请教学问，他也尽量满足来访者的要求。崇宁四年（1105年）九月三十日病逝于戍楼，终年六十一岁。大观三年（1109年）春，由苏伯固、蒋伟护柩归葬修水县双井祖坟之西。南宋绍兴初年，高宗中兴，追封直龙图阁士，加太师，谥号文节。