張耒原籍亳州譙縣(今安徽亳州)，后遷居楚州（今淮安市楚州區）。馬端臨《文獻通考》作“譙郡人”，秦少游《書晉賢圖后》記載：“獨譙郡張文潛與余以為不然……”，他在《思淮亭記》中稱“予淮南人也，自幼至壯，習于淮而樂之。”。祖父任職于福建，父親中進士后，游宦四方，官至三司檢法官，因親老，乞請離京做吳江知縣。母親李文安。外祖父李宗易先以著作佐郎為譙縣知縣，歷官尚書屯田員外郎，知光化軍事，仕至太常少卿，以詩文名世，長于寫詩，深受當時的大詩人晏殊的賞識。正是在這樣的家庭里，張耒從小就受著正統的封建詩禮的熏陶，加之受業于“山陽學官”，少年時即表現出對文辭的靈感，“十有三歲而好為文”（《投知己書》），十七歲作《函關賦》，傳誦人口。此后，他游學于陳州，得到當時在陳為學宮的蘇轍的厚愛。熙寧四年（1071年），蘇軾出任杭州通判前，來陳州與其弟話別，張耒得以謁見蘇軾，頗受青睞，自此便成為蘇氏兄弟的門下客，并在東坡引薦下，應舉姑蘇。熙寧六年(1073年)，即張耒二十歲時，由神宗親策為進士，王安石負責提舉，授臨淮(今安徽泗縣)主簿，開始步入仕途。熙寧八年，蘇軾在密州修“超然臺”，張耒應約寫了《超然臺賦》蘇軾稱他“超逸絕塵”，有秀杰之氣，“其文汪洋淡泊，有一唱三嘆之聲”(《答張文潛書》)，這是他們詩文交往的開始。與此前后，張耒與秦觀、晁補之也有詩文唱和，結為知交。

　　熙寧六年至元豐八年(1073年-1085年)，張耒先后在安徽、河南等地做了十多年縣尉、縣丞一類地方官，并因秩滿改官不斷，往來京洛間，為政特別辛勞。“我迂趨世拙，十載困微官”（《悼逝》），“飄然羈孤，挈其妻孥，就食四方，莫知所歸”（《上蔡侍郎書》）說的就是這段經歷。張耒為官清廉，他本想憑著他那微薄的俸祿養其親小，淡泊平生，然厄運頻頻而至，他的父母、前妻相繼謝世，家境每況愈下，經濟拮據，生活困窘。

　　元豐八年（1085)，神宗崩，年幼的哲宗登位，支持舊黨的高太后垂簾聽政，起用反變法派司馬光，蘇軾、蘇轍相繼奉調晉京。元祐元年(1086年)大臣范純仁薦舉張耒參加太學學士院考試。這次被薦參加考試的還有黃庭堅、晁補之等人，由翰林學士蘇軾命題，考試結果三人同被拔擢，張耒被任為秘書省正字，其后歷任著作佐郎、秘書丞、史館檢討，直到起居舍人。元祐二年（1087年）春，蘇軾主持禮部貢舉，張耒被聘為讀卷官，入試院檢點審閱舉子試卷。元祐三年(1088年)，秦觀被召到京師，任太學博士，校正秘書，亦入蘇軾門下。在暇日與張耒或舉酒歡宴，或同游京都名勝，詩文酬唱，作畫題跋，互相砥礪，共受蘇軾薰沐。這是他們難以忘懷的歡樂年代，也是北宋文壇上的盛事。他們“一文一詩出，人爭傳誦之，紙價為貴”。館閣八年，張耒有緣披覽國家藏書，過著“圖書堆枕旁，編簡自相依”的生活，其文翰學術也日有進益。

　　宋哲宗親政后，新黨得勢，竭力報復元祐舊臣，隨著蘇軾等人的被貶，蘇門弟子也受到株連。紹圣元年（1094年），張耒在以直龍圖閣知潤州（今鎮江）任上，徙宣州（今宣城）紹圣四年（1097年）貶黃州（今湖北黃岡）酒稅監督，再貶復州（宋地名，今湖北天門）監竟陵郡酒稅。元符二年(1099年)起為黃州通判。宋徽宗即位，四十七歲的張耒一度內召為太常少卿，后又被啟用為兗州、潁州(今阜陽)知州，但為時都很短促。當時蘇軾自海南遷內地，張耒賦詩相慶；“今晨風日何佳哉?南極老人度嶺來。此翁身如白玉樹，已過千百大火聚。”不久，噩耗傳來，蘇軾于途中卒于常州。張耒在潁州舉哀行服，痛悼一代文豪和恩師。未想竟觸怒了上方，于崇寧元年(1102年)被貶為房州(今湖北房縣)別駕，安置于黃州，這是他在短短六七年內第三次被貶到那里，他在黃州先后共住了七八年，作為逐臣，他不得住官舍和佛寺，只能在柯山旁租屋而居。荒樹枯木，蓬蒿滿眼，自然令人惆悵莫名，但“江上魚肥春水生，江南秀色碧云鬟”，倒也給他不少安慰。特別值得一提的是在柯山腳下，張耒與蘇軾弟子潘大臨結為緊鄰，兩人彼此安慰，相濡以沫，共守大節。據載，當時的郡守瞿汝文憐其家貧，欲為其購買一份公田，以種植豆粟蔬菜等，貼補家用，張耒敬謝不取。正是此地的哀和樂使他難以忘懷，故他自號為“柯山”。

　　崇寧四年(1105年)，秦觀的兒子自藤州(今廣西藤縣)奉父柩歸葬揚州，路過黃州時張耒臨江祭奠，他為好友的“竄身瘴海，卒仆荒陋”而痛哭失聲。淚水未干，黃庭堅又相繼去世。崇寧五年，宋徽宗詔除一切黨禁，張耒才得任便居住。這年冬天，他自黃州經潁州，回到故鄉淮安，大約住了一年多時間。大觀年間，移居陳州，監南岳廟，主管崇福宮。由于晚年長期賦閑，他貧病交加，《歲暮即事寄子由先生》云，“肉似聞韻客，齋如持律徒。女寒愁粉黛，男窘補衣裾。已病藥三暴，辭貧飯一盂。長瓶臥墻角，短褐倒天吳。宵寐衾鋪鐵，晨飲火數珠。”可以想見他當時已衣食不繼，三月不知肉昧了。

　　盡管政治環境是如此惡劣，生活是如此困窮，但詩人并沒有向腐朽的蔡京集團屈服。以聞道蘇軾自負，終生恪守不移，即使遭受打擊也不后悔，且引為人生最大的志趣。詩人就這樣堅持著，繼蘇轍和晁補之謝世之后，也在寂寞和痛苦中死去，據乾隆《山陽縣志》載，葬于故土淮安“治北七里”。

　　據陸游《老學庵筆記》云：“文潛三子：秬、秸、和，皆中進士第。秬、秸在陳死于兵。和為陜西教官，歸葬二兄復遇盜見殺。文潛遂無后，可哀也。”

　　張耒平生仕途坎坷，屢遭不幸，可他從未忘懷操寫詩文。其著作被后人多次雕版印行，名為《柯山集》、《張右史文集》、《宛丘集》等，今人李逸安、孫通海、傅信三人編輯的《張耒集》，收詩約二千三百首，散文、史論、議論近三百篇，真可謂洋洋大觀矣!其詩早年體制豐腴，音節瀏亮，東坡稱之“汪洋沖淡，有一唱三嘆之音”，晚歲落其華，趨務平易，酷肖白樂天(居易)、張文昌(籍)，一時獨步吟壇；其文則雄深雅健。纖秾瑰麗，無所不有，蔚然成家。