劉大夏，幼名瑞昌保，字時雍，號東山，湖廣華容人，明朝中期名臣、詩人。曆兵部職方司主事、郎中、廣東右布政使、戶部左侍郎、右都禦史等職。深受明孝宗寵遇，輔佐孝宗實現“弘治中興”，與王恕、馬文升合稱“弘治三君子”，又與李東陽、楊一清被稱為“楚地三傑”。明武宗即位後，劉大夏屢疏請辭，以太子太保銜歸鄉，劉瑾專權時，被罰戍肅州，遇赦返鄉，旋即複官致仕。劉大夏去世，年八十一，追贈太保，諡號“忠宣”。
劉大夏，祖籍山東東平，十一世祖劉寶，宋高宗時任都統製，隨嶽飛平定楊麽起義，嶽飛被害後，劉寶棄官落戶於華容，劉大夏父親劉仁宅，官至廣西按察副使。劉大夏生於江西九江府瑞昌縣官舍，幼名瑞昌保，自少穎悟，神氣秀爽，強記過人，六歲時隨父進京，大學士楊溥一見而奇之，說：“這孩子說不定將來能達到我的位置。”為之定名大夏，以族女許之。
劉大夏中湖廣鄉試第一，考中進士，被選為庶吉士，翰林院擬請留劉大夏供職，但他他自己要求出任吏職，於是就任命他為兵部職方司主事，又調升兵部職方司郎中。劉大夏通曉兵事，在任內致力於革除宮署積弊，他所奏複的內容，大多符合憲宗的旨意，受到曆任兵部尚書的倚重。
汪直好邀邊功，後黎朝聖宗黎灝被老撾打敗，汪直想趁機攻取黎灝，他對憲宗說了，就索取成祖時派大將張輔南征安南的文書，劉大夏藏著不給，並秘密地向兵部尚書餘子俊說：“兵禍一開，西南立刻就糜爛。”餘子俊醒悟，此事遂得停止。
朝鮮李朝入貢，都是由鴉鶻關入明境，因為建州女真半路攔截，朝鮮要求改變進貢路線，改從鴨綠江進入。有位朝鮮藉的中官為此求情，眾將都表示同意。尚書準備答應其請求，劉大夏說：“從鴉鶻關出遼陽，經過廣寧、前屯衛，然後入山海關，彎曲迂回地繞了三、四個大鎮，祖宗朝豈有不知的，而從鴉鶻關開道迂回幾個大鎮，這恐怕另有深意，如果自鴨綠江走大路抵前屯衛、山海關，恐怕會帶來他日的憂患。不能批準。”這才停罷此議。
宦官阿九的哥哥任京衛經曆，因罪被劉大夏處以笞刑，阿九懷恨在心，向憲宗進讒，使劉大夏被逮入詔獄，經東廠審訊，並未得出什麽結果。經太監懷恩極力相救，劉大夏在被判杖二十後獲釋放，父親去世後，劉大夏一宿就動身奔喪。劉大夏服喪期滿，調升廣東右布政使。田州、泗城不安定，劉大夏前往告誡，事情很順利地解決了，後山賊起，劉大夏奉檄文討伐。他令部下隻許活捉，驗明為賊才殺，有一半人獲得生還，改為左布政使，調往浙江。
黃河在張秋堤防決口，皇帝下詔博選才臣前往治理，吏部尚書王恕等推薦劉大夏，提升劉大夏為右副都禦史前往。到職後，在黃陵岡疏通賈魯河，又疏通孫家渡和四府營上遊，以分水勢。從胙城經過東明、長垣到徐州修築長堤，共三百六十裏長，水災得到根治，張秋鎮改名為“安平鎮”。孝宗嘉獎劉大夏，賜璽書褒獎他。召他為左副都禦史，任職戶部左侍郎。
劉大夏受命兼僉都禦史，前往宣府處理兵餉。尚書周經對他說：“塞上有權勢家族的子弟以買賣糧食謀取私利，你不要因剛直招禍。”劉大夏說：“處理天下事，以理不以勢，待我到後解決。”當初，塞上必須粟千石方能買入、草萬束才得收進。由此宦官、武臣得以操縱市場，獲取厚利。劉大夏下令有糧草的，草百束、粟十石以上都準許買賣，權勢之家想牟利也落了空。不到兩個月府倉儲積有餘，邊人蒙受其利。
劉大夏連上三疏稱病辭官，歸鄉後在東山下築草堂，在堂中讀書，被時人稱為“東山先生”，廷臣紛紛舉薦劉大夏，起任右都禦史，統管兩廣軍務。奉旨使者上門，劉大夏帶二僮仆起程。兩廣人故來思念劉大夏，得知他即來任職都歡欣鼓舞。劉大夏到任後，清理吏治，減免官費供應，禁止鎮守官私自役使軍士，盜賊因此逐漸減少。
劉大夏被任命為兵部尚書，他屢次推辭未獲準，這才接受，孝宗召見他，孝宗說：“朕數次任用你，你數次稱病而去是為什麽？”劉大夏磕頭說：“臣年老又有病，看見國家民窮財盡，倘若有所不測，責任在兵部，自己估量力不從心，因此而辭。”孝宗聽了沉默不語。南京、鳳陽大風將樹拔起，河南、湖廣發生水災，京師久雨成災，劉大夏奏請凡屬非祖宗留下的舊製而危害軍民的，一一列舉呈上革除。
劉大夏再次奏請，孝宗命有關部門呈報所應實行與該革除的事例，有關部門全都按實奏報，時逢廷臣奏陳十六件事，都是對權貴所不利的，因此權貴們極力阻止，孝宗拿不定主意，下廷議再討論。劉大夏等說：“事屬朝廷外官，全都批準，稍稍涉及權貴，又令討論核實，臣等很愚蠢，不知為什麽？”許久，才得旨：“將傳奉官的姓名奏疏上報，幼匠、廚役月每減米三鬥；增設宦官、司禮監核實奏告；四衛勇士，禦馬監將名冊報來。其餘全照前次所議辦理。”織造、齋醮都停辦，僅俸祿就節省很大數目，而勇士虛報冒領之弊也大為減少。皇帝的命令一下，舉朝歡悅。先前，外戚、近幸都不是以功受爵，而是出於皇帝的私恩，孝宗深知這樣於政有害，發奮振作朝綱，因災異多次出現，又告諭群臣，令各陳朝政的過失。劉大夏又奏陳數事。
劉大夏第二次奏陳兵政的十害，並且要求辭官回鄉，孝宗不答應，要他將各應該革除的弊端更詳細地全部奏聞，於是，劉大夏舉出南北軍隊陸路水路輪流值班運糧的勞苦，以及邊軍困倦疲憊、邊將克扣的情況全都奏報，孝宗於是在便殿召見劉大夏，問道：“卿先前說天下民窮財盡。祖宗以來征收有常法，為什麽現在這樣？”劉大夏回答：“就是說沒有按常法征取。如向廣西每年取鐸木，從廣東取香、藥，花費以萬來計算，其他就可想而知了。”孝宗又問到軍隊，他回答：“與百姓一樣窮。”孝宗說：“居有月糧，出有行糧，什麽緣故會窮？”劉大夏答道：“其帥克扣超過一半，怎會不窮？”孝宗歎息道：“朕執政這久，還不知天下軍民貧困，怎樣做人君！”於是下詔嚴禁。
當時，孝宗正銳意太平，而以劉健為首輔，馬文升以師臣領導六部，史稱“眾正盈朝”。孝宗察知劉大夏正直嚴謹，並且辦事熟練，尤其信任他，數次召見他判別事情，劉大夏也在各事上為孝宗盡力。
大同發生小的戰事，孝宗聽信宦官苗逵的話，準備出兵。內閣劉健等竭力勸阻，孝宗仍猶豫不決，召劉大夏問道：”卿在兩廣，知道苗逵搗毀延綏巢穴的功勞嗎？”劉大夏答道：“臣聽說，俘虜十幾個婦女兒童而已，托朝廷威德，全師返回。不這樣的話，後果就難說了。”孝宗沉默好久，問道：“太宗頻頻出塞，現在為什麽不行？”劉大夏回答：“陛下的才幹固然不比太宗差，而將領士馬遠不及太宗時期。像淇國公丘福稍許違背節製，將數十萬兵眾委之於沙漠，怎麽能說是容易之事。臣揣度現在上策隻有防守而已。”都禦史戴珊也從旁邊表示讚同，孝宗醒悟地說：“要不是你們勸說朕幾乎誤了大事。”於是果然沒再出兵。
莊浪土著首領魯麟任甘肅副將，求升大將不成，恃其部眾強，擅自回到莊浪。廷臣擔心其生變想授魯麟大帥印，又想召他回京師，安置在不緊要的地方。劉大夏請求獎勵其先世忠順，而聽任魯麟閑居。魯麟向來凶狠殘暴失去眾人之心，沒有兵權無法有所作為，最後悶悶不樂而病死。
孝宗要在京城附近駐兵作為左右輔佐，劉大夏說：“保定設都司統率五衛，祖宗之意也是如此。請遣還操練軍士，一萬人作為西衛，將駐紮在密雲、薊州的軍隊作為東衛。”孝宗批準了。監督京營的宦官怨恨失去兵權，在宮門上貼小字報。孝宗以此給劉大夏看，並說：“宮門外人豈能進來，必定是某些不願失去兵權的人所為。”由此，陰謀未得逞。
孝宗曾經對劉大夏說：“遇到事情總想召卿來商量，又擔心超越卿職權範圍而作罷。以後有事情的實行或罷止，卿用揭帖文書呈上來。”劉大夏磕頭說：“對事情的決定，外邊的交付政府部門，內部的向閣臣谘詢就行了。揭帖易滋長弊病，不可作為後世效法。”孝宗稱好。又曾問；“天下何時太平？”劉大夏答：“求治不能太性急，不過用人行政全都與大臣麵議，恰當的再實行，時間長了天下自然太平。”劉大夏曾經趁機提到四方鎮守宦官的危害。孝宗詢問詳情，劉大夏答道：“臣在兩廣見到諸文武官的供應比不上一個鎮守，其耗費可知。”孝宗說：“祖宗設置這些已很久，怎能一下子革除。不過從現在開始必須像鄭原、麥秀那樣廉潔的才能任用，不然則罷免之。”劉大夏磕頭稱好。劉大夏每次被召見，跪在禦床前，孝宗往左右一看，近侍都退避走了。劉大夏曾有時回答問題時間長了，疲憊得起不來，孝宗就喊司禮太監李榮扶他出去。一天早朝，劉大夏本該當班，孝宗碰巧沒見到他，第二天告誡劉大夏說：“卿昨天未上朝嗎？擔心禦史糾察，沒有立即召見您。”其受孝宗寵愛如此深，特別賜他玉帶、麒麟服，送金幣、上等醇酒，歲時不斷。
孝宗去世後，武宗即位，劉大夏奉遺詔請求撤去非定額內的四方鎮守宦官，武宗隻撤去均州齊元，劉大夏又主張應撤去鎮守宦官二十四人，又奏減皇城、京城守衛宦官，都未被接受。不久，劉大夏列舉應當淘汰的傳奉武臣六百八十三名，被批準。大漢將軍薛福敬等四十八人也該削去官職，薛福敬等故意不入宮侍奉來激怒武宗。武宗立即命恢複薛等官職，而要求兵部回答詳情，意欲加罪，宦官寧瑾磕頭說：“這些是先帝遺命，陛下列入登基詔書，不宜問罪。”武宗才放棄追查此事。宦官韋興在成化末年因有罪被長期罷官，這時靠巴結得以鎮守均州。言官紛紛諫阻，劉大夏等再三爭辯，武宗都不理。劉大夏又奏道：“鎮守宦官，如江西董讓、薊州劉琅、陝西劉雲、山東朱雲貪婪殘暴尤其厲害，請求審查懲處。”武宗不高興，劉大夏知道自己意見不被采納，數次上奏章請求辭官。
武宗下詔加封他太子太保，同意他返鄉賜敕書、車馬返回，按舊製供應糧食和役仆，給事中王翊、張襘請求留住劉大夏，吏部也要求留劉大夏，武宗不理。
劉大夏忠實誠懇，為孝宗所信任，忘我報國，對權貴近幸多行抑止，曾經要求嚴格考核勇士，為劉瑾所恨。劉宇也恨劉大夏，就與焦芳一起在劉瑾麵前進讒言道：“抄劉大夏的家，可得邊費的十分之二。”借田州岑猛的事，將他逮捕下到詔獄，劉瑾要以激變罪判大夏死刑，都禦史屠滽不同意，劉瑾謾罵道：“即使不死，可以不去戍邊嗎？”李東陽從中調解，劉瑾探知劉大夏家貧窮，就判其到最偏僻的邊境戍邊。起初擬戍廣西，焦芳說：“是送他回去嗎？”於是改戍肅州。
劉大夏已有七十三歲，穿著布衣徒步經過大明門磕頭而去，觀者都歎息流淚，父老百姓攜筐送吃的，劉大夏所到之處，人們為之罷市、燒香祝劉尚書生還。等到了戍所，各部門怕得罪劉瑾，不送食品不來慰問，儒學生徒送吃食給他，一到操練，劉大夏總是扛戈站進隊伍。主管人再三推辭，劉大夏說：“軍人本來就該服役的。”他隻帶來一個仆人，有人問他為什麽不帶子孫，他說：“我為官時，不為子孫撈好處，現在年老被罰，怎忍心令他們同我一起死在戍所呢？”劉大夏已經遣去戍邊，劉瑾還借其他事二次罰他送米塞上。
劉大夏被赦免返鄉，劉瑾被誅殺，恢複他官職，後退休，清軍禦史王相請求恢複劉大夏月糧和年役，錄用其子孫，主事的宦官始終恨他，不答應。劉大夏回家後，教子孫種田謀生。稍有盈餘，就分送給故舊宗族。預先自作墓誌銘，並說：“不要讓人用飾美之詞，讓我懷愧於地下也。”
劉大夏去世，享年八十一歲，追贈太保，諡號“忠宣”劉大夏能詩，有《東山詩集》、《劉忠宣公集》等傳世，《皇明經世文編》輯錄有《劉忠宣集》一卷。
劉大夏，祖籍山東東平，十一世祖劉寶，宋高宗時任都統製，隨嶽飛平定楊麽起義，嶽飛被害後，劉寶棄官落戶於華容，劉大夏父親劉仁宅，官至廣西按察副使。劉大夏生於江西九江府瑞昌縣官舍，幼名瑞昌保，自少穎悟，神氣秀爽，強記過人，六歲時隨父進京，大學士楊溥一見而奇之，說：“這孩子說不定將來能達到我的位置。”為之定名大夏，以族女許之。
劉大夏中湖廣鄉試第一，考中進士，被選為庶吉士，翰林院擬請留劉大夏供職，但他他自己要求出任吏職，於是就任命他為兵部職方司主事，又調升兵部職方司郎中。劉大夏通曉兵事，在任內致力於革除宮署積弊，他所奏複的內容，大多符合憲宗的旨意，受到曆任兵部尚書的倚重。
汪直好邀邊功，後黎朝聖宗黎灝被老撾打敗，汪直想趁機攻取黎灝，他對憲宗說了，就索取成祖時派大將張輔南征安南的文書，劉大夏藏著不給，並秘密地向兵部尚書餘子俊說：“兵禍一開，西南立刻就糜爛。”餘子俊醒悟，此事遂得停止。
朝鮮李朝入貢，都是由鴉鶻關入明境，因為建州女真半路攔截，朝鮮要求改變進貢路線，改從鴨綠江進入。有位朝鮮藉的中官為此求情，眾將都表示同意。尚書準備答應其請求，劉大夏說：“從鴉鶻關出遼陽，經過廣寧、前屯衛，然後入山海關，彎曲迂回地繞了三、四個大鎮，祖宗朝豈有不知的，而從鴉鶻關開道迂回幾個大鎮，這恐怕另有深意，如果自鴨綠江走大路抵前屯衛、山海關，恐怕會帶來他日的憂患。不能批準。”這才停罷此議。
宦官阿九的哥哥任京衛經曆，因罪被劉大夏處以笞刑，阿九懷恨在心，向憲宗進讒，使劉大夏被逮入詔獄，經東廠審訊，並未得出什麽結果。經太監懷恩極力相救，劉大夏在被判杖二十後獲釋放，父親去世後，劉大夏一宿就動身奔喪。劉大夏服喪期滿，調升廣東右布政使。田州、泗城不安定，劉大夏前往告誡，事情很順利地解決了，後山賊起，劉大夏奉檄文討伐。他令部下隻許活捉，驗明為賊才殺，有一半人獲得生還，改為左布政使，調往浙江。
黃河在張秋堤防決口，皇帝下詔博選才臣前往治理，吏部尚書王恕等推薦劉大夏，提升劉大夏為右副都禦史前往。到職後，在黃陵岡疏通賈魯河，又疏通孫家渡和四府營上遊，以分水勢。從胙城經過東明、長垣到徐州修築長堤，共三百六十裏長，水災得到根治，張秋鎮改名為“安平鎮”。孝宗嘉獎劉大夏，賜璽書褒獎他。召他為左副都禦史，任職戶部左侍郎。
劉大夏受命兼僉都禦史，前往宣府處理兵餉。尚書周經對他說：“塞上有權勢家族的子弟以買賣糧食謀取私利，你不要因剛直招禍。”劉大夏說：“處理天下事，以理不以勢，待我到後解決。”當初，塞上必須粟千石方能買入、草萬束才得收進。由此宦官、武臣得以操縱市場，獲取厚利。劉大夏下令有糧草的，草百束、粟十石以上都準許買賣，權勢之家想牟利也落了空。不到兩個月府倉儲積有餘，邊人蒙受其利。
劉大夏連上三疏稱病辭官，歸鄉後在東山下築草堂，在堂中讀書，被時人稱為“東山先生”，廷臣紛紛舉薦劉大夏，起任右都禦史，統管兩廣軍務。奉旨使者上門，劉大夏帶二僮仆起程。兩廣人故來思念劉大夏，得知他即來任職都歡欣鼓舞。劉大夏到任後，清理吏治，減免官費供應，禁止鎮守官私自役使軍士，盜賊因此逐漸減少。
劉大夏被任命為兵部尚書，他屢次推辭未獲準，這才接受，孝宗召見他，孝宗說：“朕數次任用你，你數次稱病而去是為什麽？”劉大夏磕頭說：“臣年老又有病，看見國家民窮財盡，倘若有所不測，責任在兵部，自己估量力不從心，因此而辭。”孝宗聽了沉默不語。南京、鳳陽大風將樹拔起，河南、湖廣發生水災，京師久雨成災，劉大夏奏請凡屬非祖宗留下的舊製而危害軍民的，一一列舉呈上革除。
劉大夏再次奏請，孝宗命有關部門呈報所應實行與該革除的事例，有關部門全都按實奏報，時逢廷臣奏陳十六件事，都是對權貴所不利的，因此權貴們極力阻止，孝宗拿不定主意，下廷議再討論。劉大夏等說：“事屬朝廷外官，全都批準，稍稍涉及權貴，又令討論核實，臣等很愚蠢，不知為什麽？”許久，才得旨：“將傳奉官的姓名奏疏上報，幼匠、廚役月每減米三鬥；增設宦官、司禮監核實奏告；四衛勇士，禦馬監將名冊報來。其餘全照前次所議辦理。”織造、齋醮都停辦，僅俸祿就節省很大數目，而勇士虛報冒領之弊也大為減少。皇帝的命令一下，舉朝歡悅。先前，外戚、近幸都不是以功受爵，而是出於皇帝的私恩，孝宗深知這樣於政有害，發奮振作朝綱，因災異多次出現，又告諭群臣，令各陳朝政的過失。劉大夏又奏陳數事。
劉大夏第二次奏陳兵政的十害，並且要求辭官回鄉，孝宗不答應，要他將各應該革除的弊端更詳細地全部奏聞，於是，劉大夏舉出南北軍隊陸路水路輪流值班運糧的勞苦，以及邊軍困倦疲憊、邊將克扣的情況全都奏報，孝宗於是在便殿召見劉大夏，問道：“卿先前說天下民窮財盡。祖宗以來征收有常法，為什麽現在這樣？”劉大夏回答：“就是說沒有按常法征取。如向廣西每年取鐸木，從廣東取香、藥，花費以萬來計算，其他就可想而知了。”孝宗又問到軍隊，他回答：“與百姓一樣窮。”孝宗說：“居有月糧，出有行糧，什麽緣故會窮？”劉大夏答道：“其帥克扣超過一半，怎會不窮？”孝宗歎息道：“朕執政這久，還不知天下軍民貧困，怎樣做人君！”於是下詔嚴禁。
當時，孝宗正銳意太平，而以劉健為首輔，馬文升以師臣領導六部，史稱“眾正盈朝”。孝宗察知劉大夏正直嚴謹，並且辦事熟練，尤其信任他，數次召見他判別事情，劉大夏也在各事上為孝宗盡力。
大同發生小的戰事，孝宗聽信宦官苗逵的話，準備出兵。內閣劉健等竭力勸阻，孝宗仍猶豫不決，召劉大夏問道：”卿在兩廣，知道苗逵搗毀延綏巢穴的功勞嗎？”劉大夏答道：“臣聽說，俘虜十幾個婦女兒童而已，托朝廷威德，全師返回。不這樣的話，後果就難說了。”孝宗沉默好久，問道：“太宗頻頻出塞，現在為什麽不行？”劉大夏回答：“陛下的才幹固然不比太宗差，而將領士馬遠不及太宗時期。像淇國公丘福稍許違背節製，將數十萬兵眾委之於沙漠，怎麽能說是容易之事。臣揣度現在上策隻有防守而已。”都禦史戴珊也從旁邊表示讚同，孝宗醒悟地說：“要不是你們勸說朕幾乎誤了大事。”於是果然沒再出兵。
莊浪土著首領魯麟任甘肅副將，求升大將不成，恃其部眾強，擅自回到莊浪。廷臣擔心其生變想授魯麟大帥印，又想召他回京師，安置在不緊要的地方。劉大夏請求獎勵其先世忠順，而聽任魯麟閑居。魯麟向來凶狠殘暴失去眾人之心，沒有兵權無法有所作為，最後悶悶不樂而病死。
孝宗要在京城附近駐兵作為左右輔佐，劉大夏說：“保定設都司統率五衛，祖宗之意也是如此。請遣還操練軍士，一萬人作為西衛，將駐紮在密雲、薊州的軍隊作為東衛。”孝宗批準了。監督京營的宦官怨恨失去兵權，在宮門上貼小字報。孝宗以此給劉大夏看，並說：“宮門外人豈能進來，必定是某些不願失去兵權的人所為。”由此，陰謀未得逞。
孝宗曾經對劉大夏說：“遇到事情總想召卿來商量，又擔心超越卿職權範圍而作罷。以後有事情的實行或罷止，卿用揭帖文書呈上來。”劉大夏磕頭說：“對事情的決定，外邊的交付政府部門，內部的向閣臣谘詢就行了。揭帖易滋長弊病，不可作為後世效法。”孝宗稱好。又曾問；“天下何時太平？”劉大夏答：“求治不能太性急，不過用人行政全都與大臣麵議，恰當的再實行，時間長了天下自然太平。”劉大夏曾經趁機提到四方鎮守宦官的危害。孝宗詢問詳情，劉大夏答道：“臣在兩廣見到諸文武官的供應比不上一個鎮守，其耗費可知。”孝宗說：“祖宗設置這些已很久，怎能一下子革除。不過從現在開始必須像鄭原、麥秀那樣廉潔的才能任用，不然則罷免之。”劉大夏磕頭稱好。劉大夏每次被召見，跪在禦床前，孝宗往左右一看，近侍都退避走了。劉大夏曾有時回答問題時間長了，疲憊得起不來，孝宗就喊司禮太監李榮扶他出去。一天早朝，劉大夏本該當班，孝宗碰巧沒見到他，第二天告誡劉大夏說：“卿昨天未上朝嗎？擔心禦史糾察，沒有立即召見您。”其受孝宗寵愛如此深，特別賜他玉帶、麒麟服，送金幣、上等醇酒，歲時不斷。
孝宗去世後，武宗即位，劉大夏奉遺詔請求撤去非定額內的四方鎮守宦官，武宗隻撤去均州齊元，劉大夏又主張應撤去鎮守宦官二十四人，又奏減皇城、京城守衛宦官，都未被接受。不久，劉大夏列舉應當淘汰的傳奉武臣六百八十三名，被批準。大漢將軍薛福敬等四十八人也該削去官職，薛福敬等故意不入宮侍奉來激怒武宗。武宗立即命恢複薛等官職，而要求兵部回答詳情，意欲加罪，宦官寧瑾磕頭說：“這些是先帝遺命，陛下列入登基詔書，不宜問罪。”武宗才放棄追查此事。宦官韋興在成化末年因有罪被長期罷官，這時靠巴結得以鎮守均州。言官紛紛諫阻，劉大夏等再三爭辯，武宗都不理。劉大夏又奏道：“鎮守宦官，如江西董讓、薊州劉琅、陝西劉雲、山東朱雲貪婪殘暴尤其厲害，請求審查懲處。”武宗不高興，劉大夏知道自己意見不被采納，數次上奏章請求辭官。
武宗下詔加封他太子太保，同意他返鄉賜敕書、車馬返回，按舊製供應糧食和役仆，給事中王翊、張襘請求留住劉大夏，吏部也要求留劉大夏，武宗不理。
劉大夏忠實誠懇，為孝宗所信任，忘我報國，對權貴近幸多行抑止，曾經要求嚴格考核勇士，為劉瑾所恨。劉宇也恨劉大夏，就與焦芳一起在劉瑾麵前進讒言道：“抄劉大夏的家，可得邊費的十分之二。”借田州岑猛的事，將他逮捕下到詔獄，劉瑾要以激變罪判大夏死刑，都禦史屠滽不同意，劉瑾謾罵道：“即使不死，可以不去戍邊嗎？”李東陽從中調解，劉瑾探知劉大夏家貧窮，就判其到最偏僻的邊境戍邊。起初擬戍廣西，焦芳說：“是送他回去嗎？”於是改戍肅州。
劉大夏已有七十三歲，穿著布衣徒步經過大明門磕頭而去，觀者都歎息流淚，父老百姓攜筐送吃的，劉大夏所到之處，人們為之罷市、燒香祝劉尚書生還。等到了戍所，各部門怕得罪劉瑾，不送食品不來慰問，儒學生徒送吃食給他，一到操練，劉大夏總是扛戈站進隊伍。主管人再三推辭，劉大夏說：“軍人本來就該服役的。”他隻帶來一個仆人，有人問他為什麽不帶子孫，他說：“我為官時，不為子孫撈好處，現在年老被罰，怎忍心令他們同我一起死在戍所呢？”劉大夏已經遣去戍邊，劉瑾還借其他事二次罰他送米塞上。
劉大夏被赦免返鄉，劉瑾被誅殺，恢複他官職，後退休，清軍禦史王相請求恢複劉大夏月糧和年役，錄用其子孫，主事的宦官始終恨他，不答應。劉大夏回家後，教子孫種田謀生。稍有盈餘，就分送給故舊宗族。預先自作墓誌銘，並說：“不要讓人用飾美之詞，讓我懷愧於地下也。”
劉大夏去世，享年八十一歲，追贈太保，諡號“忠宣”劉大夏能詩，有《東山詩集》、《劉忠宣公集》等傳世，《皇明經世文編》輯錄有《劉忠宣集》一卷。