早期經曆
許克祥，湖南講武堂畢業。早年加入同盟會，參加過辛亥革命。
1916年升陸軍第一師營長。1920年任第六混成旅第十九團團長，1925年任黔軍第四師獨立旅旅長。北伐時被唐生智收編，授予湖南省防軍第三十三團團長，一直不見容于唐生智。
1927年春，國民革命軍第三十五軍第三十三團團長，駐防長沙。身兼多職：湖南省政府委員、國民黨長沙市黨部常委、長沙市市長及市公安局局長。
反革命
1927年5月21日駐長沙第三十五軍三十三團團長許克祥，在長沙發動“馬日事變”，率軍1000餘人，查封省、市黨部和工人糾察隊總部，襲擊四郊的農會，圍捕共黨。一夜間搜捕共産黨工農群衆3000餘人，殺百餘人。
中共湖南省委決定30日發動長沙附近10萬農軍暴動，圍攻許克祥。5月30日，約2.5萬人的農民起義隊伍從四面八方向長沙進發，共産黨湖南省委根據中央委員會的指示下令停止前進。兩支5000人的浏陽農民軍隊伍沒有接到撤退命令，孤軍進攻長沙，襲擊了長沙附近的軍隊，次日失敗。
許克祥任國民黨政府獨立第二師師長，1927年10月，兼任讨逆軍第二路軍司令，率部讨伐唐生智，被唐生智擊敗後退至廣東連縣，為李濟深收編。唐生智出于當時還不想與共産黨決裂的策略考慮和以往對許克祥的不滿，宣布要“處分”許克祥，許率部走湘南，投靠李濟深為首的廣東當局，改部隊番号獨立第三師，以“反共功臣”的身份任師長，駐防坪石鎮。他部隊的老底子是缺少訓練和正規管理，又剛由一個團擴編為四個團，新兵多，戰鬥力很差。
1928年6月，蔣桂戰争爆發，許克祥率部攻打桂系，在賀縣、八埠、回集與張發奎部遭遇，張發奎敗退。
圍剿紅軍
1929年以後許克祥屢次參加對紅軍的圍剿，1933年許克祥率部攻下紅軍根據地的吉水，升任國民黨陸軍監察委員及第二十四師師長，1936年1月25日，南京委任許克祥為陸軍第三十七軍中将副軍長，其師長職務由老部下黃子恒接替。
1937年因病辭職，調任軍事參議院參議。1949年全國解放時，前去到澳門。1953年去台灣，任總統府國策顧問。1964年春去世于新竹。
