早年生涯
林慶業于壬辰倭亂期間出生于朝鮮忠清道的忠州，本貫平澤林氏，是判書林整的後代。1618年，林慶業武科及第。1624年，李适發動叛亂。林慶業在鄭忠信麾下作戰。在鎮壓李适之亂中，林慶業立下了大功，使他受到了晉升，成為佥節制使。
1627年，後金南下入侵朝鮮，史稱丁卯胡亂，林慶業被派往江華島防禦。然而他到達以後，朝鮮已經同後金簽訂了和約。1630年，明朝将軍劉興治率軍進入朝鮮，并在一個路和兩個城堡之間建立軍營。林慶業奉命前往監視并壓制劉興治的勢力。
1633年擔任甯邊副使，在義州修築白馬山城，以防禦北方邊境。明朝的叛軍越境進入朝鮮，林慶業率軍擊敗了他們，受到了明朝的封賞。1634年兼任義州府尹。但由于釋放了一些俘虜而被人誣陷免職。1636年被證明是清白的，恢複官職。
丙子胡亂
就在林慶業官複原職的同一年，清朝入侵朝鮮，史稱丙子胡亂。林慶業據守白馬山城抗擊清軍，将清軍阻擋在白馬山城防線以北一帶，同時向朝鮮朝廷要求增援。然而朝鮮的大臣金自點想要獨據抗清的戰功，封鎖了林慶業增援的消息，導緻了清軍的成功南下。
不久以後，清軍逼近朝鮮首都漢城，朝鮮仁祖逃亡南漢山城避難。清軍又包圍了南漢山城，朝鮮仁祖出城投降，并同清朝簽訂和約，成為清朝的藩屬國。此時，林慶業接到了朝廷勤王的诏書，率軍前往南漢山城救駕，甚至擊斃了皇太極的外甥要槌。然而，在到達南漢山城之前，朝鮮就已經投降了。雖然皇太極得知了自己的外甥被林慶業所殺，但是皇太極對林慶業保家衛國的崇高行為十分欽佩，赦免了林慶業的死罪。林慶業感歎道，如果他手下擁有至少兩萬人馬而不是區區的三千人，他将率軍北伐襲擊清朝的首都盛京（沈陽），那時戰争的結果将是另一個樣子。
戰後和騙局
1637年，清朝要求朝鮮發兵協助其攻擊明朝。朝鮮遂派出了水軍支援，以林慶業為元帥。然而，林慶業對丙子胡亂朝鮮的失敗耿耿于懷，秘密遣使前往明軍，将清軍的進攻計劃全部透露給了明軍。這使明軍獲得勝利，清軍傷亡慘重。
1640年，林慶業再次作為朝鮮支援軍的元帥支援清朝。此次，他派遣一名僧侶再次前往明軍，透露清軍的計劃。此戰之中，朝鮮軍沒有真正地與明軍沖突，基本都是清軍作戰。次年他回到漢城。此時清軍已經懷疑其身份，使他失去了權力。但不久以後，他又獲得了另一個官職。
1642年，林慶業下屬的一員明軍将領投降了清朝，透露了林慶業與明軍的關系。清朝立即遣使赴朝鮮，強迫朝鮮交出林慶業并押赴北京。然而，林慶業在黃海道逃脫，進入了一座佛寺，削發為僧，次年逃亡明朝。
回國和逝世
到達中國明朝後，當時李自成剛攻陷北京，明思宗自殺殉國，吳三桂引清軍入關。林慶業便與明将馬騰高并肩作戰。後來兵敗，馬騰高被俘降清，林慶業再次失去了抗清的機會，計劃逃跑時被下屬出賣而遭清軍俘獲，解赴北京。然而，朝鮮将軍沈器遠得知後便發動政變，迫使朝鮮仁祖要求清朝釋放林慶業歸國。
1646年，林慶業回國途中，被朝鮮大臣金自點指使護送士兵謀殺了他。
1697年，朝鮮肅宗追贈林慶業忠愍的谥号。
