離石的建制沿革始于戰國時代，趙國命名為離石邑，秦屬太原郡，西漢置離石縣，屬西河郡。東漢永和五年（140年）西河郡治遷此，靈帝末郡縣俱廢。三國魏黃初二年（221年）復置縣；晉屬西河國，永興元年（304年）匈奴左部帥劉淵起兵反晉，置都于離石。離石的得名是因東北有離石水（今北川河）之故。

　　離石距離隰城縣（今汾陽）近兩百里，薛公嶺就是橫亙其間的一座不大不小的丘陵，是困扼晉陜的咽喉制高點，劉從虎與劉昂帶領著的兵馬有四千人之眾，可以說是自己部族中的全部家底傾巢而出，正一路急行軍趕去接應劉欽。他們選擇了在夜半時分從離石城內突然發起了沖擊，打了晉軍一個措手不及，不到半個時辰，竟然以極少的傷亡代價沖出了包圍圈，關鍵還是晉軍用于圍城的部隊人數并不是很多，包圍圈并不厚的原因。

　　行進到薛公嶺山腳的時候，天色已經大亮，劉從虎對劉昂吩咐道：“傳令，全軍原地下馬修整，派出游騎巡查，前推十里，看有無晉軍伏兵。”

　　劉昂說道：“父親，晉軍總兵力不過比我們多出一倍而已，用于圍城尚且捉襟見肘，哪有多余兵力伏擊我們，天黑之前，我們要走出薛公嶺，可不能再耽誤時間了。。。。。”

　　劉從虎哼了一聲：“為將者每遇大事必須要沉得住氣，越是著急越是不能大意，游騎哨探偵查是大軍的開路先鋒，敵情不明的情況下，憑自己想當然就貿然進兵那是求死之道。”

　　劉昂心中雖然不服氣，但臉上不敢表現出來，恭敬的應了聲“是”，便轉頭布置哨探偵查的事去了。

　　劉從虎不敢有絲毫懈怠，軍隊雖然下馬休息了，他卻馬不離鞍，人不卸甲，繼續圍著自己的營盤游走，看到軍士們下馬之后三三兩兩，東一堆西一塊的圍坐在一起，劉從虎不禁大怒，他強壓怒火吩咐傳令兵：“速命各營首領來見我。”

　　片刻功夫，幾個首領便到齊，剛要行禮，被劉從虎攔住了：“你們自己看看，如果晉軍此刻來攻，這個仗我們還怎么打？”

　　眾人看了看東倒西歪的士兵，不禁臉上也是訕然，有人大著膽子說道：“昨晚連夜沖殺出了重圍，將士們也確實是累了。。。。。。”

　　“這些是理由么？你們不是第一天帶兵了，像這樣不成營壘，不做防備，晉軍如果此時殺到，不用打，我們立刻會成為一盤散沙。”劉從虎沉下了臉訓斥道：“各自去整理自己的隊伍，將馬和車輛置于外圍，結成車馬防御大陣，一律不準卸甲，三通鼓罷整頓完畢，違令者斬。”

　　眾人不敢再辯解，分頭下去結營布陣去了。軍鼓三通不到，四千人團團圍住了中軍大帳，將車馬置于外圍，人列于陣內，弓弩防御準備完畢，看了看井然有序的大陣，劉從虎臉上才露出了一絲滿意的神情。

　　當馬隆帶著兵馬趕到的時候，看到了縮成一團，如刺猬似防守得密不透風的車馬大陣，心頭不禁一凜。晉軍沒有騎兵，一路緊趕慢趕，當終于追上了劉從虎的時候，馬隆還有幾分高興。按照他的預想，劉從虎急于趕路接應劉欽，一定是縱兵急進，隊形不整，自己率領了一萬多兵馬，只要能追上對方的后隊，死死咬住他們，劉從虎就必然要回援，那時，匈奴騎兵的沖擊力和機動力便無法發揮出來，憑借步兵的近戰優勢和兵力優勢，匈奴自然會潰不成軍，在亂軍中捉拿劉家父子自然是手到擒來。他沒有想到的是，劉從虎在急于馳援劉欽的過程中竟然是穩扎穩打，步步為營。不禁對劉從虎的帶兵能力刮目相看。

　　兩軍相隔著兩三里的距離，晉軍便緩緩停下了前進的腳步，這也是弓弩無法射到的安全距離。匈奴各營的首領這才對劉從虎剛才緊急調整部署的舉措由衷的欽佩。如果再晚哪怕一點點，晉軍此刻若發起突然沖鋒，匈奴只怕已經一敗涂地了。

　　劉從虎焦急的問劉昂：“哨探回報前方軍情沒有？”

　　“還沒有。”劉昂回答道：“父親，現在該怎么辦？是堅守還是發起沖鋒？”

　　劉從虎不露聲色，極目遠眺：“你看到對方的中軍帥旗沒有？”

　　劉昂仔細看了看：“父親，掛得馬字旗，莫非對方的主帥馬隆到了？”

　　劉從虎哼了一聲：“還真看得起我們，主帥親自帶兵來追，你立刻派出一隊騎兵，繞過晉軍防線，從他們側后迂回趕到離石城，向單于報信，告訴他我們拖住了地方主帥，對方圍城兵力一定空虛，讓他派兵出城和我們一起夾擊晉軍，只要能殺了對方主帥，離石之戰咱們就贏定了。”

　　劉昂遲疑了片刻問道：“父親的意思是說，我們按兵不動，拖住對方，等待單于主力前來前后夾擊？”

　　劉從虎點點頭：“對方是步兵，也跑不快，所以他們現在不敢輕易撤兵，我們又有車馬陣防御，他們想取勝也沒那么容易，戰機稍縱即逝，你趕快去安排人馬給單于報信。”

　　劉昂立刻會過意來，不禁喜形于色，趕緊下去安排。

　　遠遠的看到匈奴騎兵大陣后方沖出來了兩三百騎兵，遠遠的繞過自己的軍營，往離石方向疾馳，馬隆突然意識到不好，他立刻下令：“全軍聽令，盾牌手居前，弓弩手居中，長槍手居后，準備攻擊。”隨著金鼓之聲交鳴，陣型迅速在做著調整。劉從虎下令道：“弓弩手準備，死守大陣，不許進攻，不許后退，違令者斬。”

　　兩軍的交鋒從第一輪的弓弩對射開始，匈奴人精于騎射，晉軍有盾牌護身，這第一個回合竟然打了個旗鼓相當，只是置于陣外的馬不同于人，雖然被牢牢的用拴馬樁固定在原地不能動彈，但也是原地打轉，不住的嘶鳴，很多中箭的戰馬轟然倒了下來，陣型一陣大亂。劉從虎大聲吼道：“固定馬匹，嚴守陣型。此戰只要拖住對手，就是勝利，不要舍不得戰馬。”