在中國古代的許多典籍裡，有「刑始於兵」，「師出以律」的記載，「兵律」、「軍律」等軍法也有許多專篇。特別是到了唐代出現了一套完整的包括「律」、「令」、「格」、「式」俱全的軍法，如《衛禁律》、《擅興律》、《捕亡律》、《官衛令》、《軍防令》、《兵部式》、《兵部格》等，詳細地規定了軍人的職守、賞罰。凡是違犯了「令」、「式」中的有關規定，就要按「律」、「格」進行懲處。而最早的軍法出於何時呢？還是一個謎。
軍法是治軍的法規，它是統治階級意志的表現，具有階級性、強制性。在中國的原始社會，由於那時處在公有制和軍事民主時期，戰爭的勝敗直接關係到部落的每個成員的生死存亡，作戰時常常都是男女老幼志願參加，不需要用帶有強迫性的軍法來進行約束。隨著私有制的產生，階級的形成，氏族制度的瓦解和奴隸制國家的建立，戰爭開始成為爭奪政權和鞏固政權的鬥爭，原始社會時期軍事民主制下的群眾武裝，開始蛻變為由奴隸主操縱的、專為壓迫大多數人和掠奪財物的、奪取和維護奴隸主政權的軍隊。這時，戰爭的勝敗，直接關係到奴隸主貴族的切身利益。而對於軍隊的大多數成員——平民和奴隸——來說，則關係甚小，他們對待戰爭的態度沒有貴族那樣積極。為了鼓勵參戰，提高軍隊的士氣，便出現了帶有強制性的各種行為規則和明確的賞罰規定。對立功的軍人，按聖旨或軍律賞賜錢財、官爵、田地、奴僕，對違犯紀律和軍律的官兵，處以殺戮、鞭打、徒刑等處罰。如《尚書。甘誓》中記載：夏王啟，為了確立其統治地位與有扈氏大戰於甘（今陝西戶縣西南）時，在戰前，召集了帶領軍隊的六個貴族，進行戰前動員和宣佈作戰紀律、賞罰標準。規定凡是服從命令，忠於職守、勇敢戰鬥、努力完成作戰任務的，就在宗廟裡予以獎賞；不努力執行命令，完不成作戰任務的，就要殺死在宗廟裡或者降為奴隸，「大戰於甘，乃召六卿。王曰：……用命，賞於祖；弗用命，戮於社。予則拏戮汝」。這種簡單的口頭規定軍隊紀律與賞罰的做法，是早期的軍法。
有的認為，這種口頭規定的紀律與賞罰，雖然帶有軍法的含義，但有很大的隨意性，而且賞罰也不容易一致，還不能算是軍法。我國的軍法大約形成於春秋、戰國之交。因為這時，各諸侯國頻繁進行「爭霸」、「攻戰」，為了提高軍隊戰鬥力，各諸侯國對攻戰的賞罰都作了明文規定，建立起了一套以軍功授爵制為中心的賞罰制度，並與嚴格而殘酷的刑罰結合在一起，從而形成了帶有強迫性的、為統治階級服務的軍法。這些軍法，雖然由於各諸侯國的情況不盡相同，實行的程度也不盡一致，但基本的精神都是根據官兵在戰爭中的表現和貢獻，給予一定的獎勵或懲罰。當時，實行得比較徹底，規定也比較具體的是秦國，而且在商鞅變法時就全面推行了這種制度。據出土的秦簡《軍爵律》和《商子》等文獻可以看到賞罰的具體規定。如：士兵個人，在戰爭中殺敵一人者，免除其全家徭役和賦稅；士兵個人斬殺敵軍官一名，並取得其首級者，授爵一級，賜田一頃，宅九畝和賞給一個農奴（庶子）；大部隊作戰，在攻城戰鬥中斬首八千以上，野戰中斬首二千以上，均評為「滿功」，部隊內各級軍官都升一級，其中功大者可升三級；士兵五人一伍，其中一人逃跑，餘下四人處以二年以上徒刑；畏死不前，臨陣脫逃者，處以死刑，在千人大會上車裂等等。此外，春秋末期的大軍事家孫武。在其所著的《孫子》兵法一書中，也把軍法列為進行戰爭的五大要素之一。寫著：
「故經之以五事，校之以計而索其情：一曰道，二曰天，三曰地，四曰將，五曰法」。顯然，當時的軍法已經成為軍隊建設和進行戰爭的重要內容。但是，也有的認為軍法形成的時間還要早。據《周禮。夏官》記載：「國有大事，則帥國子而致天大子，惟所用之。若有甲兵之事，則授之車甲，合其卒伍，置其有司，以軍法治之」。從這段文字看，顯然早已存在軍法。另據《司馬法》記載說：虞舜時代的作戰命令，是勸告式的，希望民軍體念君王的困難，自動應命為國效力。夏代的作戰命令是強迫式的，在組成的軍隊中下達，希望民軍完成君王所考慮的任務，商代的作戰命令也是強迫式的，在軍隊列陣處下達，以統一全體的意志，共同對敵作戰。周代的作戰命令也是強迫式的，在和敵人將要交鋒時才下達，用以激勵士氣，鼓舞鬥志。「有虞氏戒於國中，欲民體其命也。夏後氏誓於軍中，欲民先成其慮也。殷誓於軍門之外，欲民先意以待事也。周將交刃而誓之，以致民志也」。我們從這些記載中可以看出，軍法的形成正和其它事物一樣，有一個形成和充實的過程，那麼，到底形成於春秋、戰國之交？還是夏朝之初？還需要進一步探討。
（龐成保）