1817年1月8日，卢森堡大公、荷兰王威廉一世颁布法律，建立了一个3000人左右的军事组织，名曰卢森堡国民军，直至1840年，卢森堡国民军都服务于荷兰皇家部队。国民军的服役期为5年。1839年《伦敦协定》的签署使卢森堡丧失了一多半国土。国民军的数量也因此减半。按照《伦敦协定》规定，作为德意志联邦的一员，卢森堡大公国需和新成立的林堡公国一起为联邦提供一支部队。为此卢森堡大公国和林堡公国共同成立了一支由步兵、骑兵和炮兵组成的部队，这支部队就是卢森堡军队的起源。1846年，卢森堡大公颁布命令，解散了炮兵和步兵，把卢森堡军队和林堡军队分离开来。改组后的军队只包括两支轻步兵小分队，分别驻扎在埃希特纳赫和迪基希。1867年，卢森堡脱离德意志联邦，成为永久中立国，原驻扎在大公国境内的普鲁士军队从卢森堡撤离，大公国自己的两支轻步兵小分队进驻首都。按照1867年9月10日的卢森堡皇家大公法令，卢森堡组建了新的军事组织，名曰轻步兵部队，由两个营组成，共有1568名官兵。宪兵和自卫队成立于1881年，标志着卢森堡建立全国性武装力量的开始。宪兵和自卫队由一个司令部指挥下的两个连组成：一个宪兵连和一个驻扎在首都