中世纪以前，古希腊、罗马以及中国的高等教育已经存续了上千年。但严格来说，一般认为真正意义上的大学起源于中世纪的欧洲。最早“大学”一词来自拉丁文“universitas”，其专指在12～13世纪西欧兴起的近现代大学。与以往有所不同，这种大学形成了较为正式的院系，有专职的教职人员，开设系统的课程，有稳定的教学场所等。欧洲最古老的大学是创办于1088年的博洛尼亚大学。在存续近千年的中世纪历史发展阶段，天主教会教皇和神圣罗马帝国的皇帝在很长一段时间内几乎掌握着一切世俗权力，同时教权和皇权相互斗争倾轧的现象也屡见不鲜；当时有文化的群体基本是神职人员和贵族阶层，教会对普通民众的思想控制使得整个欧洲社会经济发展、科技创新以及文化繁荣陷于停滞状态。因此，中世纪又被称作“黑暗时代”，德国近现代大学就是在这样恶劣的环境下逐步发展起来的。中世纪的德国，邦国林立，战争不断，加之教会在思想文化领域的强力控制，使得德国与其他西欧国家相比，近现代大学出现的时间较晚。中世纪，德意志势力范围内最早的大学是创建于1348年的布拉格大学和1365年的维也纳大学等（需要说明的是，这两所大学目前分别位于捷克和奥地利境内）。14