卢浮宫始建于12世纪末,由法王菲力二世(“奥古斯都”)下令修建,最初是用作防御的城堡,边长约90米,四周有城壕,其面积大致相当于今卢浮宫最东端院落的四分之一。当时的卢浮宫堡并不是法国国王的居所,而是被用来存放王室财宝和武器。
14世纪,法王查理五世觉得卢浮宫堡比位于塞纳河当中的城岛(西岱岛)的王宫更适合居住,于是搬迁至此。在他之后的法国国王再度搬出卢浮宫,直至1546年,弗朗索瓦一世才成为居住在卢浮宫的第二位国王。弗朗索瓦一世命令建筑师皮埃尔•勒柯(Pierre Lescot)按照文艺复兴风格对其加以改建,于1546年至1559年修建了今日卢浮宫建筑群最东端的卡利庭院(Cour Carree)。扩建工程一直持续到亨利二世登基。亨利二世去世后,王太后卡特琳•德•美第奇集中力量修建杜伊勒里宫及杜伊勒里花园,对卢浮宫的扩建工作再度停止。
波旁王朝开始后,亨利四世和路易十三修建了连接卢浮宫与杜伊勒里宫的大长廊,又称“花廊”(Pavillion de Flore)。路易十四时期曾令建筑师比洛(Claude Perrault)和勒沃(Louis le Vau)对卢浮宫的东立面按照法国文艺复兴风格(法国古典主义风格)加以改建,改建工作从1624年持续到1654年。
1682年法国宫廷移往凡尔赛宫后,卢浮宫的扩建再度终止。路易十四曾计划放弃卢浮宫,并将其拆除,但后来改变了主意,让法兰西学院、纹章院、绘画和雕塑学院、以及科学院搬入卢浮宫的空房,此外还有一些学者和艺术家被国王邀请住在卢浮宫的一层和大长廊的二楼。1750年法王路易十五正式提出了拆除卢浮宫的计划。但由于宫廷开支过大,缺乏足够的金钱来雇佣拆除卢浮宫所需的工人,该宫殿得以幸存。
1871年5月,巴黎公社面临失败时,曾在杜伊勒里宫和卢浮宫内举火,试图将其烧毁(当时公社决定烧毁的还有巴黎市政厅、王宫(Palais Royal)等标志性建筑)。杜伊勒里宫被完全焚毁,卢浮宫的花廊和马尔赞长廊被部分焚毁,但主体建筑幸免。第三共和国时期拆除了杜伊勒里宫废墟,形成了卢浮宫今日的格局。