Ideea unei noi clădiri s-a născut în urmă cu șaptesprezece ani, când Marele Ducat a devenit una dintre cele șase țări fondatoare ale Uniunii Europene, iar autoritățile au decis să susțină imaginea Luxemburgului nu numai ca stat prosper din punct de vedere economic, ci și ca un important centru cultural al continentului. Cu toate acestea, însăși ideea de a crea o colecție de artă contemporană și întruchiparea sa arhitecturală sub forma unui proiect de J. M. Pei a întâmpinat rezistență în diferite cercuri ale societății cu spirit conservator. Drept urmare, conceptul său a fost revizuit de mai multe ori, proiectarea și chiar construcția au fost suspendate. Abia în 1997 a fost stabilit locul pentru muzeu: ruinele cetății Tungen (1732), care au fost incluse în noua clădire. În 1999, a început construcția, dar apoi a fost întreruptă timp de patru ani, deoarece Pei a dorit să folosească numai calcar auriu din Franța pentru construcția sa, iar acest lucru a dat naștere la numeroase probleme noi.
De asemenea, au apărut dificultăți cu colecția: deoarece nu a existat niciodată o colecție de artă din secolul al XX-lea în Luxemburg, a trebuit să fie creată. Din cauza fondurilor limitate, nu s-a vorbit despre cumpărarea lucrărilor lui Dali și Picasso: marea majoritate a exponatelor din cele 230 de obiecte aparținând muzeului aparțin perioadei de după 1980. Dar, potrivit directorului muzeului, Marie-Claude Beaux, acesta este conceput pentru a extinde în continuare colecția, pentru a colecta arta viitorului, arta secolului XXI.
Complexul este situat în mijlocul unui parc, între două cartiere de afaceri ale orașului. Caracteristica sa definitorie este turnul de sticlă verzui de deasupra atriului principal, care amintește de cetatea peste care a fost construită. Aproape toate etajele etajului principal sunt realizate din sticlă, astfel încât majoritatea sălilor au lumină naturală. La parter există două mici galerii și o sală de curs. În exterior, pereții muzeului sunt confruntați cu calcar de culoare miere, intrarea principală a muzeului este o compoziție spațială complexă sub formă de nișă. Suprafața totală a clădirii este de 10.000 mp m, din care 4.800 mp m - spații de expoziție. Muzeul poartă numele Marelui Duce Jean, care a transferat acum conducerea țării fiului său Henri.
