Bygningen ble bygget på stedet av et spansk museumskompleks i kolonistil som ble ødelagt av jordskjelvet i 1989. De elegante formene og den originale materialbruken, som er karakteristisk for Jacques Herzog og Pierre de Meuron, provoserte aktiv motstand fra de konservative myndighetene i byen, men museumsadministrasjonens utholdenhet gjorde det likevel mulig å gjennomføre prosjektet.
Strukturen er helt kledd med kobber (totalt 7602 paneler i forskjellige former ble brukt) og er den største bygningen dekket med dette metallet i verden.
Hovedelementet i prosjektet er et buet tårn som hever seg over tretoppene i Golden Gate Park, der museet ligger. Det gir utsikt over byen, og det forbinder også bygningen med San Francisco: størrelsen på tårnet gjorde det mulig å bli et merkbart element i det urbane landskapet.
Hovedvolumet, rektangulært i plan, er kuttet av små gårdsplasser plantet med bregner. Glassvegger har gjort disse hagene til en del av museets interiør.
Spesiell oppmerksomhet ble gitt til arkitektene for å understreke den kontinuerlige flyten av rom: inngangen til museet er koblet til en stor lobby med en åpen gårdsplass, derfra fører en bred trapp til salene i andre etasje. Dette tilrettelegges også av de buede plantegningene til utstillingshallene. Museets interiør er dekorert med eukalyptustre.
Kostnaden for hele prosjektet var 190 millioner dollar, som ble samlet inn av privatpersoner, til tross for at både samlingen (kunst fra Afrika, Oseania, Mesoamerica) og selve museet tilhører byen.
