Ο Σολομών Γκουγκένχαϊμ ήταν αμερικανός βιομηχανιάτης η οικογένεια του έκανε την περιουσία της στα μεταλλεία. Ο Σολομών άρχισε να συλλέγει πίνακες τη δεκαετία του 1930 από σύγχρονους καλλιτέχνες όπως ο Βασίλης Κανντίνσκι, ο Πάυλος Κλέε και ο Μάρκ Σαγκαλ. Ιδρύσαμε το Ίδρυμα Σολομών Γκουγκένχαϊμ για την πρόοδο της τέχνης και της καλλιτεχνικής εκπαίδευσης το 1937 και έθεσε τη συλλογή του σε έκθεση δύο χρόνια αργότερα. Από την inaugurazione του, το Μουσείο Γκουγκένχαϊμ έχει επεκτείνεται ανοίγοντας αδερφικά annexes και συνεχώς εμπλουτίζοντας τις συλλογές του.
Όταν ο Γκουγκένχαϊμ έθεσε πρώτη φορά την τέχνη του σε έκθεση το 1939 στο Μουσείο Μη-Αντικειμενικής Ζωγραφικής, ο χώρος ήταν ένας παλιός έκθεσης αυτοκινήτων. Ο Σολομών και η Κόμησα Χίλλα Ρεμπάι, η πρώτη διευθύντρια του μουσείου, εκμηδένισαν τον Φρανκ Λλοίڈ Ράιτ να σχεδιάσει κτίριο για τη συλλογή τέχνης. Το Μουσείο Γκουγκένχαϊμ ήταν το τελευταίο έργο στον οποίο εργάστηκε ο Φρανκ Λλοίڈ Ράιτ. Το μοντελοποίησε με βάση τις τζικκουράτες της αρχαίας Μεσοποταμίας. Το νέο κτίριο افتύλαξε στις 21 Οκτωβρίου 1959, στην 5η Αβένιου και την 89η Οδό στη Νέα Υόρκη.
Οι πρώτοι διευθυντές του μουσείου επέκτειναν σημαντικά τη συλλογή και βελτίωσαν την φήμη του. Όταν ο Τζέιμς Τζόνσον Σουίνι έγινε διευθυντής το 1952, εισήγαγε τη γλυπτική στο Γκουγκένχαϊμ ξεκινώντας με την απόκτηση του «Αδάμ και Εύα» του Μπρανκούσι. Πρόσθεσε επίσης τέχνη του 19ου αιώνα με την απόκτηση του «Άνδρας με Σταυρωμένα Χέρια» του Σεζάν. Ο Θωμάς Μέσερ ανέλαβε την διεύθυνση το 1961, αποκτώντας επταϊσμικά και μετα-επταϊσμικά έργα από τη Συλλογή Τζουστιν Κ. Θανхаούζερ.
Ο Θωμάς Κρενς έγινε διευθυντής του Γκουγκένχαϊμ το 1988, και ο Ρίτσαρντ Αρμστρόγκ ονομάστηκε διευθυντής το 2008.
Υπό την διεύθυνση του Θωμά Μεσερ, η θια Σολομών Γκουγκένχαϊμ, η Πέγκυ, συμφώνησε να δωρίσει το Παλάτσο Βενιέ ντε Λεόνι στη Βενετία και όλη της την τέχνη στο ίδρυμα του θείου της. Η Πέγκυ Γκουγκένχαϊμ αγόρασε το παλάτι το 1949 και επέτρεπε στο κοινό να παρακολουθεί το παλάτι και τα έργα του από το 1951. Γύρισε μέρος του Γκουγκένχαϊμ το 1980, ένα χρόνο μετά τον θάνατό της. Η συλλογή της περιελάμβανε έργα του Μπράκ, Νταλί, Έρνστ, Μαγκρίτ και Πόλοκ.
Υπό τη διεύθυνση του Θωμά Κρενς, το Γκουγκένχαϊμ αυξήσε τα καλλιτεχνικά του αποθέματα κατά 50 τοις εκατό. Πρόσθεσε τη Συλλογή Πάντσα το 1991, η οποία περιείχε μινιμαλιστικά, μετα-μινιμαλιστικά και νοηματικά έργα. Ο Κρενς εισήγαγε επίσης τη φωτογραφία στα Γκουγκένχαϊμ το 1993 με δωρεά 5 εκατ. δολαρίων από το Ίδρυμα Ρόμπερτ Μέιπλθορπ.
Πέρα από τις τοποθεσίες της Άνω Ιστ Σάιντ και της Βενετίας, τα annexes του Μουσείου Γκουγκένχαϊμ περιλαμβάνουν το Μπιλβάο, Ισπανία· το Βερολίνο, Γερμανία· το Λας Βέγκας· και το ΣοΧο στη Νέα Υόρκη. Ένα annex του Γκουγκένχαϊμ είναι προγραμματισμένο να ανοίξει στην Αμπού Ντάμπι, την πρωτεύουσα των Ηνωμένων Αραβικών Εμιράτων, το 2013. Οι εκθέσεις θα περιλαμβάνουν σύγχρονη τέχνη του Μεσαίου Ανατολής.