La vocation des nouveaux musées d'Arts Moderne de la Ville de Paris était de constituer un espace supplémentaire à l'exposition des collections du Luxembourg, un musée consacré aux artistes vivants depuis 1818 et qui n'offrait alors plus la place nécessaire à l'accueil d'oeuvres modernes et contemporaines.

Le conservateur du Musée du Luxembourg, Louis Hautecoeur collabora de façon étroite à la conception des nouveaux musées d'Art moderne. Le projet initial, qui ne comprenait qu'un musée, se trouva modifié suite à une convention passée entre l'Etat et la ville de Paris. En acceptant de garantir l'emprunt lancé pour financer l'exposition, la ville obtint la construction d'un second musée destiné à l'extension des collections du Petit-Palais.
Ainsi, la décision fut prise de la construction sur l'ancien site de la manufacture militaire (1833-1935) de deux musées d'Art moderne, l'un concédé à l'Etat et l'autre à la ville de Paris.

Le projet architectural fut choisi sur concours. Parmi plus d'une centaine présentée, le projet lauréat fut celui d'une équipe formée de quatre architectes : deux jeunes inconnus, J.C. Dondel et A. Aubert, et deux architectes de renom, P.Viard et M. Dastugue.
Le chantier fut rondement mené, achevé seulement 22 mois après la pose de la première pierre, et le Palais put être inauguré le 24 mai 1937.

Grande réalisation architecturale, le Palais de Tokyo est également remarquable par l'aménagement de son décor extérieur, pleinement adapté à la vocation des lieux, tout entier voué à l'illustration et la glorification des Arts. Offrant aux passants et visiteurs le privilège d'un véritable musée de sculpture en plein-air, ce site apparaît comme une invitation à l'intégration de l'Art dans l'espace urbain.

Programme de décoration architecturale et sculpturale
du Palais de Tokyo lors de l'Exposition de 1937

Sur l'Avenue du Président Wilson, portes donnant accès aux musées :
Ces portes sont décorées de petits Bas reliefs en bronze par Bizette-Lindet (Musée National) et par Forestier (Musée Ville de Paris).

Sur le Parvis qui domine le quai de New York : deux statues en pierre :
• A gauche : Femme Maure, par Anna Quinquaud.
• A droite : Jeune Vendangeuse, par Pierre Vigoureux.

Le Bassin : Quatre Nymphes Couchées.
Par Louis Dejean, Léon Drivier, Auguste Guénot (de gauche à droite).
Au fond du bassin, vasque soutenue par des chevaux marins en bronze ; par Félix Févola.

Les Façades des deux bâtiments sont ornées chacune, au dessus des fenêtres, de quatre bas reliefs :
En partant de l'extrémité des ailes des bâtiments :
• Bâtiment de gauche : Triton, Trois Nymphes, Centaure et Eros par Marcel Gaumont.
• Bâtiment de droite : Actéon, Sirènes, La chasse et Hercule par Léon Baudry.

Le Grand escalier est encadré de deux vastes bas-reliefs par Alfred Auguste Janniot.
Ces deux bas reliefs sont connus sous les deux noms d’Allégorie à la gloire des Arts et des Muses et la Légende. Plus communément ceux-ci portent les appellations de Légende de la Terre pour l'ensemble sculpté de gauche, et de Légende de la Mer pour celui de droite.

Sur la terrasse supérieure :
A l'origine, devait être érigé un Apollon, haut de cinq mètres, sculpté par Charles Despiau ; mais ce projet ne vit jamais le jour. A sa place fut dressé provisoirement, puis définitivement en 1948, un grand bronze d'Antoine Bourdelle, La France, dédié aux combattants de la France libre.

Le long des bâtiments, rue Gaston de Saint-Paul :
Plusieurs statues appartenant au musée municipal d'Art Moderne ont été placées le long des bâtiments :
En partant de l'Avenue de New York :
• Baigneuse, en pierre, par Raoul Lamourdedieu.
• Baigneuses, quatre bronzes par Pierre Poisson.
• Sportive, par Raoul Lamourdedieu.
• L'Athlète, par Paul Belmondo.
• Femme au coquillage, par Georges Chauvel.
• Femme orientale debout, en pierre, par Mme Lévy-Kinsbourg.