Architecte ordinaire au château de Versailles de 1922 à 1931, ce n’est que dix ans plus tard qu’André Japy y revient comme architecte en en chef, après avoir assuré les mêmes fonctions au domaine de Saint-Cloud et au château de Rambouillet. Japy découvre alors un château totalement occupé par l'armée allemande.
Seconde Guerre mondiale
A partir de 1941, André Japy forme équipe avec le conservateur en chef du musée, Charles Mauricheau-Beaupré, pour la réorganisation et la remise en état du château durant la Seconde Guerre mondiale.
Après la guerre
Jusqu'à sa retraite en 1954, l’architecte continuera de mener à bien ses nombreuses restaurations, dont celles des Appartements privés de Louis XV et celle de l’Opéra royal, inauguré solennellement le 9 avril 1957 en présence du Président de la République française René Coty, et de Sa Majesté la Reine Elisabeth II.
André Japy s’éteint à Versailles le 4 mars 1960.