Koning Leopold II, Tervuren en Kongo zijn drie begrippen die in de loop der jaren onlosmakelijk met elkaar zijn vervlochten. In 1897 was Brussel het decor voor de wereldtentoonstelling van dat jaar. Door de gehechtheid van Leopold II aan zijn Afrikaanse kolonie, kon die op de tentoonstelling niet ontbreken. Hij koos het Park Van Tervuren als locatie voor een Koloniale Tentoonstelling. Leopold II liet het prachtige Afrikapaleis (het vroegere Koloniënpaleis) bouwen door Albert-Philippe Aldrophe en trok een laan dwars door het Zoniënwoud om de toegankelijkheid te verbeteren. Het geheel werd opgeluisterd met tijdelijke Afrikaanse dorpen. De Koloniale Tentoonstelling was een overdonderend succes. Er werd beslist om de tentoonstelling om te vormen tot een permanent museum en een wetenschappelijke instelling. Le musée du Congo was geboren.
Door de vlugge aangroei van de collecties was de beschikbare infrastructuur al gauw onvoldoende. Er werden plannen opgesteld voor een nieuw museum. Dat werd vastgelegd met het koninklijk decreet van 3 december 1902. Oorspronkelijk was het de bedoeling om het geheel een mondiaal tintje te geven, maar die plannen werden al vlug opgeborgen.
De koning, die een zwak had voor imposante architecturale gebouwen, engageerde de architect Charles Girault op basis van zijn voorgaande project, Le Petit Palais in Parijs. De werken voor het Kleine Paleis in Tervuren startten in 1905 en waren al in 1908 voltooid. Leopold II opende zelf zijn grote project niet; hij stierf voor de officiële opening. Die vond pas op 30 april 1910 plaats, in aanwezigheid van koning Albert I. Met de befaamde Koninklijke Schenking van 1900 werd de site Tervuren aan de Belgische staat geschonken. Daardoor werd de Regie der Gebouwen bij haar oprichting in 1971 verantwoordelijk voor de gebouwen. Door de onafhankelijkheid van Kongo veranderde le musée van naam. Vanaf dan sprak men van het Koninklijk Museum voor Midden-Afrika.
