Parkområdet består av tomterna där villorna Bråvalla, Kinnekulle och Miramar tidigare låg. Sibeliusparken, då ännu under namnet Hummelviksparken, hade i 1906 års detaljplan anvisats som bostadsområde men ändrades i 1916 års detaljplan till rekreationsområde. Efter en detaljplaneändring 1929 går Mechelingatan nu genom parken.
Sibeliusparken – med det finska smeknamnet ”Sibbari” – är en informell landskapspark enligt engelsk modell, anpassad till det finländska kustlandskapet. Arbetet på parken tillägnad Finlands mest berömda och uppskattade kompositör Jean Sibelius (1865–1957) inleddes 1937 och tog tre år. Parken hade hetat både Hummelvikens naturpark och Kinnekulleparken. År 1945 fick parken sitt nuvarande namn för att ära mästerkompositören Jean Sibelius på hans 80-årsdag. Stadsträdgårdsmästarna Emil Aranko och Bengt Schalin svarade för omformningen av parken, vilket främst bestod av kompletterande planteringar. Parken fick också en damm och fontän, och Hummelvikens strandlinje fylldes ut för att göra den tillgänglig för fotgängare.
Björkdungen i parken har fått mycket beröm. Till skillnad från vad som var brukligt fick besökare gå på gräsmattorna, där också liljekonvaljer och narcisser planterades. På det här sättet har det ursprungliga naturlandskapet utvecklats till den varierande landskapspark som parken, som fått namn efter Finlands nationalkompositör, idag är.
Sibeliusparken hyser också två skulpturer. År 1939 ordnade Leo och Regina Wainsteins stiftelse en tävling om en skulptur med motiv från Kalevala, som skulle placeras i Helsingfors. Aarre Aaltonen (1889–1980) vann tävlingen med sitt förslag Ilmatar och dykanden, och det beslöts att bronsskulpturen skulle placeras i det som idag är Sibeliusparken. Skulpturen avtäcktes 1946.
Under årens lopp har parken varit föremål för olika kompletterings- och reparationsarbeten, t.ex. kring Sibeliusmonumentet 1967.
År 1983 planterades en dunge masurbjörkar vid hörnet av Mechelingatan och Sommargatan för att hedra president Mauno Koivisto på hans 60-årsdag. Många av de ursprungliga björkarna har dött och därför ska dungen kompletteras med masurbjörkar som erhållits genom mikroförökning.