Ännu i början av 1800-talet bestod området av klippig skog och små odlingslotter. På 1850-talet blev parkmecenaten och Brunnsparkens fader kommerseråd Henrik Borgström (1799–1883) intresserad av området. Borgström drömde om att anlägga en brunnsrestaurang längst inne i Tölöviken. Det fanns också planer på att bygga en djurgård och därför fick hela området namnet Djurgården.
Projektet var så omfattande att man 1851 grundade Tölö parkbolag för detta ändamål. Djurgårdsparken var vid den tiden stadens största park, och särskilt populär bland promenerande.
En avgörande händelse i parkens historia var byggandet av järnvägen mellan Helsingfors och Tavastehus 1858–1862. Järnvägen delade området i två delar och förstörde hälsokällan. Detta ledde till att bolagets aktier inte längre lockade köpare, och djurgårds- och badhotellsprojekten rann ut i sanden. På östra sida om järnvägen lät kommerseråd Borgström ändå bygga en restaurang som han gav namnet Alppila/Alphyddan. Parken kring restaurangen började kallas Alpparken. Borgström använde egna medel för att plantera parkväxter och skapa terrasseringar i parken.
Restaurangen brann ned 1875 men byggdes upp på nytt, bara för att till slut ändå förstöras av en eldsvåda den 8 oktober 1951. Det enda som idag finns kvar är stenfoten norr om Tivolivägen. Den används numera som utsiktsplattform.
Åren 1875–1907 skötte Finska trädgårdsföreningen om Alpparken och dess paviljong.
Sedan 1908 har staden skött om parken. Åren 1913 och 1914 rustades parken, inklusive dammarna, fontänerna och planteringarna, upp enligt stadsträdgårdsmästare Svante Olssons planer.
Stilmässigt är Alpparken en typisk landskapspark från början av 1900-talet med ankdammar och slingrande gångar. De 30 meter höga klipporna gör parklandskapet imponerande. En av de första hoppbackarna i Helsingfors låg i tiderna här. Den ljusa sänkan intill klipporna formligen lockar parkbesökare att flanera och spela olika spel. Dammarna i sin tur är lämpliga för den som i lugn och ro till exempel vill följa med ändernas lek.
Totalrenovering, underhåll och utveckling
År 1985 genomgick parken en omfattande renovering. Den asfalterade cykelvägen mitt i parken flyttades intill järnvägsspåret. På så sätt fick man ett enhetligt och lugnt område inne i parken. Samtidigt avlägsnades pansarstaketen kring dammkanterna.
En enhetlig gräsmatta sträcker sig från dammarna till sluttningen, där en terränganpassad amfiteater har byggts. Den öppna paviljongen bredvid amfiteatern lämpar sig som musikestrad och är också ny, liksom paviljongen på backen. Modellerna för paviljongerna har hittats i historiska bilder.
I Alpparkens sluttning står 80 bergkörsbärsträd, donerade av japaner som bor i Helsingfors, och när träden blommar är parken en verklig upplevelse. Vid kanten till en av dammarna växer en tårbjörk. Dessutom förekommer det 13 olika poppelarter i parken. Stora perennplanteringar bidrar också till parkupplevelsen.
På 2010-talet har även mer sällsynta växter planterats i parken, både i experimentsyfte och med tanke på klimatförändringen. Till dessa hör gulved, japansk vingnöt, Manchurisk strimlönn, magnolia ‘Wada´s Memory’, koreansk azalea, bok, avenbok, fylldblommiga och enkelblommiga sötkörsbär samt koreatry och stor häxal. Parken har totalrenoverats bit för bit enligt en skötsel- och utvecklingsplan från 2007. Idag är Alpparken en av de mest förtjusande parkerna i Helsingfors, i fråga om både landskapet och det artrika växtbeståndet. Den är särskilt populär för små konserter och evenemang samt som picknickpark.