In 1828 kregen de gemeentes de plicht om voor een hygiënisch verantwoorde begraafplaats te zorgen. De gemeente Arnhem nam toen de Coehoornbegraafplaats over. Verder was er nog een rooms-katholieke begraafplaats aan de Steenstraat / Hommelstraat (waar nu de Sint-Martinuskerk staat).
Toen die te klein werden kocht de gemeente in 1849 van het Sint Petersgasthuis een stuk grond aan de Hommelseweg om daar de begraafplaats Onder de Linden aan te leggen.

Als eerste (in 1852) werd daar direct aan de Hommelseweg het rooms-katholieke gedeelte in gebruik genomen, enkele jaren daarna (in 1862) langs de Hermonylaan het algemene deel, en (in 1858) een joods gedeelte ten noorden van het huidige Talmaplein.

Al in 1873 dreigde deze begraafplaats overvol te raken en werd een begin gemaakt met de aanleg van de begraafplaats Moscowa, waar in 1876 de eerste begrafenis plaatsvond. Op Onder de Linden werd toen alleen nog begraven in bestaande familiegraven begraven.
In 1926 werd de begraafplaats helemaal gesloten.

Al eerder was een deel van de graven geruimd. Rond 1909 werd daar voor het eerst officieel korfbal gespeeld.
In 1930 werd op een ander deel van de voormalige begraafplaats een speeltuin geopend, op de plek waar tegenwoordig De Leuke Linde is. De graven waren daar natuurlijk toen ook al geruimd.
Het duurde nog tot 1959 voordat ook de laatste graven van de algemene en rooms-katholieke gedeelten waren verwijderd. Daarna werd in juni 1960 het Entreegebouw met aula gesloopt. Die stond ongeveer waar nu de ingang van de speeltuin is.
De graven van het joodse gedeelte werden in 1985 overgebracht naar de joodse begraafplaats op Moscowa. Het joodse kerkhof is op verordening van de gemeente ook geruimd, hoewel binnen het joodse geloof eeuwige grafrust heel erg belangrijk is.