Deze begraafplaats zou in oktober 1914 ontstaan zijn uit een Britse begraafplaats. Na de gasaanval van 22 april 1915 kwam de begraafplaats tot in de zomer 1917 in Duits gebied te liggen. Ongeveer een halfjaar later, in april 1918 namen de Duitsers opnieuw Langemark in. Tijdens de oorlog steeg het aantal bijzettingen zodat er in 1919 graven waren van Duitse, Franse, Britse en Belgische doden: in totaal 859, waaronder 627 Duitse.
In de eerste jaren na de oorlog was het de Belgische dienst voor oorlogsgraven die instond voor de herinrichting. De Duitse Dienst voor Oorlogsgraven nam de taak over. De begraafplaats werd verder uitgebreid op het huidige laagst gelegen deel. In totaal kwamen er 10.143 individuele graven waaronder 6.313 geïdentificeerden en bijna 4.000 niet-geïdentificeerden. Onder deze gesneuvelden bevonden zich ook zo'n 3.000 vrijwilligers die stierven tijdens de Duitse bestorming op Langemark in het najaar 1914. Door het grote aantal studenten onder deze vrijwilligers, kreeg de begraafplaats de naam 'Studentenfriedhof'.
De 'Volksbund Deutsche Kriegsgräberfürsorge' zorgde vanaf 1930 voor de nieuwe inrichting van de begraafplaats, met de hulp van Duitse studentenorganisaties en oudstrijdersverenigingen van een groot aantal regimenten. Op 10 juli 1932 werd de begraafplaats ingewijd. In 1952 besloten de regering van België en de Bondsrepubliek om in Vlaanderen te komen tot vier grote Duitse begraafplaatsen (Vladslo, Hooglede, Menen en Langemark) door de kleine Duitse begraafplaatsen te ontgraven.
Volgens opgegeven cijfers liggen er nu dus meer dan 44.000 Duitse doden:
- 10.143 geïdentificeerden en niet-geïdentificeerden op het oorspronkelijke grafveld
- 9.257 geïdenficeerden op het vroegere klaprozenveld
- bijna 25000 in het kameradengraf