Nekropolia ta, założona w początkach XIX w., służyła początkowo jako cmentarz wojskowy, by po II wojnie światowej, połączona z sąsiednim Cmentarzem Bożego Ciała, stać się cmentarzem komunalnym.
Do najstarszych zachowanych na cmentarzu grobów należą mogiły pruskich oficerów. Pochowano tam również jeńców zmarłych w pruskiej i niemieckiej niewoli. Leżą tam żołnierze austriaccy - jeńcy z czasów wojny prusko-austriackiej roku 1866, znajduje się tam też pomnik francuskich jeńców wojny prusko-francuskiej z lat 1870-71, aczkolwiek ich prochy przeniesiono na Wojskowy Cmentarz Francuski przy ul. Powstańców Warszawskich. Oglądać można także mocno zniszczony pomnik jeńców rosyjskich z lat I wojny światowej. W najwyżej położonej części cmentarza znajduje się duża kwatera blisko tysiąca żołnierzy niemieckich, uporządkowana w latach 90. W pobliżu kaplicy cmentarnej zachował się także nagrobny pomnik 16 marynarzy - ofiar eksplozji na krążowniku Magdeburg, wysadzonego przez własną załogę w 1914 r. w Zatoce Fińskiej.
Na grobach żołnierzy rożnych armii nie kończy się jednak międzynarodowy i wielokulturowy charakter cmentarza. Odnajdziemy na nim groby rosyjskich emigrantów - uciekinierów z ogarniętej rewolucją październikową Rosji, kwaterę muzułmańską, głównie z grobami członków społeczności polskich Tatarów, oraz pojedyncze groby przedstawicieli różnych innych narodowości.
Do cmentarnego kompleksu przy Bramie Oliwskiej zalicza się również mauzoleum żołnierzy radzieckich przy ul. Giełguda, którzy polegli podczas walk o Gdańsk w 1945 r. Łączna liczba pochowanych tam żołnierzy przekracza podobno trzy tysiące. Na czarnych, kamiennych tablicach przeczytać można nazwiska przedstawicieli przeróżnych narodów składających się na etniczną mozaikę radzieckiego imperium.
Po przeciwnej względem Cmentarza Garnizonowego stronie ulicy Dąbrowskiego, wśród drzew porastających fortyfikacje Gradowej Góry znajduje się pomnik w formie obelisku z czerwonego granitu zwieńczony prawosławnym krzyżem. To tzw. "rosyjski grób", czyli monument poświęcony rosyjskim żołnierzom, którzy polegli w trakcie oblężeń Gdańska w latach 1734, 1807 i 1813. Pomnik ufundował carski rząd w ostatnich latach XIX w., a kamień do jego budowy sprowadzono z Finlandii.
Nieco niżej, przy Kościele Bożego Ciała, na terenie dawnego cmentarza szpitalnego powstał w latach 90. Cmentarz Nieistniejących Cmentarzy. Miał on być formą zadośćuczynienia za powojenną dewastację i likwidację dawnych gdańskich cmentarzy, formą upamiętnienia tych wszystkich, którzy swoich grobów, a przynajmniej nagrobków już nie mają. Myśl przewodnia cmentarza-pomnika jest z założenia wielokulturowa. Oprócz umieszczonych na nim oryginalnych płyt nagrobnych, pochodzących ze zlikwidowanych cmentarzy, w centralnym punkcie znajduje się "ołtarz" z napisem "Tym, co imion nie mają", wyrastający z rumowiska potłuczonych płyt nagrobnych z emblematami różnych religii obecnych w historycznym (ale także współczesnym) Gdańsku.
Prawdziwym jednak manifestem żywej gdańskiej wielokulturowości są odbywane corocznie w dniu 1 listopada na terenie Cmentarza Nieistniejących Cmentarzy ekumeniczne spotkania modlitewne. W atmosferze zgody i wzajemnego szacunku modlą się tam przedstawiciele i kapłani różnych wyznań. Towarzyszą im licznie gromadzący się na cmentarzu mieszkańcy Gdańska. Pastor i ksiądz, rabin i imam, podający sobie ręce na powitanie, a następnie odmawiający (każdy według swojego rytuału i w swoim języku liturgicznym) modlitwę w tej samej intencji - pamięci o zmarłych - to wzór ekumenizmu i autentycznej wielokulturowości godny naśladowania w całym współczesnym świecie.