Zindan kapija podignuta je sredinom 15. veka radi bolјe zaštite Istočne kapije, koja je u to vreme bila glavni ulaz u grad. Kapija zapravo predstavlјa malo predutvrđenje – barbakan, sačinjeno od dveju masivnih polukružnih kula, između kojih je prolaz. Prostor prema ugaonoj kuli Gornjeg grada zatvarao je lučni bedem, visok oko 11 m. Pred kapijom je nekada bio i rov, preko kojeg se pružao pokretni drveni most. Iznad luka kapije postoji mala pravougaona niša, sa ležištem za ikonu zaštitnika grada. Na kulama i lučnom bedemu ovog kompleksa nalazi se sedam topovskih otvora. To je mesto gde je prvi put primenjen artilјerijski odbrambeni sistem, odnosno odbrana vatrenim oružjem. Upravo sa ovih položaja Beograd je uspešno odoleo turskoj opsadi 1456. godine.

U vreme velikih austrijskih radova na obnovi Beogradske tvrđave u prvoj polovini 18. veka, kompleks Zindan kapije temelјno je rekonstruisan. Kule su dobile svodove od opeka, kao i zidana stepeništa sa pristupnim hodnicima, a lučni bedem je tom prilikom ojačan zemlјanim nasipom. Tokom 18. veka kule su po svoj prilici služile kao tamnice, o čemu svedoči i današnji naziv kapije – na turskom jeziku reč zindan označava upravo tamnicu, zatvor.