Mezarlık, Kırım Savaşı'na katılıp da yaralı olarak İstanbul'a getirilen; ancak tarihte ilk kez Florence Nightingale tarafından oluşturulan organize askerî hastanede kolera nedeniyle yaşamlarını yitiren İngiliz askerleri için tahsis edilmiştir.

Haydarpaşa İngiliz Mezarlığı'nın kurulu olduğu arazi Kanuni Sultan Süleyman'ın özel mülklerindendi.[2] Bu arsa 1855 yılında İngiliz hükûmetine bağışlandı. Kırım Savaşı'nda ölen askerlerin yanı sıra, mezarlıkta Birinci ve İkinci Dünya savaşlarında çeşitli nedenlerle yaşamını yitiren İngiliz vatandaşı asker ve siviller de gömülüdür. 1867 yılından bu yana, 700'ü aşkın sivil mezarlık içinde ayrı bir bölümde gömülmüştür. Mezarlıkta yatan tanınmış siviller arasında I. Elisabeth dönemi İngiliz büyükelçisi Sir Edward Barton bulunmaktadır.. 1898-1908 yılları arasında İstanbul'daki İngiliz Büyükelçisi Sir Nicholas O’Conor-Don da burada gömülmüş ve anısına mezarlık içinde bir şapel yaptırılmıştır..

1925'e dek işletmesi, korunması ve diğer sorumlulukları doğrudan İngiliz hükûmeti tarafından üstlenilmekte olan mezarlığın işletmesi Commonwealth War Graves Commission (Britanya Savaş Mezarlıkları Komisyonu) adlı kuruluşa bırakıldı.
