Pierwotny kościół Ducha Świętego został zbudowany w 1872 roku i podobno jest najstarszym kościołem na kontynencie w Afryce Wschodniej, pełniąc funkcję domu sióstr oraz będąc częścią Misji Ducha Świętego, jednej z pierwszych chrześcijańskich misji w Afryce Wschodniej. W 1874 roku David Livingstone został pochowany na jeden nocleg w Misji Ducha Świętego. Wieża Livingstone'a, będąca częścią pierwotnego kościoła, została nazwana na jego cześć.
Dom Sióstr, zbudowany w 1876 roku, został przekształcony w Muzeum Misji Rzymskokatolickiej i zawiera wiele wzruszających eksponatów, takich jak fotografie niewolników skuwanych łańcuchami za szyje, eksponaty dotyczące historii pracy misyjnej i nawrócenia na chrześcijaństwo, książki i broszury na temat prehistorii Bagamoyo, indyjskie i arabskie framugi drzwiowe, kajdany, łańcuchy i baty używane podczas handlu niewolnikami oraz wiele lokalnych wyrobów z drewna.