Nos princípios da ocupação portuguesa, os terrenos às margens da atual Lagoa Rodrigo de Freitas eram divididos basicamente em três engenhos: Nossa Senhora da Cabeça, Vale da Lagoa e Nossa Senhora da Conceição, este último construído ainda em 1598 e desapropriado em 1808 pela Coroa Portuguesa para construção da Real Fábrica de Pólvora. Nele, havia uma pequena capela dedicada à Imaculada, posta em ruínas e reedificada no período. Durante um breve período a partir de 1809, enquanto a Matriz de São João Batista da Lagoa era ereta, esta capela da Imaculada então reconstruída serviu de Matriz da Freguesia da Lagoa, tendo desabado em 1826 (hoje estaria situada num terreno onde se encontra a EMBRAPA. Com a inauguração de São João em 1831 e a crescente população da Lagoa, foi doado um novo terreno para a capela, cuja construção foi autorizada em 1852. 

Em 1857 as obras já estavam finalizadas e em 18 de junho de 1873 é criada a Freguesia de Nossa Senhora da Conceição da Gávea. Destruída por um incêndio em 1934, pouco do seu acervo original foi salvo, sendo reconstruída com o empenho dos paroquianos da Gávea. A matriz apresenta partido arquitetônico e pórtico com características volumétricas e cantarias ainda condizentes com sua construção no século XIX. Tem portada principal única com chaveta central e duas portas laterais em arco abatido; duas torres com janelas nos seguindo pavimento, arco pleno e chaveta central, campanário simples, dois entablamentos abaixo do zimbório em seção triangular com base quadrangular e cruz na grimpa. Há, ainda, uma janela na altura do coro, com sobreverga abatida – tal qual ocorre nas outras fenestras do segundo tramo. As fenestras laterais são retangulares, em cantaria, ainda originais. O frontão, com duas empenas, é triangular e possui trabalho em relevo simplificado com monograma Mariano no tímpano e arremate superior em angras com cruz no acrotério.