Đây là một công trình kiến trúc độc đáo và đặc sắc, có sự kết hợp hài hoà giữa nghệ thuật châu Âu và Đông Á. Nhà thờ được xây dựng chủ yếu bằng đá trong thời gian khá dài, từ năm 1875 đến 1899.

Toàn bộ diện tích của khu nhà thờ đá rộng 30.000 m2. Trên nền có 11 công trình được xây cất, bố trí hợp lý, tạo thành một cảnh quan đẹp mắt. Đi vào khu nhà thờ từ hướng Nam, sau hồ nước là một khoảng sân rộng rãi, thoáng đãng. Từ đây, du khách có thể quan sát tổng thể diện mạo của toà Phương Đình, được làm toàn bằng đá, có chiều dài 24 m, chiều rộng 17 m, chiều cao 25 m. 

Cả 3 tầng Phương Đình đều được xây dựng bằng những phiến đá, có phiến nặng hàng tấn. Đi qua Phương Đình, du khách bước vào nhà thờ lớn đồ sộ, xây dựng năm 1891, có 5 lối vào làm bằng đá, trạm trổ tinh tế, điêu luyện với các hoa văn, họa tiết ấn tượng. Nhà thờ lớn dài 74 m, rộng 21 m, cao 15 m, được dựng bởi 6 hàng cột gỗ lim, trong đó có 2 hàng cột ở giữa cao 11 m, chu vi mỗi cột là 2,35 m, nặng 7 tấn, đều làm bằng nguyên một thân cây lim.

Nằm song song hai bên nhà thờ Lớn, có 4 nhà thờ nhỏ đăng đối nhau là nhà thờ Thánh Rôcô, nhà thờ Thánh Giuse, nhà thờ Trái tim Đức Mẹ và nhà thờ Thánh Pêrô. Mỗi nhà thờ là một tác phẩm kiến trúc mỹ thuật mang nét riêng vốn có.
 
Điểm nhấn trong quần thể nhà thờ Phát Diệm chính là nhà thờ Trái tim Đức Mẹ, quen gọi là nhà thờ Đá, được xây dựng hoàn toàn bằng đá, từ nền, tường, chấn song, cột, xà, các bức phù điêu… 

Lối kiến trúc này chỉ có duy nhất ở Việt Nam và hiếm gặp trên thế giới. Chính vì lẽ đó, từ trước đến nay người ta đã lấy tên gọi của nhà thờ Đá để đặt gọi chung cho cả khu nhà thờ xứ Phát Diệm.