Der erste Sakralbau in Attendorn wurde im 9. Jahrhundert errichtet. Diese Urpfarrei des Sauerlands wurde 1072 erstmals urkundlich erwähnt. Zahlreiche Brände zwischen dem 11. und 14. Jahrhundert führten mehrfach zur Zerstörung des Kirchengebäudes an dieser Stelle.
In der zweiten Hälfte des 14. Jahrhunderts entstand dann der heutige Kirchbau der St. Johanns Baptist Kirche, der auch als Sauerländer Dom bezeichnet wird. Der Bau ist durch einen erhaltenen romanischen Turm aus der Zeit um 1200 und ein gotisches Langhaus mit sechs Jochen aus dem 14. Jahrhundert gekennzeichnet. Zwei dieser sechs Joche springen seitlich etwas hervor, so dass optisch eine Art Querschiff entsteht. Die anderen vier Joche zeigen sich an der Außenseite mit Zackenfries und Vierpassblenden. Bemerkenswert ist die später hinzugefügte barocke Haube des Turms, die seit 1634 den Kirchturm krönt.
Beim Stadtbrand vom 13. Juli 1783 wurden Großteile der Innenausstattung des Sauerländer Doms zerstört. Der darauffolgende mühsame Wiederaufbau der Pfarrkirche erstreckte sich über mehrere Jahre hinweg. Auch der Bombenangriff im Zweiten Weltkrieg vom 28. März 1945 verursachte große Schäden, deren Reparaturen sich bis 1960 hinzogen.