الجامع مبني على طراز المساجد العباسية,شُيّد الجامع الكبير بالتزامن مع تأسيس رافقة، وامتد 100×90 م ويضم فناء وأروقة مبنية من الآجر المغلف بالجص. أضيفت في العهد الايوبي مئذنة مربعة وتيجانًا بازلتية معادة الاستخدام من مباني قديمة.
بُنيَت الجدران الخارجية للجامع بداية باللبن الترابي، ثم أضاف إليها الخليفة هارون الرشيد أجزاء آجرية عند ترميمه للجامع؛ عندما قام بمشروعه الكبير بتوسيع مدينة الرافقة نحو الشمال الشرقي؛ ليضم جميع أجزاء المدينة القديمة ويصلها مع بعضها ويتخذ من المدينة الجديدة مقراً دائماً لإقامته سنة ١٨٠هـ /٧٩٦م.
تضرر المسجد بشدة خلال معارك 2017 وخاصة الاروقة والسقف لاحقا بُني سقف إسعافي للفناء، ما زالت الأروقة تنتظر إعادة الإعمار. برنامج «إحياء جامع المنصور» يتبنى ترميم المئذنة بالحجر الأصلي وإعادة فتح الفناء للمصلين.
