على الرغم من أن مكتبة الآغا خان في لندن تُعَد حديثة العهد نسبيًا، إلا أن الفكرة الرامية لتطويرها بدأت تتشكل في عام 2008، حينما بدأ معهد دراسات الحضارة الإسلامية التابع لجامعة الآغا خان (AKU-ISMC) ومعهد الدراسات الإسماعيلية (IIS) في الانتقال إلى نفس المبنى في وسط لندن. استمرت هاتان المؤسستان في التعاون مع المكتبات المستقلة الموجودة في المرافق نفسها، وذلك من خلال الحفاظ على الاستراتيجيات والمجموعات والفرق المختلفة.

في عام 2014، وبهدف تحسين تقديم الخدمات لمجتمع الباحثين والطلاب وأعضاء هيئة التدريس، اتخذت المكتبات خطوة إلى الأمام من خلال الاندماج غير الرسمي تحت اسم مكتبة معهد دراسات الحضارة الإسلامية المشتركة (ISMC) ومعهد الدراسات الإسماعيلية (IIS-ISMC). تأتي هذه المكتبة كمؤسسة موحدة تجمع بين مجموعتين قيمتهما لا تقدر بثمن، بهدف تيسير وتسهيل عمليات البحث والدراسات المتعلقة بالتخصصات في ميدان الدراسات الإسلامية والثقافات الإسلامية.