Die Grundsteine der heutigen Islamischen Föderationen wurden im 1976/1977 in Salzburg gelegt. 1978 wurde im 3. Wienerbezirk (Steingasse) die erste Liegenschaft angemietet. Nach mehreren Umzügen wurde dann 1988 im 6. Wienerbezirk (Webgasse) offizielle der erste Dachverband Islamische Föderation in Wien gegründet.
Die Moscheen der Islamischen Föderationen wurden in den 70er Jahren von muslimischen einstigen „Gastarbeitern“ mit Eigenmitteln finanziert und aufgebaut, um Räume für das religiöse, soziale und kulturelle Leben zu schaffen. Mangels finanzieller Möglichkeiten wurden in den Gründungsjahren oftmals Provisorien errichtet. Das war nicht weiter tragisch, weil diese Generation bis in die 80er und 90er Jahre ohnehin wieder zurück in die Türkei wollte und kein Interesse an bleibenden Einrichtungen hatte.
So pflegten sie ein enges Verhältnis zur Türkei und hatten ein lebhaftes Interesse an den politischen und wirtschaftlichen Entwicklungen ihrer Heimat. Infolge dieses Interesses wurden Kontakte in die Türkei geknüpft und Beziehungen gepflegt – zu Nichtregierungsorganisationen genauso wie zur türkischen Regierung und der Politik im Allgemeinen. Ziel war es, nach der Rückkehr in die Heimat, in einem politisch und wirtschaftlich stabilen Umfeld zu leben.
Aufgrund ihrer religiösen Grundausrichtung stand die Gründergenration Prof. Dr. Necmettin Erbakan nahe, dem Gründer der Millî-Görüş-Bewegung und somit auch dem Vorsitzenden der Millî-Görüş-Parteien in der Türkei. Aus dieser Nähe entwickelte sich im Laufe der Jahre ein Austausch mit gegenseitiger Unterstützung.
Ab den 90ern bemerkte die Gründergeneration jedoch, dass sie längst Wurzeln in Österreich geschlagen hatte und nicht mehr zurück in die Türkei wollte. Ihre Kinder gingen in Österreich in die Schule, hatten Ausbildungen absolviert und arbeiteten in Festanstellung; sie hatten sich an das Leben in Österreich gewöhnt, Freundschaften geschlossen und sich individuell und institutionell ein Leben in Österreich aufgebaut. Fortan wollten sie nicht mehr provisorische und vorübergehende Räumlichkeiten für ihre Moscheen, sondern entwickelten zunehmend Interesse an repräsentativen und bleibenden Einrichtungen, die gleichzeitig auch als Gemeindezentren Räume für diverse Zwecke bieten konnten. Sie investierten fortan in ihre Zukunft in Österreich statt in der Türkei. Dieser Wandel führte in den Folgejahren zu einer naheliegenden Interessenkollision mit der Millî Görüş in der Türkei.
Mit der Zeit kam es zunächst zu regionalen, später zu überregionalen Zusammenschlüssen dieser Organisationen. Die Zahl der Organisationen in Österreich wuchs stetig und es kamen dadurch Koordinationsprobleme zum Vorschein. Um Koordinationsprobleme zu bewältigen, sich für die Rechte der Mitglieder einsetzten zu können, um bestimmte Gottesdienste und die Voraussetzungen dafür zu realisieren wurde zuerst 1988 die „IFW – Islamische Föderation in Wien“, dann 1997 die „AİF – Österreichische Islamische Föderation“ und später 2008 die „ALIF – Austria Linz Islamische Föderation“ gegründet. Hierbei handelt es sich um die offiziellen Vereinsgründungsjahre.
Im Laufe der Jahre hat sich die Zusammensetzung der Moscheen, die den Islamischen Föderationen angeschlossen sind, gewandelt. Stammten in den Gründungsjahren die Gemeindemitglieder ganz überwiegend aus der Türkei, so kommen sie heute aus ganz vielen unterschiedlichen Herkunftsländern. Heute definieren sich die Islamischen Föderationen als Religionsgemeinschaft für alle Musliminnen und Muslime in Österreich.