La date de début correspond à la date de déclaration en préfecture. La date de fin correspond à la date de fin d'activité approximative.
La présidence du CNMF est successivement assurée par Alexandre Parodi puis par André Wormser.
Après la signature des accords d’Évian, le 18 mars 1962, et face aux massacres perpétrés en Algérie, un afflux important de réfugiés en métropole conduit à la création du Comité national de solidarité pour les Français musulmans, le 10 juillet, à l’initiative de jeunes officiers ayant servi en Algérie. Devenu Comité national pour les musulmans français (CNMF) et patronné par Alexandre Parodi (1901-1979), alors vice-président du conseil d’État, il est déclarée à la préfecture de la Seine le 2 janvier 1963. Son objet est la défense des intérêts moraux et matériels des musulmans français ; l’aide aux pouvoirs publics dans leurs tâches d’accueil, d’installation, d’adaptation et d’emploi des musulmans français en métropole ; la coordination et l’animation des entreprises privées ayant des buts analogues.
Dans un premier temps, l’action du CNMF est concentrée sur l’accueil de ces réfugiés et les questions matérielles qui en découlent, dans les trois catégories de regroupements où ils sont installés : hameaux forestiers (principalement dans les régions Provence-Alpes-Côte d’Azur et Languedoc-Roussillon), cités urbaines (Amiens, Bourges, Lodève, Louviers, Montpellier, etc.) et cités d’accueil pour handicapés (Bias et Saint-Maurice-l’Ardoise).
Parallèlement, l’action du comité est tournée vers l’intégration de ces réfugiés. Parmi les démarches entreprises, l’une d’elles consiste à résoudre les problèmes d’échec scolaire. Dès 1964, le CNMF coordonne la création de deux centres éducatifs (à Ongles, dans les Alpes de Haute-Provence, et à Salérans, dans les Hautes-Alpes) qui accueillent des adolescents non scolarisés dans un but de rattrapage scolaire et de préformation professionnelle. L’expérience se révélant être un succès, elle est reconduite à Chantenay-Saint-Imbert, dans la Nièvre, avec la construction d’un nouveau centre, en 1971. Pour les enfants scolarisés mais en butte à des difficultés, le CNMF fonde un foyer de soutien scolaire et socio-éducatif à Toulouse, en 1972, soutenu par le secrétariat d’État aux Rapatriés. Une autre démarche du CNMF est tournée vers la création d’emplois et la formation professionnelle. Ainsi, l’association est à l’initiative de la création d'une société financière, Entreprendre en France, susceptible de donner une caution de bonne fin aux banques qui fourniraient les fonds initiaux (avec un plafond de 150 000 à 200 000 francs) pour la création d’une entreprise.
En outre, le CNMF veille à l'évolution et à l'application de la loi et des décisions gouvernementales relatives à ces réfugiés, notamment en obtenant la modification du décret d'option de nationalité concernant les harkis. Il peut s’agir également de suivre l’évolution administrative des interlocuteurs étatiques en charge des musulmans français pour faciliter les démarches de ces derniers : suppression des camps d’accueil et mise en place de Bureaux d’information, d’aide administrative et de conseil (BIAC, entre 1975 et 1976), remplacement des BIAC par une Délégation nationale à l’Action sociale, éducative et culturelle (DNASEC en 1981), transformation de la DNASEC en Office national à l’Action sociale, éducative et culturelle (ONASEC, en 1984), etc.
En ce sens, soucieux de fonder son action sur des analyses scientifiques, le CNMF suscite, finance, soutient ou participe à des études universitaires dont l’objet des recherches porte sur cette population de réfugiés : par exemple, les enquêtes de Jean Henri Servier (1918-200) en 1972 et 1985, ou la thèse de Mohand Hamoumou, Les Français-musulmans rapatriés : archéologie d’un silence, soutenue en 1989 à l’École des hautes études en Sciences sociales.
À partir des années 1990, l'activité du CNMF semble être progressivement réduite. En 2007, il est « mis en sommeil » par le conseil d'administration et la possibilité d'une absorption par une autre association est envisagée.