C’est à Carthage, aujourd’hui banlieue de Tunis, qu’on retrouve les premières traces d’une présence juive en Afrique du Nord. Il faudra attendre le VIe siècle avant J.-C. pour voir débarquer à Djerba, non loin de Carthage, des juifs fuyant la Judée après la destruction de leur premier temple par Nabuchodonosor. Plusieurs milliers d’entre eux ont trouvé refuge dans cette ville qui abrite d’ailleurs la plus vieille synagogue du continent africain (la Ghriba). Elle est restée jusqu’à nos jours un lieu de pèlerinage pour des milliers de juifs.
A Cap Bon, à 110 Km, des vestiges ont été découverts, prouvant ainsi l’immigration des juifs dans la région entre le IVe et le Ve siècle avant J.-C.
L’Egypte a aussi connu cette immigration sur son territoire. 100 000 Juifs furent déportés d’Israël en Egypte. C’était au IIIe siècle avant J.-C. L’œuvre de Flavius Josèphe fait bien le compte-rendu de l’histoire dans ’’La guerre des juifs’’.
Selon francetvinfo, entre les persécutions des chrétiens et la résistance à l’envahisseur arabe, les différentes communautés juives se sont dispersées autour de la Méditerranée. L’arrivée massive des juifs espagnols et portugais, chassés par les persécutions de l’Inquisition, sur les côtes du Maroc et d’Algérie, a permis au judaïsme revivre en Afrique du Nord. Les familles portant les noms de Toledano, Cordoba, Berdugo témoignent de ces racines ibériques.
En 1948, bon nombre de Juifs ont quitté le Maroc et la Tunisie et se sont éparpillés en Israël, au Canada et aux Etats-Unis. D’autres, plus précisément, ceux d’Algérie seront "rapatriés" en France métropolitaine. Avec les années 1960, en pleine ferveur des indépendances, ils ont quitté le Maghreb. Ils ne sont plus que quelque 5000 répandus dans toute l‘Afrique du Nord.