Jusqu'au XIIIe siècle, les enseignements étaient dispensés par des écoles monastiques et, vers la fin de cette période, par des écoles cathédrales. Grammaire, rhétorique, logique, arithmétique, musique, astronomie et géométrie formaient les sept disciplines principales, les « arts libéraux » hérités de l'Antiquité ; la théologie tenait également une place prédominante. Des écoles indépendantes, organisées autour d'un maître, commencèrent à se développer à partir du XIe siècle, remettant en cause le monopole de l'Église sur l'enseignement. L'association des différents maîtres combinée au déclin intellectuel des écoles cathédrales permit la naissance, en 1215, de l'université de Paris dont le pape prit acte, en 1231, par la bulle Parens scientiarum. Le XIIIe siècle fut marqué par l'acquisition d'une autonomie grandissante face aux pouvoirs royaux et épiscopaux grâce au soutien de la papauté.

Parmi les premiers érudits associés à l'université, il faut noter le philosophe Pierre Abélard qui y étudia la théologie. L'université fut divisée au XIIIe siècle en quatre facultés : médecine, droit canon, lettres et théologie. La faculté de lettres fut à son tour divisée en nations, d'après la nationalité des professeurs et des étudiants.

Au XIVe siècle, l'université comportait quarante collèges religieux et séculiers, dont la Sorbonne fondée vers 1257 par le théologien français Robert de Sorbon et qui devint le plus fameux d'entre eux. Conçue à l'origine comme résidence des étudiants en théologie nécessiteux et désignée comme la Communauté des pauvres maîtres étudiants en théologie, elle reçut le nom populaire de Sorbonne dès la fin du XIIIe siècle.

Au cours des trois siècles qui suivirent, la Sorbonne devint l'institution d'éducation religieuse la plus renommée d'Europe, avant tout grâce à la qualité des enseignements concernant le dogme et le droit canon.

Cette renommée n'empêcha pas les conflits avec les ordres mendiants, principalement dominicains et franciscains. Les enseignants qui appartenaient à ces ordres furent exclus de l'université au XIIIe siècle, crise qui aboutit, en 1255, à l'excommunication de l'université tout entière. L'absolution fut prononcée peu après la réintégration des ordres mendiants à l'université parmi lesquels se trouvaient alors le dominicain Thomas d'Aquin et le franciscain Bonaventure. Le premier tint l'un des rôles principaux dans la seconde crise, celle de la scolastique qui affecta l'université au XIIIe siècle en essayant de combiner pensée aristotélicienne et augustinisme, c'est-à-dire pensées grecque et catholique.

La réputation de l'université commença à décliner au XIVe siècle en raison de son conservatisme et de sa résistance aux réformes de l'enseignement provoquées par le développement de l'humanisme. Pour contourner ces résistances, François Ier créa, en 1530, le Collège de France.

Les troubles religieux et les guerres civiles qui se produisirent aux XVe et XVIIe siècles en France contribuèrent au déclin général de la réputation académique de l'université, mais son influence politique s'accrut et les différentes facultés jouèrent un rôle de premier plan pendant la Réforme. À la même époque, le pouvoir politique affirma son emprise sur les universités d'autant plus facilement qu'il finançait salaires et constructions.

En 1793, pendant la Révolution française, la Convention abolit toutes les universités de France. Ce n'est qu'en 1808 que l'université de Paris put rouvrir ses portes, lorsque Napoléon Ier réorganisa le système d'éducation français placé sous l'autorité de l'Université de France. Il ne s'agissait cependant pas d'une restitution du système antérieur : dans l'optique napoléonienne, la nouvelle université devait contribuer à la formation des dirigeants d'un pays encore marqué par les événements révolutionnaires. Les programmes étaient étroitement réglementés et le personnel d'enseignement était d'autant plus facilement surveillé qu'il se trouvait intégré au corps des fonctionnaires de l'État. Les facultés de lettres, de droit, de médecine et de sciences furent installées à la Sorbonne, de même qu'une faculté de théologie qui fut abolie par la suite. La Sorbonne fut désignée comme le siège de l'Académie de Paris, et la France fut alors divisée en 17 districts administratifs. Une bibliothèque fut installée à la Sorbonne en 1808 : celle-ci contient aujourd'hui plus de trois millions de volumes. Aux termes de la loi d'orientation de 1968 qui réforma l'enseignement supérieur français, l'université fut divisée en 13 institutions d'enseignement et de recherche autonomes.

Actuellement, les universités de Paris sont donc au nombre de treize et font œuvre d'enseignement et de recherche dans les domaines des arts et des lettres, des sciences, des sciences sociales, de la médecine, du droit, des sciences économiques, de la technologie et de la pharmacie. Des écoles et des instituts, comme l'École nationale supérieure des beaux-arts ou le Collège de France, sont associés aux universités dans des domaines très divers. D'autres écoles spécialisées sont administrativement indépendantes des universités, mais leurs étudiants obtiennent des diplômes équivalents à ceux qui sont délivrés par les universités.

Les bibliothèques des universités de Paris possèdent plusieurs millions de volumes, ainsi que d'importantes collections de manuscrits, d'incunables et de cartes. Les plus anciens de ces documents furent transférés aux Archives nationales de Paris en 1794.