La paléoneurologie, paléoneurobiologie ou neuropaléontologie, est l'étude de l'évolution du cerveau fondée sur l'analyse des moulages endocrâniens des vertébrés fossiles. Elle est considérée comme une sous-discipline de la paléontologie et des neurosciences. Comme les autres branches de la paléontologie, elle donne un aperçu spécifique de l'évolution des espèces. La paléoneurologie suppose une connaissance du fonctionnement des cerveaux des êtres vivants actuels, sans laquelle il est impossible de faire des inférences sur le fonctionnement des cerveaux anciens.
Le cerveau étant formé de tissus mous qui se décomposent rapidement après la mort, il n'est généralement pas disponible. Toutefois, appuyant sur la surface interne du crâne, il y a laissé des empreintes qui subsistent parfois pendant plusieurs millions d'années. Les paléoneurologues analysent les moulages de l'intérieur du crâne, ou endocastes, qui reproduisent les détails de la morphologie externe des cerveaux imprimés sur les surfaces internes des crânes.
Les crânes fossiles et leurs moulages peuvent être comparés les uns aux autres ; ils peuvent être également confrontés aux crânes et fossiles d'individus modernes, et même comparés à ceux d'autres espèces pour faire des inférences sur l' anatomie fonctionnelle, la physiologie et la phylogénie.
Histoire thumb|left|Évolution du crâne du cheval : de son lointain ancêtre, lHyracotherium, de la taille d'un agneau, au cheval d'aujourd'hui. Anatomie comparée Georges Cuvier, principal fondateur de l'anatomie comparée, qui se développe au , peut être considéré comme un précurseur de la paléoneurologie. Dans la cavité crânienne remplie de matrice sédimentaire d'un Anoplotherium (genre éteint de mammifère de la fin du Paléogène), il identifie un moulage endocrânien naturel. Il décrit plusieurs moulages naturels récupérés dans les carrières à plâtre de la région parisienne. Il compare des moulages de cerveaux de vertébrés fossiles et ceux des vertébrés actuels. Il a souligné le fait que la fonction de l'organe doit coïncider avec sa forme.
Étude de l'évolution L'anatomie comparée a été très influencée à la fin du par les ouvrages de Charles Darwin, notamment par L'Origine des espèces paru en 1859. Ce travail modifie les vues des spécialistes d'anatomie comparée qui essayaient de comprendre la manière dont les différentes parties du cerveau avaient évolué.
Othniel Charles Marsh est un des premiers à tenter une étude systématique de l'évolution du cerveau des animaux fossiles. Les « lois de Marsh » (1884) établissent ainsi que tous les mammifères de l'ère tertiaire avaient de petits cerveaux, qui ont connu au cours du temps un accroissement de taille graduel. Les lois de Marsh ne sont plus considérées comme valides aujourd'hui mais elles ont marqué la paléoneurologie jusqu'au milieu du .
Usage du microscope Une autre innovation majeure qui a contribué à la formation de la paléoneurologie est le microscope ; inventé au , il n'a été utilisé en biologie qu'à la fin du . Les techniques d'observation des cellules cérébrales au microscope ont mis beaucoup de temps à s'affiner. En 1873, avec cet outil en main, Camillo Golgi commence à détailler le cerveau de manière cellulaire, mettant en évidence la structure du neurone ; il utilise des techniques de microscopie rendant accessible l'axone (prolongement du neurone qui conduit l'influx nerveux). Neuranatomie comparée
Ludwig Edinger (1855-1918) établit une nouvelle branche de l'anatomie appelée neuroanatomie comparée. Il soutient que les vertébrés ont évolué dans une série progressive linéaire. Il pense également que les changements dans le cerveau sont basés sur une série d'ajouts et de différenciations et que les cerveaux les plus complexes sont ceux qui appartiennent aux espèces les plus encéphalisées (espèces qui ont un grand cerveau proportionnellement au poids total du corps).
La période 1885-1935 est un moment de foisonnement d'idées en neuroanatomie comparée. Cette ère culmine avec la publication de "L'anatomie comparée du système nerveux" par Arienns, Kappers, Huber et Cosby, article UI a influencé la paléontologue Tilly Edinger, fille de Ludwig Edinger.
Tilly Edinger, fondatrice de la paléoneurologie Ottilie "Tilly" Edinger (1897-1967) découvre au cours de ses études universitaires en zoologie, géologie et paléontologie, un moulage endocrânien naturel de Nothosaurus, un reptile marin de l'ère mésozoïque, sujet de son premier article en 1921, puis étudie le cerveau des chauves-souris fossiles (en 1926). Elle définit en 1929 le nouveau domaine de la paléoneurologie moderne dans Die fossilen Gehirne (Fossil Brains, Les cerveaux fossiles, titre qui renvoie aux moulages endocrâniens naturels). Son ouvrage sur l’évolution du cerveau des Equidés (Horse Brains, 1948) est considéré comme un travail important ; c'est un des premiers à retracer les transformations intervenues dans plusieurs zones cérébrales au sein d'une même lignée phylogénétique. Selon le paléoneurologue , « Tilly Edinger a découvert que le volume et l'organisation du cerveau étaient en quelque sorte liés » ; « il y a des périodes au cours desquelles le cerveau du cheval semble se réorganiser, et d'autres périodes au cours desquelles sa taille semble changer ».
Tilly Edinger a contribué à déterminer la mesure dans laquelle les moulages endocrâniens révèlent l'anatomie des cerveaux anciens ; ainsi l'endocaste crânien des crocodiles reflète de manière exacte les proportions des différentes régions du cerveau, mais ce n'est pas le cas de celui des tortues. Elle a aussi évalué la capacité des endocastes crâniens à renseigner sur les modes de vie des organismes éteints et sur l'accroissement de la taille du cerveau au cours du temps géologique .
T. Edinger travaille en Allemagne jusqu’en 1939 puis fuyant le nazisme elle émigre aux États-Unis où elle occupe un poste de chercheur au Harvard's Museum of Comparative Zoology.
Moulages endocrâniens Les moulages endocrâniens révèlent les marques créées par la pression que le cerveau a exercée sur le crâne. Moulages naturels
Les endocastes peuvent se former naturellement, lorsque des sédiments ont rempli la cavité crânienne au moment de l'enfouissement, et se sont durcis. Les endocastes naturels sont très rares ; le crâne de l'enfant de Taung et celui de Selam, l'enfant de Dikika, en sont chez les hominidés des exemples célèbres. Moulages artificiels Ils sont réalisés traditionnellement par injection d'un matériau de moulage dans la cavité crânienne. Ils peuvent être formés d'argile, de latex, de plâtre de Paris, de pâte à modeler ou de silicone. Aujourd'hui les moulages peuvent être effectués sur ordinateur ; ces moulages numériques constituent une technique non invasive, particulièrement utile quand l'injection de matériau de moulage est impossible, parce que le crâne a été rempli de sédiments, et que cet endocaste naturel ne peut être retiré sans que les parties squelettiques du fossile ne soient détruites. L'imagerie par tomodensitométrie est obtenue grâce à l'application de rayons X pour produire des tomographies, ou des images en coupes, qui sont similaires aux images produites lors des IRM.
Les endocastes sont révélateurs mais ils ont leurs limites : ils présentent rarement des circonvolutions (reliefs) et les sillons (dépressions) en raison des membranes qui entouraient et protégeaient le tissu cérébral vivant (la pie-mère, la mère arachnoïde et la dure-mère). En outre, tous les endocastes ne sont pas créés à partir d'un fossile crânien complet et, de ce fait, les parties manquantes sont reconstituées de manière approximative sur la base de fossiles similaires. Dans certains cas, des fragments de plusieurs fossiles de la même espèce sont utilisés pour construire un seul endocaste.
Principaux sujets d'étude
Volume endocrânien L'analyse statistique des moulages endocrâniens donne des informations sur les augmentations du volume cérébral global (le « volume endocrânien »).
L'évaluation de la capacité crânienne au fil du temps indique une augmentation du volume du cerveau depuis les premiers hominidés jusqu'à Homo sapiens ; le volume du cerveau des hommes modernes est ainsi trois à quatre fois supérieur à celui des australopithèques comme Lucy, fossile daté de 3,1 millions d'années. Il y a 2 millions d'années, le cerveau des hominidés avait un volume de 600–750 cm3 ; celui d'Homo erectus, il y a environ 1,5 million d'années, est passé à 1000 cm3. Aujourd'hui, le nôtre a en moyenne un volume de 1350 cm3 ; il aurait diminué d'environ 10% au cours des 30 000 dernières années ; notre cerveau est ainsi plus petit que celui de l'Homme de Néandertal.
La tendance générale à l'augmentation du volume endocrânien chez les hominidés n'est pourtant pas une loi absolue. Ainsi, il n'y a pas de différence notable entre le volume endocrânien des australopithèques datés de 3 millions d'années, et celui de Homo floresiensis, daté de 18 000 ans. De plus, d'après les moulages endocrâniens connus, le genre Paranthropus, regroupant des hominidés qui vivaient il y a 2,7 à 1 million d'années, aurait conservé au cours du temps un volume endocrânien stable. Pour tenter d'expliquer la différence entre le genre Paranthropus et son contemporain le genre Homo, soumis aux mêmes conditions environnementales, mais dont la plupart des espèces ont connu une expansion du cerveau, certains scientifiques évoquent une différence de régime alimentaire : le régime à faible rendement énergétique de Paranthropus n'aurait pas permis l'augmentation de la taille de son encéphale, les intestins, organe énergivore, ayant accaparé une grande partie des ressources nutritives disponibles (c'est l'hypothèse de l’« expensive-tissue hypothesis » de Aiello et de Wheeler).
Le volume du cerveau est important dans la littérature scientifique pour discuter de l'identification taxonomique, de la complexité comportementale, et de l'intelligence. Toutefois, le lien entre le volume endocrânien et les aspects comportementaux ou cognitifs demeure à beaucoup d'égards incertain. Chez l'homme moderne, la capacité crânienne peut varier jusqu'à 1000 cm3, sans aucune corrélation avec le comportement ou l'intelligenceChez Homo sapiens, «il n'existe aucun rapport entre le volume du cerveau et les capacités intellectuelles. Des exemples fameux sont les cerveaux d'Anatole France et d'Ivan Tourgueniev : le premier pesait 1kg et le second 2kg », . Ce degré de variation équivaut presque à l'augmentation totale du volume que révèle la comparaison des fossiles australopithèques et des humains modernes, et remet en question la validité du recours à la capacité crânienne comme mesure du développement des capacités cognitives.
Traditionnellement, les paléoneurologues se sont concentrés sur l'estimation du volume de l'ancien cerveau. Ces mesures leur ont permis de déterminer le des différentes espèces.
Les paléoneurologues étudient le volume mais aussi l'organisation neurologique du cerveau, qui a évolué au cours du temps.
Asymétries
Lorsque le cerveau des hominidés a augmenté de volume il y a environ 2 millions d'années, des asymétries ont fait leur apparition dans les moulages endocrâniens. L'aire de Broca, une protubérance du côté gauche du lobe frontal associée à la production du langage articulé, apparaît également. L'asymétrie à elle seule ne suffit pas pour caractériser les humains ; on la trouve chez certains gorilles, et chez les oiseauxHabib Michel, « Développement de la dominance cérébrale : revue des données disponibles et proposition d'une hypothèse originale », Développements, 2009/2 (n° 2), p. 5-26. DOI : 10.3917/devel.002.0005. URL : https://www.cairn.info/revue-developpements-2009-2-page-5.htm . En revanche, la présence simultanée de plusieurs types d'asymétries serait propre aux homininés.