Depuis 1856, le débat concernant les relations phylogénétiques entre les Néandertaliens et les Hommes modernes est soutenu par de nombreuses recherches sur l’anatomie du crâne et du postcrâne. Ces analyses comparatives classiques entre ces deux taxons ont mis en évidence chez les Néandertaliens de nombreuses caractéristiques types très souvent associées entre elles, aussi bien sur le crâne (e.g. Heim, 1982a, 1982b ; Tillier, 1983 ; Dean et al., 1998 ; Balzeau, 2007), comme par exemple les éminences juxta-mastoïdes larges ou encore la présence d’un torus occipital et d’une fosse sus-iniaque marqués, que sur le post-crâne (e.g. Heim, 1982a, 1982b ; Trinkaus et al., 1991, 1999 ; Weaver, 2009), comme par exemple la robustesse des os longs ou bien la proportion intra-membre. L’interprétation phylogénétique de ces caractéristiques types est parfois délicate car le signal phylogénétique d’un caractère peut être plus ou moins perturbé par l’interaction entre l’individu et son environnement, comme la robustesse des os longs des membres supérieurs et inférieurs des Néandertaliens, qui est souvent associée à une intense activité physique (e.g. Churchill, 1998 ; Schmitt et Churchill, 2003 ; Weaver, 2009). Néanmoins, les caractéristiques anatomiques des Néandertaliens, et en particulier celles du crâne, se retrouvent en partie chez les populations européennes plus anciennes du Pléistocène moyen (e.g. Sima de los Huesos, Caune de l’Arago) (e.g. Arsuaga et al., 1997, 2014 ; de Lumley, 2015). Les analyses comparatives qui en résultent ont permis de discuter plus finement de la polarité phylogénétique des caractères présents chez les Néandertaliens ou chez les Hommes modernes, et ainsi de préciser les trajectoires évolutives des deux lignées (e.g. Bermúdez de Castro et al., 1999a, 1999b ; Arsuaga et al., 2014). L’apparition différentielle à travers le temps et la géographie des caractères néandertaliens chez les populations du Pléistocène moyen ont amené plusieurs auteurs à établir différents scénarii concernant les processus de « néandertalisation » durant le Pléistocène moyen et supérieur en Europe (e.g. modèle d’accrétion : Dean et al., 1998, Hublin, 1998 ; modèle deux-phases : Rosas et al., 2006). Les analyses récentes sur l’ADN ancien des Néandertaliens (e.g. Krings et al., 1997 ; Mendez et al., 2016), des populations du Pléistocène moyen de la Sima de los Huesos (Espagne) (Meyer et al., 2015, 2016) et des Hommes modernes du Paléolithique supérieur (e.g. Fu et al., 2014, 2015 ; Hervella et al., 2016) ont apporté de nombreuses précisions sur les relations phylogénétiques entre les Néandertaliens et les Hommes modernes (e.g. échanges génétiques possibles entre ces deux taxons entre 65 et 47 ka) (Sankararaman et al., 2012) et sur le contexte phylogénétique en Eurasie durant le Pléistocène supérieur (e.g. populations fossiles de Denisova) (Krause et al., 2010a ; Brown et al., 2016). Toutefois, ces analyses restent grandement limitées en raison de la préservation différentielle de l’ADN sur les échantillons fossiles et d’une méthodologie destructrice qui se heurte bien souvent aux autorisations de prélèvements sur les fossiles humains.

L’anatomie des dents est particulièrement intéressante pour étudier les trajectoires évolutives des Néandertaliens et des Hommes modernes en raison de la forte composante génétique qui régit la morphologie dentaire (e.g. Bachrach et Young, 1927 ; Montagu, 1933 ; Garn et al., 1965, 1977 ; Turner, 1969 ; Scott et Turner, 1997 ; Jernvall, 2000 ; Jernvall et Jung, 2000 ; Salazar-Ciudad et Jernvall, 2002, 2010) et également compte tenu de la forte résistance des dents face aux processus taphonomiques qui leur confère une place dominante au sein du registre fossile. Les analyses comparatives sur l’anatomie externe des couronnes ont montré de nombreuses caractéristiques types chez les Néandertaliens par rapport aux Hommes modernes. Ces caractéristiques néandertaliennes concernent notamment les traits non métriques, comme la crête du trigonide moyen fréquemment continue sur les molaires inférieures (e.g. Bailey, 2002a, 2002b, 2006a ; Martinón-Torres et al., 2012), la conformation 2D de la couronne (e.g. Bailey, 2004 ; Gómez-Robles et al., 2007, 2008, 2012 ; Martinón-Torres et al., 2013), comme l’aspect rhomboïdal du contour occlusal des molaires supérieures, ou encore la proportion 2D des tissus coronaires (e.g. Olejniczak et al., 2008a ; Smith et al., 2012), comme l’émail fin des dents permanentes. Ces études, souvent conduites séparément, ont permis de bien caractériser les dents des Néandertaliens et des Hommes modernes, et les informations qui en résultent sont d’autant plus intéressantes lorsqu’elles sont associées entre elles (e.g. Bailey, 2004, 2006b ; Bailey et Lynch, 2005 ; Benazzi et al., 2011c ; Nowaczewska et al., 2013). Les techniques analytiques basées sur la microtomographie combinée à la 3D viennent désormais compléter les méthodes traditionnelles en donnant accès aux structures internes dentaires (e.g. Tafforeau et al., 2006 ; Macchiarelli et al., 2006). Ces techniques permettent aussi bien de décrire l’émail et la dentine coronaire sur la totalité de la dent à travers des variables volumétriques (e.g. Olejniczak et al., 2008a), et non plus aux moyens de variables linéaires enregistrées sur une partie seulement de la couronne, que de détailler la morphologie de la jonction émail-dentine en 3D (e.g. Skinner et al., 2016), structure sous jacente à l’émail dont la morphologie est à l’origine de celle de la couronne (e.g. Kraus, 1952 ; Korenhof, 1960, 1961) et demeure conservée même sur des dents présentant une usure modérée de l’émail. Des analyses comparatives menées en 3D ont montré que l’émail est en moyenne plus fin chez les Néandertaliens comparé à celui des Hommes modernes récents (e.g. Macchiarelli et al., 2006 ; Bayle, 2008 ; Olejniczack et al., 2008a ; Benazzi et al., 2011a, 2013a) et que la jonction émail dentine a une conformation (Crevecoeur et al., 2014 ; Skinner et al., 2016) et des traits non métriques (Bailey et al., 2011 ; Martinón-Torres et al., 2014 ; Martínez de Pinillos et al., 2014) qui diffèrent entre les Néandertaliens et les Hommes modernes récents. De surcroît, ces analyses ont souligné une forte concordance entre la jonction émail-dentine et la surface externe de l’émail pour les quelques traits non métriques considérés (Bailey et al., 2011 ; MartinónTorres et al., 2014 ; Martínez de Pinillos et al., 2014). Bien que toutes ces études en 3D ne concernent que des molaires pour la denture permanente et intègrent encore peu de spécimens Néandertaliens et d’Hommes modernes récents, elles démontrent le potentiel de ces structures internes dentaires à discriminer les taxons. Ainsi, l’application de ces méthodes 3D apparaît avantageuse pour l’assignation taxonomique dans le cas de dents usées qui ne peuvent être traitées par les méthodes traditionnelles, mais aussi pour exploiter une partie du matériel dentaire fossile écartée dans les études classiques sur l’anatomie externe de la couronne, notamment en raison de leur degré d’usure parfois élevé. Compte tenu des résultats encourageants obtenus précédemment en 3D sur les molaires, nous pouvons nous interroger sur ce qui concerne les autres types de dents de la denture permanente (e.g. prémolaires, canines).

Afin de compléter la documentation sur les caractéristiques dentaires différenciant les Néandertaliens et les Hommes modernes, l’objectif de cette thèse est de définir le potentiel de discrimination taxonomique de la jonction émail dentine par rapport à la surface externe de l’émail et aussi de la proportion des tissus coronaires des canines, des prémolaires et des molaires supérieures et inférieures des Néandertaliens et des Hommes modernes au moyen uniquement d’outils analytiques 3D. L’originalité de ce travail est de mener en parallèle trois champs d’investigations généralement conduits séparément que sont : les traits morphologiques non métriques, la conformation du bord marginal et l’épaisseur 3D de l’émail. L’efficacité de ces trois méthodes à distinguer les Néandertaliens et les Hommes modernes sera discutée indépendamment les unes des autres et aussi les unes vis-à-vis des autres, dans une perspective de rendre toujours plus performante la discrimination entre ces deux taxons. Nous nous interrogerons sur la qualité des informations taxonomiques obtenues à la jonction émail-dentine par rapport à la surface externe de l’émail et dans quelle mesure la morphologie de la jonction émail-dentine reflète celle de la surface externe de l’émail. Nous nous interrogerons également sur la capacité des structures internes des couronnes des canines et des prémolaires, et notamment de l’épaisseur et de la proportion d’émail, à discriminer les Néandertaliens et les Hommes modernes comparée à celles des molaires. Pour répondre à cet objectif, notre analyse comparative inclut un échantillon microtomographique de 190 dents de Néandertaliens (provenant de 12 sites) et de 350 dents d’Hommes modernes. Le traitement de la totalité des données microtomographiques a été réalisé dans le cadre de ce travail (e.g. segmentation et reconstruction virtuelle des différents tissus, découpe virtuelle de la couronne) et toutes les variables issues des données microtomographiques (e.g. volume, surface, morphométrie géométrique 3D) ont été produites uniquement lors de cette thèse.

Le caractère inédit de certaines collections fossiles étudiées dans ce travail et/ou leur importance au sein du registre fossile amènent à en discuter de manière privilégiée. Dans un premier temps, cette discussion concernera 47 dents permanentes d’Hommes modernes fossiles provenant du site de Qafzeh (Israël) et datées de 110-90 ka (SIM 5). Dans un deuxième temps, cela concernera 41 dents permanentes de Néandertaliens tardifs (SIM 3) provenant du site de l’Hortus et du Portel-Ouest (France). Enfin, dans un troisième temps, cela concernera 3 dents nouvellement identifiées (2013 et 2014) provenant des anciennes collections du Grand Abri du site de La Ferrassie (France). Ainsi, nous nous demanderons de quelle manière l’association des trois méthodes citées précédemment contribue à caractériser ces populations.

Les nombreuses études comparatives sur les dents ont mis en évidence des caractéristiques métriques et non métriques qui différencient les Néandertaliens et les Hommes modernes récents, ce qui participent à enrichir nos connaissances sur les relations phylogénétiques entre ces deux taxons et sur les origines des Hommes modernes. Il est reconnu que les Néandertaliens ont des dents antérieures significativement plus larges que celles des Hommes modernes (en valeurs absolues et relativement aux autres dents), ce qui est considérées comme un trait plésiomorphe (e.g. Brace, 1967 ; Bytnar et al., 1994 ; Trinkaus, 1978 ; Wolpoff, 1971) (figure 1). De plus, le modèle dominant concernant les dimensions des molaires chez les Néandertaliens est M1<M2<M3, bien que la combinaison M1>M2>M3 est plus rarement observée. Chez les Hommes modernes, le modèle est en général M1>M2>M3, bien que la combinaison M1M3 ne soit pas rare chez les Hommes modernes (e.g. Trinkaus et al., 2003). Cependant, les dimensions mésio-distale et vestibulo-linguale des couronnes de chaque type de dent ne sont pas toujours suffisantes pour distinguer nettement les Néandertaliens des Hommes modernes, ce qui rend parfois l’assignation taxonomique délicate d’une dent découverte isolée.

L’aspect des traits non métriques des couronnes apporte davantage d’informations taxonomiques que les dimensions coronaires externes, permettant de distinguer plus efficacement les Néandertaliens des Hommes modernes. De nombreux traits discriminants ont été identifiés principalement sur la dentition permanente et en premier lieu sur les dents antérieures. Certains de ces traits ont une origine chez les populations fossiles du Pléistocène moyen en Europe (Martinón-Torres et al., 2012). Les incisives chez les Hommes modernes ont une faible convexité labiale en vue occlusale, le tuberculum dentale est en général peu développé, voire absent, et la forme en pelle peut être aussi bien absente (comme chez les populations d’Europe de l’Ouest) que présente (comme chez les populations d’Asie du Nord) (Scott et Turner, 1997 ; Martinón-Torres et al., 2012 ; Bailey et Hublin, 2013). Au contraire, les incisives des Néandertaliens combinent en général une forte convexité labiale, un tuberculum dentale développé préférentiellement sur les incisives supérieures et, très fréquemment, ces dernières ont une forme en pelle marquée (Bailey, 2002b ; Martinón-Torres et al., 2012 ; Bailey et Hublin, 2013). Alors que les canines des Néandertaliens ont très fréquemment une crête accessoire sur la partie distale de la couronne, celle des Hommes modernes est souvent lisse.

Depuis quelques décennies, un effort a été produit concernant les traits des dents post-canines qui durant longtemps ont été considérés comme peu discriminants. Désormais, plusieurs études utilisant un système standard de codification des traits non métriques (ASUDA system, Turner et al., 1991, et Scott et Turner, 1997, modifié par Bailey, 2002b et Martinón-Torres et al., 2012) ont enregistré les fréquences de différents traits des prémolaires et des molaires chez les Néandertaliens et les Hommes modernes, lesquelles peuvent différer entre ces deux groupes. Ainsi, les prémolaires des Néandertaliens ont très fréquemment une crête transversale reliant les deux cuspides principales et possèdent plusieurs cuspides accessoires sur la portion disto-linguale, notamment la P4, alors que celles des Hommes modernes ont en général moins de traits présents et se résument très souvent à simplement deux cuspides, avec parfois une crête accessoire (Bailey, 2002a, 2002b, 2006 ; MartinónTorres et al., 2012 ; Bailey et Hublin, 2013) (figure 2). Les molaires supérieures des Néandertaliens possèdent souvent un hypocône développé et une 5ème cuspide tandis que l’hypocône est peu développé chez les Hommes modernes et la 5ème cuspide est plus rare. Les molaires inférieures des Néandertaliens associent une fovea antérieure profonde, une 5ème cuspide et plus rarement une 6ème et une 7ème cuspide. De surcroît, elles possèdent une crête continue du trigonide moyen, crête relativement droite reliant les deux premières cuspides par un pont d’émail et interrompant le sillon central en Y, et possèdent aussi très fréquemment une crête du trigonide distale interrompue (figure 2). Les molaires inférieures des Hommes modernes ont une morphologie plus simple et se composent de 5 cuspides sur la M1, et plus fréquemment de 4 cuspides pour les deux autres molaires. Les crêtes du trigonide sont absentes, ainsi que la fovea antérieure (ou peu profonde), et le modèle du sillon central est souvent en + ou en X pour les M2 et M3 (Scott et Turner, 1997 ; Bailey, 2002a, 2002b, 2006 ; Martinón-Torres et al., 2012 ; Bailey et Hublin, 2006, 2013).