Multimodalité de la communication langagière humaine : Interaction geste/parole et encodage de la distance dans le pointage

Résumé :
L’objectif de cette thèse est de caractériser les interactions entre parole, geste manuel et langage, via l’étude expérimentale de la deixis spatiale.
Une première étude, sur la production du pointage, nous a permis d’évaluer l’encodage de la distance via les propriétés phonétiques et cinématiques du pointage multimodal. Nos résultats montrent que ces paramètres sont corrélés et sous-tendus par un même comportement moteur (désigner un objet
distant implique de produire des gestes, vocaux et manuels, plus larges), qui peut être rapporté à l’encodage phonologique de la distance dans les langues du monde. Nos résultats révèlent par ailleurs une coopération bidirectionnelle entre les modalités vocales et manuelles, qui se répartissent la charge
informative lorsqu’elles sont combinées.
Une seconde étude, sur le développement tardif du pointage multimodal entre 6 et 12 ans, nous a permis d’attester d’une évolution progressive du couplage geste/parole : à cette période, la distance est encodée préférentiellement dans les gestes manuels, relativement aux gestes vocaux, et l’usage coopératif
des gestes et de la parole est déjà à l’œuvre, avec néanmoins plus d’influence du geste sur la parole que l’inverse.
Une dernière étude, sur les interactions sensorimotrices dans la perception de la deixis spatiale, a montré que le geste manuel joue un rôle dans le mécanisme de perception/production des unités sémantiques du langage. Ces données sont mises en parallèle avec les études sur la nature des représentations mises en jeu dans le traitement des unités sonores du langage.

Mots-clés : Multimodalité, Deixis, Encodage de la distance, Production/Perception, Développement