NLP pour les sciences sociales

Fini les méthodes du passé !

Sophie Balech

IAE Amiens - UPJV
sophie.balech@u-picardie.fr

08/02/2024

Introduction

Objectif : Présenter un panorama des méthodes NLP

Natural Language Processing / Traitement Automatique du Langage :

• Traiter des données textuelles massives

• Assisté par ordinateur : logiciels dédiés, langages informatiques (R, Python)

• Pour répondre à une problématique de recherche spécifique

1. Quelles sources de données ?

2. Quelles applications ?

3. Quelles méthodes d’analyse ?

4. Quelles difficultés ?

1. Quelles sources de données ?

Tous types de corpus de textes :

• des articles : journalistiques, scientifiques, …

• des rapports : publics, d’entreprises, …

• des publications artistiques : littérature, paroles, synopsis, …

• des manuels : scolaires, des essais, …

• des discours / prises de parole : politiques, syndicalistes, …

• des contenus générés par les utilisateurs (UGC) : réseaux sociaux, blogs, commentaires, enquêtes / sondages, …

• …

Comment constituer les corpus ?

Datasets, bases de données, APIs, enquêtes, webscraping, …

1. Quelles sources de données ?

Boegershausen, J., Datta, H., Borah, A., & Stephen, A. T. (2022). Fields of Gold: Scraping Web Data for Marketing Insights. Journal of Marketing, 86(5), 1‑20. https://doi.org/10.1177/00222429221100750

1. Quelles sources de données ?

341 613 avis clients concernant 220 sites web

Balech, S. (2024). TP_pets : Une base de données pour la recherche sur les avis clients [jeu de données].

2. Quelles applications ?

Quelques exemples, non exhaustifs :

Bibliométrie	Études qualitatives	Études quantitatives
Revue de littérature systématique	Explorer les concepts, les discours	Transformer le texte en indicateurs
Analyse des mots-clés, des abstracts	Mots fréquents, co-occurences	Comptage simple
Identifications des thématiques récurrentes	Identification des thématiques	Probalités associées aux topics
Réseaux d’auteurs, de citations, de références	Réseaux sémantiques	Métriques des réseaux

Une collection d’outils d’analyse pour répondre à une problématique de recherche

2. Quelles applications ?

Revue de littérature systématique

Kumar, S., Kar, A. K., & Ilavarasan, P. V. (2021). Applications of text mining in services management : A systematic literature review. International Journal of Information Management Data Insights, 1(1), 100008. https://doi.org/10.1016/j.jjimei.2021.100008

2. Quelles applications ?

Études qualitatives

Lefrançois, A., Balech, S., & Changeur, S. (2022). Transgression et consommation: Revue intégrative et proposition d’un agenda de recherche. 21èmes Journées Normandes de Recherche sur la Consommation, Le Havre, France.

2. Quelles applications ?

Études quantitatives

Tirunillai, S., & Tellis, G. J. (2012). Does Chatter Really Matter? Dynamics of User-Generated Content and Stock Performance. Marketing Science, 31(2), 198‑215. https://doi.org/10.1287/mksc.1110.0682

2. Quelles applications ?

Études quantitatives

Balech, S. (2022). Une application du modèle ELM ( Elaboration Likelihood Model ) au partage d’information sur Twitter: Étude du rôle de la forme du message et du profil de l’émetteur. Innovations, n° 69(3), 129‑161.https://doi.org/10.3917/inno.pr2.0135

3. Quelles méthodes d’analyse ?

Corpus : une collection de documents

Document : une collection de tokens + des métadonnées

Des hypothèses sur la distribution des mots dans les documents

2 grandes approches du texte :

• Syntaxique : prendre en compte la fonction du mot et sa place dans la phrase

• Bag of words : un document est un ensemble de tokens

3. Quelles méthodes d’analyse ?

3 grandes familles d’outils :

• À partir des fréquences : wordcloud, co-occurrences, modèles de topics, embeddings

• À partir de l’annotation : construction des phrases, réseaux sémantiques, dépendances syntaxiques, entités nommées, analyse du sentiment, approches par dictionnaire, classification

• Stylométrie : mesures de lisibilité, de diversité lexicale, longueur de phrases, utilisation des pronoms, des émojis, la casse, la conjugaison, …

Les étapes de l’analyse :

• Constitution du corpus
• Pré-traitements
• Annotations
• Analyse à proprement parler

3. Quelles méthodes d’analyse ?

QR : technological innovation increases the number of economic
conditional clauses

Corpus : the whole U.S. state legislation from 1964 to 2000

Vannoni, M. (2022). A Political Economy Approach to the Grammar of Institutions: Theory and Methods. Policy Studies Journal, 50(2), 453‑471. https://doi.org/10.1111/psj.12427

3. Quelles méthodes d’analyse ?

QR : quelle est la contribution des attributs clés de l’expérience
hôtelière à la satisfaction ?

Corpus : 24 301 commentaires de Trip Advisor sur 52 hôtels

Balech, S., & Benavent, C. (2022). Le rôle des dimensions de l’expérience dans la satisfaction client : Une application au cas de l’industrie hôtelière en Polynésie Française. 38ème Congrès Internation de l’AFM, 28‑38, Tunis, Tunisie.

3. Quelles méthodes d’analyse ?

QR : how patterns of speaking are created, picked up, and
ignored or propagated

Corpus : 44,913 speeches from the Archives Parlementaires
of the French Revolution Digital Archive
from 1787 to 1794

Barron, A. T. J., Huang, J., Spang, R. L., & DeDeo, S. (2018). Individuals, institutions, and innovation in the debates of the French Revolution. Proceedings of the National Academy of Sciences, 115(18), 4607‑4612. https://doi.org/10.1073/pnas.1717729115

3. Quelles méthodes d’analyse ?

QR : analyze the cultural dimensions of social class and their evolution
over the twentieth century

Corpus : survey of cultural associations to a total of 398 respondents
on Amazon Mechanical Turk + a similar dataset collected in the 1950’s
Google Ngram texts from 1900 to 2012 : collection of 5-grams

Kozlowski, A. C., Taddy, M., & Evans, J. A. (2019). The Geometry of Culture: Analyzing Meaning through Word Embeddings. American Sociological Review, 89(5), 769‑981. https://doi.org/10.1177/0003122419877135

3. Quelles méthodes d’analyse ?

QR : investigate the predictive power of the inferred personality
for their future reviews

Corpus : Yelp Academic Dataset focused on the “restaurant” category
160,578 reviews written by 74,480 reviewers for 4,244 restaurants

Liu, A. X., Li, Y., & Xu, S. X. (2021). Assessing the Unacquainted: Inferred Reviewer Personality and Review Helpfulness. MIS Quarterly, 45(3), 1113‑1148. https://doi.org/10.25300/MISQ/2021/14375

3. Quelles méthodes d’analyse ?

QR : how social media brand images relate to brand engagement

Corpus : Instagram (N = 43,585) and Twitter (N = 214,536)
with 185 visible beverages and food brands

Hartmann, J., Heitmann, M., Schamp, C., & Netzer, O. (2021). The Power of Brand Selfies. Journal of Marketing Research, 58(6), 1159‑1177. https://doi.org/10.1177/00222437211037258

4. Quelles difficultés ?

• La disponibilités des ressources : les données, les modèles et leur documentation, les dictionnaires, …

• La qualité des données : l’exhaustivité, la complétude, la fiabilité, l’orthographe, l’encodage, …

• Les compétences informatiques : trouver le bon langage / le bon logiciel, trouver les données et les modèles, charger les données, comprendre la structure des données, mettre en œuvre les analyses, mettre en forme les résultats, exporter les résultats, …

• Le matériel informatique et la puissance de calcul : le volume des données, le temps de calcul, les capacités de calcul, le coût énergétique / environnemental, …

Conclusion

• Un panorama loin d’être exhaustif

• Un vaste champs d’outils méthodologiques et d’applications possibles

• De très nombreuses ressources en ligne

• Une grande communauté de chercheurs de tous domaines

Merci pour votre attention

Liens

Le séminaire du Collège de France : Apprendre les langues aux machines - B. Sagot

Notre projet de livre (toujours en développement) :NLP avec r et en français - un Manuel synthétique

Un package d’OCR disponible sous R : Tesseract

Un manuel pour prendre en main R : R for data science

Un manuel en français pour prendre en main R et le tidyverse : Introduction à R et au tidyverse

Un manuel pour du text mining en R : Text Mining with R

Un super package pour du NLP en R : Quanteda

Un article sur l’utilisation du texte et du NLP pour la recherche (certes en marketing, mais très intéressant pour tous) : Uniting the tribes: Using Text for Marketing Insight

Références

Balech, Sophie. 2022. « Une application du modèle ELM (Elaboration Likelihood Model) au partage d’information sur Twitter : étude du rôle de la forme du message et du profil de l’émetteur: » Innovations n° 69 (3): 129‑61. https://doi.org/10.3917/inno.pr2.0135.

———. 2024. « TP_pets : une base de données pour la recherche sur les avis clients [jeu de données] ».

Balech, Sophie, et Christophe Benavent. 2022. « Le rôle des dimensions de l’expérience dans la satisfaction client : Une application au cas de l’industrie hôtelière en Polynésie Française ». In 38ème Congrès Internation de l’AFM, 28‑38. Tunis, Tunisie.

Barron, Alexander T. J., Jenny Huang, Rebecca L. Spang, et Simon DeDeo. 2018. « Individuals, institutions, and innovation in the debates of the French Revolution ». Proceedings of the National Academy of Sciences 115 (18): 4607‑12. https://doi.org/10.1073/pnas.1717729115.

Berger, Jonah, Ashlee Humphreys, Stephan Ludwig, Wendy W. Moe, Oded Netzer, et David A. Schweidel. 2020. « Uniting the Tribes: Using Text for Marketing Insight ». Journal of Marketing 84 (1): 1‑25. https://doi.org/10.1177/0022242919873106.

Boegershausen, Johannes, Hannes Datta, Abhishek Borah, et Andrew T. Stephen. 2022. « Fields of Gold: Scraping Web Data for Marketing Insights ». Journal of Marketing 86 (5): 1‑20. https://doi.org/10.1177/00222429221100750.

Hartmann, Jochen, Mark Heitmann, Christina Schamp, et Oded Netzer. 2021. « The Power of Brand Selfies ». Journal of Marketing Research 58 (6): 1159‑77. https://doi.org/10.1177/00222437211037258.

Kozlowski, Austin C, Matt Taddy, et James A Evans. 2019. « The Geometry of Culture: Analyzing Meaning through Word Embeddings ». American Sociological Review 89 (5): 769‑981. https://doi.org/10.1177/0003122419877135.

Kumar, Sunil, Arpan Kumar Kar, et P. Vigneswara Ilavarasan. 2021. « Applications of text mining in services management: A systematic literature review ». International Journal of Information Management Data Insights 1 (1): 100008. https://doi.org/10.1016/j.jjimei.2021.100008.

Lefrançois, Alicia, Sophie Balech, et Sophie Changeur. 2022. « Transgression et consommation: revue intégrative et proposition d’un agenda de recherche ». In. Le Havre, France.

Liu, Angela Xia, Yilin Li, et Sean Xin Xu. 2021. « Assessing the Unacquainted: Inferred Reviewer Personality and Review Helpfulness ». MIS Quarterly 45 (3): 1113‑48. https://doi.org/10.25300/MISQ/2021/14375.

Tirunillai, Seshadri, et Gerard J. Tellis. 2012. « Does Chatter Really Matter? Dynamics of User-Generated Content and Stock Performance ». Marketing Science 31 (2): 198‑215. https://doi.org/10.1287/mksc.1110.0682.

Vannoni, Matia. 2022. « A Political Economy Approach to the Grammar of Institutions: Theory and Methods ». Policy Studies Journal 50 (2): 453‑71. https://doi.org/10.1111/psj.12427.