IA générative conversationnelle pour l'industrie - 4GMC14C2

Objectif(s)

Cette UE est une introduction à l'IA générative conversationnelle. Les objectifs sont les suivants

• Comprendre les principaux concepts, enjeux et applications d'ube IA générative conversationnelle en génie industriel?
• Comprendre les grands principes techniques d'une IA conversationnelle générative (opérations de traitement du langage naturel, architectures, LLM, prompteurs) et leurs limites.
• Être capable d'adapter un LLM générique pour une application de génie industriel.
• Être capable de concevoir et d'évaluer des interactions d'IA générative conversationnelle pour des tâches de génie industriel.

Responsable(s)

Romain PINQUIE

Contenu(s)

Introduction, usages, et technologies:

• 1CM : Connaître les enjeux et applications d'IA générative conversationnelle dans le génie industriel:
  • Qu'est-ce qu'un modèle génératif?
  • Quels sont les cas d'utilisation en génie industriel ?
  • Quells sont les principales considérations ? Coût, ressources, infrastructure, biais, responsabilité, etc.

Comprendre les grands principes d'une IA générative conversationnelle (opérations de traitement du langage naturel, architectures, LLM, prompting ) et leurs limites:

• 1CM : LLM + Architectures + Prompt engineering
  • Qu'est-ce qu'un Large Language Model?
  • LLMs: BERT, GPT, Llama, Mistral, etc.
  • Transformer
  • Training + Fine-tuning (LoRA, QLoRA)
  • Structure, zero-/one-/few-/multi-shot, chain-of-thought, prompt iteration
  • ...
• 1TP : NLP basiques (tokenization, stemming, lematization, sentence splitting, NER, stop words removal, vector space model, bag of words, word embeddings)
• 1TP : Prompt engineering

Être capable d'adapter un LLM générique pour une application de génie industriel:

• 1CM : techniques de tunning: few shots learning, RAG, graphRAG, fine tunning, etc.
• 2TP : application des techniques de tunning
  

Savoir concevoir et évaluer des interactions humain-IA générative conversationnelle pour des tâches de génie industriel:

• 1CM : Conception et évaluation d'interaction humain-IA générative conversationnelle
• 1TP : Evaluation d'interaction humain-IA générative conversationnelle pour le génie industriel
• 1TP : Evaluation d'interaction humain-IA générative conversationnelle pour le génie industriel

Les étudiants auront suivi et validé les cours : Probabilités et Statistiques; programmation avec Python

Contrôle des connaissances

Cette pondération est compatible avec une organisation des enseignements et des examens en distanciel

Session 1:
- N1 = 0.5 x CC1 + 0.5 x ET1

Session 2:
- N2 = 0.5 x CC1 + 0.5 x ET2

Cette pondération est compatible avec une organisation des enseignements et des examens en distanciel

Session 1:
- N1 = 0.5 x CC1 + 0.5 x ET1

Session 2:
- N2 = 0.5 x CC1 + 0.5 x ET2

Calendrier

Le cours est programmé dans ces filières :

• Cursus ingénieur - Ingénieur ICL - Semestre 7
• Cursus ingénieur - Ingénieur IdP - Semestre 7

Informations complémentaires

Code de l'enseignement : 4GMC14C2
Langue(s) d'enseignement :

Vous pouvez retrouver ce cours dans la liste de tous les cours.

Bibliographie

Manning, Christopher D., and Hinrich Schutze. 1999. Foundations of Statistical Natural Language Processing. The MIT Press. Cambridge, Mass.: MIT Press.

Phoenix, J., & Taylor, M. (2024). Prompt Engineering for generative AI. "O'Reilly Media, Inc.".

Raschka, S. (2024). Build a Large Language Model (From Scratch). Simon and Schuster.

Alammar, J., & Grootendorst, M. (2024). Hands-on large language models: language understanding and generation. " O'Reilly Media, Inc.".

Cila, N. (2022). Designing Human-Agent Collaborations: Commitment, responsiveness, and support. CHI Conference on Human Factors in Computing Systems, 1–18. https://doi.org/10.1145/3491102.3517500

Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R., & Horvitz, E. (2019). Guidelines for Human-AI Interaction. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 1–13. https://doi.org/10.1145/3290605.3300233

White, J., Fu, Q., Hays, S., Sandborn, M., Olea, C., Gilbert, H., Elnashar, A., Spencer-Smith, J., & Schmidt, D. C. (2023). A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT (No. arXiv:2302.11382). arXiv. http://arxiv.org/abs/2302.11382