Cahier de laboratoire : Détection de Personnes

But: Détection Personnes

Dans le cadre du projet Ganelon, on interroge un LLM pour détecter les personnes d’un texte proposé. Le LLM doit renvoyer la réponse sous un format informatique.

Liste des Modèles utilisés:

Les modèles se téléchargent sur la plate-forme https://huggingface.co/

Llama-2-7B-Chat-GGUF/llama-2-7b-chat.Q5_0.gguf

Mistral-7B-Instruct-v0.2-GGUF/mistral-7b-instruct-v0.2.Q5_K_S.gguf

OpenHermes-2.5-Mistral-7B-GGUF/openhermes-2.5-mistral-7b.Q5_K_M.gguf

TinyLlama-1.1B-Chat-v1.0-GGUF/tinyllama-1.1b-chat-v1.0.Q6_K.gguf

Vigostral-7B-Chat-GGUF/vigostral-7b-chat.Q5_K_M.gguf

Procédure: exécution sur un serveur Debian 12 Bookworm avec une carte graphique NVIDIA GeForce RTX 2060 SUPER, 7974MiB.

Compilation

CUDACXX=/usr/bin/nvcc CMAKE_ARGS=”-DLLAMA_CUBLAS=on -DCMAKE_CUDA_ARCHITECTURES=native” FORCE_CMAKE=1 pip install llama_cpp_python –force-reinstall –upgrade

Code Source

Liste des packages installés

Package Version

—————— ————

certifi 2022.12.7
charset-normalizer 2.1.1
click 8.1.7
diskcache 5.6.3
filelock 3.9.0
fsspec 2023.4.0
fuzzywuzzy 0.18.0
idna 3.4
Jinja2 3.1.3
llama_cpp_python 0.2.38
MarkupSafe 2.1.5
mpmath 1.3.0
mypy-extensions 1.0.0
networkx 3.0
numpy 1.26.3
packaging 23.2
pathspec 0.12.1
Pillow 9.3.0
pip 23.3.2
platformdirs 4.1.0
requests 2.28.1
setuptools 66.1.1
sympy 1.12
torch 2.1.2+cu118
torchaudio 2.1.2+cu118
torchvision 0.16.2+cu118
triton 2.1.0
typing_extensions 4.9.0
urllib3 1.26.13

Résultat:

Dans le fichier Data/Csv/dataPer.Csv

Sources:

Les phrases tests sont issues de deux thèses:
Florie Varitille-Sevat. D’une domination à l’autre : pouvoirs, écrits et communautés urbaines (Provence orientale, fin XIIe- milieu XVe siècle). Histoire. Université Panthéon-Sorbonne – Paris I, 2022. Français. ⟨NNT : 2022PA01H118⟩. ⟨tel-04018564⟩

Coraline Rey. Archives et bibliothèque à Cîteaux : entreprises d’écritures au Moyen Âge (XIIe siècle – début du XVIe siècle). Histoire. Université de Bourgogne Franche-Comté, 2019. Français. ⟨NNT : ⟩. ⟨tel-02509626⟩

Bilan

Les LLMs donnent des résultats qui nécessitent d’être vérifiés.

Remerciements

Nous remercions l’Institut Jacques Monod pour la fourniture des ressources informatiques et de traitement des données nécessaires à ce travail.