Cahier de laboratoire : Détection de Lieux
But: Détection de Lieux
Dans le cadre du projet Ganelon, on interroge un LLM pour détecter les lieux géographiques d’un texte proposé. Le LLM doit renvoyer la réponse sous un format informatique.
Liste des Modèles utilisés:
Les modèles se téléchargent sur la plate-forme https://huggingface.co/
Llama-2-7B-Chat-GGUF/llama-2-7b-chat.Q5_0.gguf
Mistral-7B-Instruct-v0.2-GGUF/mistral-7b-instruct-v0.2.Q5_K_S.gguf
OpenHermes-2.5-Mistral-7B-GGUF/openhermes-2.5-mistral-7b.Q5_K_M.gguf
TinyLlama-1.1B-Chat-v1.0-GGUF/tinyllama-1.1b-chat-v1.0.Q6_K.gguf
Vigostral-7B-Chat-GGUF/vigostral-7b-chat.Q5_K_M.gguf
Procédure: exécution sur un serveur Debian 12 Bookworm avec une carte graphique NVIDIA GeForce RTX 2060 SUPER, 7974MiB.
Compilation
CUDACXX=/usr/bin/nvcc CMAKE_ARGS=”-DLLAMA_CUBLAS=on -DCMAKE_CUDA_ARCHITECTURES=native” FORCE_CMAKE=1 pip install llama_cpp_python –force-reinstall –upgrade
Liste des packages installés
Package Version
—————— ————
certifi 2022.12.7
charset-normalizer 2.1.1
click 8.1.7
diskcache 5.6.3
filelock 3.9.0
fsspec 2023.4.0
fuzzywuzzy 0.18.0
idna 3.4
Jinja2 3.1.3
llama_cpp_python 0.2.38
MarkupSafe 2.1.5
mpmath 1.3.0
mypy-extensions 1.0.0
networkx 3.0
numpy 1.26.3
packaging 23.2
pathspec 0.12.1
Pillow 9.3.0
pip 23.3.2
platformdirs 4.1.0
requests 2.28.1
setuptools 66.1.1
sympy 1.12
torch 2.1.2+cu118
torchaudio 2.1.2+cu118
torchvision 0.16.2+cu118
triton 2.1.0
typing_extensions 4.9.0
urllib3 1.26.13
Résultat:
Dans le fichier Data/Csv/dataLoc.Csv
Sources:
Les phrases tests sont issues de deux thèses:
Florie Varitille-Sevat. D’une domination à l’autre : pouvoirs, écrits et communautés urbaines (Provence orientale, fin XIIe- milieu XVe siècle). Histoire. Université Panthéon-Sorbonne – Paris I, 2022. Français. ⟨NNT : 2022PA01H118⟩. ⟨tel-04018564⟩
Coraline Rey. Archives et bibliothèque à Cîteaux : entreprises d’écritures au Moyen Âge (XIIe siècle – début du XVIe siècle). Histoire. Université de Bourgogne Franche-Comté, 2019. Français. ⟨NNT : ⟩. ⟨tel-02509626⟩
Bilan
Lorsque la phrase ne contient pas de lieux, tous les modèles proposent des hallucinations.
Exemple : “Il est possible que l’acte s.d. ait été passé à la même époque car nous retrouvons les mêmes témoins à ces transactions.”
Réponse avec le Mistral-7B-Instruct-v0.2-GGUF/mistral-7b-instruct-v0.2.Q5_K_S.gguf : [“Paris”, “Undisclosed Location”]
Remerciements
Nous remercions l’Institut Jacques Monod pour la fourniture des ressources informatiques et de traitement des données nécessaires à ce travail.
OpenEdition vous propose de citer ce billet de la manière suivante :
_ (8 février 2024). Cahier de laboratoire : Détection de Lieux. Les carnets du LaMOP. Consulté le 11 février 2025 à l’adresse https://doi.org/10.58079/vs85