Cahier de laboratoire : Détection de Lieux

But: Détection de Lieux

Dans le cadre du projet Ganelon, on interroge un LLM pour détecter les lieux géographiques d’un texte proposé. Le LLM doit renvoyer la réponse sous un format informatique.

Liste des Modèles utilisés:

Les modèles se téléchargent sur la plate-forme https://huggingface.co/

Llama-2-7B-Chat-GGUF/llama-2-7b-chat.Q5_0.gguf

Mistral-7B-Instruct-v0.2-GGUF/mistral-7b-instruct-v0.2.Q5_K_S.gguf

OpenHermes-2.5-Mistral-7B-GGUF/openhermes-2.5-mistral-7b.Q5_K_M.gguf

TinyLlama-1.1B-Chat-v1.0-GGUF/tinyllama-1.1b-chat-v1.0.Q6_K.gguf

Vigostral-7B-Chat-GGUF/vigostral-7b-chat.Q5_K_M.gguf

Procédure: exécution sur un serveur Debian 12 Bookworm avec une carte graphique NVIDIA GeForce RTX 2060 SUPER, 7974MiB.

Compilation

CUDACXX=/usr/bin/nvcc CMAKE_ARGS=”-DLLAMA_CUBLAS=on -DCMAKE_CUDA_ARCHITECTURES=native” FORCE_CMAKE=1 pip install llama_cpp_python –force-reinstall –upgrade

Code Source

Liste des packages installés

Package Version

—————— ————

certifi 2022.12.7
charset-normalizer 2.1.1
click 8.1.7
diskcache 5.6.3
filelock 3.9.0
fsspec 2023.4.0
fuzzywuzzy 0.18.0
idna 3.4
Jinja2 3.1.3
llama_cpp_python 0.2.38
MarkupSafe 2.1.5
mpmath 1.3.0
mypy-extensions 1.0.0
networkx 3.0
numpy 1.26.3
packaging 23.2
pathspec 0.12.1
Pillow 9.3.0
pip 23.3.2
platformdirs 4.1.0
requests 2.28.1
setuptools 66.1.1
sympy 1.12
torch 2.1.2+cu118
torchaudio 2.1.2+cu118
torchvision 0.16.2+cu118
triton 2.1.0
typing_extensions 4.9.0
urllib3 1.26.13

Résultat:

Dans le fichier Data/Csv/dataLoc.Csv

Sources:

Les phrases tests sont issues de deux thèses:
Florie Varitille-Sevat. D’une domination à l’autre : pouvoirs, écrits et communautés urbaines (Provence orientale, fin XIIe- milieu XVe siècle). Histoire. Université Panthéon-Sorbonne – Paris I, 2022. Français. ⟨NNT : 2022PA01H118⟩. ⟨tel-04018564⟩

Coraline Rey. Archives et bibliothèque à Cîteaux : entreprises d’écritures au Moyen Âge (XIIe siècle – début du XVIe siècle). Histoire. Université de Bourgogne Franche-Comté, 2019. Français. ⟨NNT : ⟩. ⟨tel-02509626⟩

Bilan

Lorsque la phrase ne contient pas de lieux, tous les modèles proposent des hallucinations.
Exemple : “Il est possible que l’acte s.d. ait été passé à la même époque car nous retrouvons les mêmes témoins à ces transactions.”
Réponse avec le Mistral-7B-Instruct-v0.2-GGUF/mistral-7b-instruct-v0.2.Q5_K_S.gguf : [“Paris”, “Undisclosed Location”]

Remerciements

Nous remercions l’Institut Jacques Monod pour la fourniture des ressources informatiques et de traitement des données nécessaires à ce travail.


OpenEdition vous propose de citer ce billet de la manière suivante :
_ (8 février 2024). Cahier de laboratoire : Détection de Lieux. Les carnets du LaMOP. Consulté le 22 juillet 2024 à l’adresse https://doi.org/10.58079/vs85


Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search