История изменений
Исправление yvv1, (текущая версия) :
Meta Llama 3 Version Release Date: April 18, 2024
Обнови модель до 3.1, они вроде маленькие модели тоже существенно улучшили. Вот эта локально должна работать:
https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct
Правка: в твоём случае llama-3-8b видимо не знает, что такое кронциркуль, и начинает галлюцинировать. Даже большие модели так иногда делают.
Исходная версия yvv1, :
Meta Llama 3 Version Release Date: April 18, 2024
Обнови модель до 3.1, они вроде маленькие модели тоже существенно улучшили. Вот эта локально должна работать:
https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct