Jan v0.6.6 вийшов: Jan тепер повністю працює на llama.cpp.
- Cortex зник, локальні моделі тепер працюють на llama.cpp - Перемикатися між локальними та OpenAI моделями - Експериментальна підтримка квантизованих моделей
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
4
Поділіться
Прокоментувати
0/400
GasGrillMaster
· 07-31 16:41
Що це? Можна смажити м'ясо?
Переглянути оригіналвідповісти на0
0xLuckbox
· 07-31 16:40
Нарешті можна запустити локально.
Переглянути оригіналвідповісти на0
GasWaster
· 07-31 16:36
нарешті перемикач, який не коштуватиме мені 200 gwei, щоб його перевертати, smh
Jan v0.6.6 вийшов: Jan тепер повністю працює на llama.cpp.
- Cortex зник, локальні моделі тепер працюють на llama.cpp
- Перемикатися між локальними та OpenAI моделями
- Експериментальна підтримка квантизованих моделей