NVIDIA推出chat with RTX v0.2 demo,普通用户也可以直接安装使用LLM(Larage Language Moduel 大语言模型)

chat with RTX 内置mistral-7B Chat int4,我们也可以自己写代码使用。

Mistral-7B Chat Int4 | NVIDIA NGC

How to Finetune Mistral AI 7B LLM with Hugging Face AutoTrain - KDnuggets