ChatGLM-6B 大模型的前世今生( 二 ) _模型

以下是更新前后的英文问题对比：
问题： a plan tousage in a home.
问题：未来的NFT，可能真实定义一种现实的资产，它会是一处房产，一辆汽车，一片土地等等，这样的数字凭证可能比真实的东西更有价值，你可以随时交易和使用，在虚拟和现实中无缝的让拥有的资产继续创造价值，未来会是万物归我所用，但不归我所有的时代。翻译成专业的英语
更多更新信息参见 .md
友情链接
对进行加速的开源项目：
基于或使用了 -6B 的开源项目：
支持 -6B 和相关应用在线训练的示例项目：
第三方评测：
更多开源项目参见 .md
使用方式硬件需求量化等级最低 GPU 显存（推理）最低 GPU 显存（高效参数微调）
FP16（无量化）
13 GB
14 GB
INT8
8 GB
9 GB
INT4
6 GB
7 GB
环境安装
使用 pip 安装依赖：pip-r .txt，其中库版本推荐为 4.27.1，但理论上不低于 4.23.1 即可。
此外，如果需要在 cpu 上运行量化后的模型，还需要安装 gcc 与。多数 Linux 发行版默认已安装。对于，可在安装 TDM-GCC 时勾选。测试环境 gcc 版本为 TDM-GCC 10.3.0，Linux 为 gcc 11.3.0 。在 MacOS 上请参考 Q1 。
代码调用
可以通过如下代码调用 -6B 模型来生成对话：
>>> from transformers import AutoTokenizer, AutoModel>>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)>>> model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()>>> model = model.eval()>>> response, history = model.chat(tokenizer, "你好", history=[])>>> print(response)你好!我是人工智能助手 ChatGLM-6B,很高兴见到你,欢迎问我任何问题。>>> response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)>>> print(response)晚上睡不着可能会让你感到焦虑或不舒服,但以下是一些可以帮助你入睡的方法:1. 制定规律的睡眠时间表:保持规律的睡眠时间表可以帮助你建立健康的睡眠习惯,使你更容易入睡。尽量在每天的相同时间上床,并在同一时间起床。2. 创造一个舒适的睡眠环境:确保睡眠环境舒适,安静,黑暗且温度适宜。可以使用舒适的床上用品,并保持房间通风。3. 放松身心:在睡前做些放松的活动,例如泡个热水澡,听些轻柔的音乐,阅读一些有趣的书籍等,有助于缓解紧张和焦虑,使你更容易入睡。4. 避免饮用含有咖啡因的饮料:咖啡因是一种刺激性物质,会影响你的睡眠质量。尽量避免在睡前饮用含有咖啡因的饮料,例如咖啡,茶和可乐。5. 避免在床上做与睡眠无关的事情:在床上做些与睡眠无关的事情,例如看电影,玩游戏或工作等,可能会干扰你的睡眠。6. 尝试呼吸技巧:深呼吸是一种放松技巧,可以帮助你缓解紧张和焦虑,使你更容易入睡。试着慢慢吸气,保持几秒钟,然后缓慢呼气。如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。
模型的实现仍然处在变动中。如果希望固定使用的模型实现以保证兼容性，可以在的调用中增加 ="v1.1.0" 参数。v1.1.0 是当前最新的版本号，完整的版本列表参见Log 。
从本地加载模型
以上代码会由自动下载模型实现和参数。完整的模型实现可以在Face Hub 。如果你的网络环境较差，下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地，然后从本地加载。
从Face Hub 下载模型需要先安装Git LFS，然后运行
git clone https://huggingface.co/THUDM/chatglm-6b
如果你从Face Hub 上下载的速度较慢，可以只下载模型实现