From 543cfcd299b3df8286f3b517332b9b2aaf6acfbd Mon Sep 17 00:00:00 2001 From: limix <5939272+golimix@users.noreply.github.com> Date: Sat, 1 Jul 2023 22:21:45 +0800 Subject: [PATCH 1/2] Update README.md MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 更新macbook pro 不能正常执行的代码逻辑 --- README.md | 7 +++++++ 1 file changed, 7 insertions(+) diff --git a/README.md b/README.md index cea2461..7ed155c 100644 --- a/README.md +++ b/README.md @@ -157,6 +157,13 @@ cd ChatGLM2-6B 如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。 ``` +* 针对macbook pro m1max 电脑,请使用以下命令 ``AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True, device='cuda')``替换 + +```python +model = AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True).half().to('mps') +``` + + #### 从本地加载模型 以上代码会由 `transformers` 自动下载模型实现和参数。完整的模型实现在 [Hugging Face Hub](https://huggingface.co/THUDM/chatglm2-6b)。如果你的网络环境较差,下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地,然后从本地加载。 From 5969eeaf06b49d6ebda6665f91a000589a0ae2fe Mon Sep 17 00:00:00 2001 From: limix <5939272+golimix@users.noreply.github.com> Date: Sat, 1 Jul 2023 22:22:39 +0800 Subject: [PATCH 2/2] Update README.md MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 更新macbook m1max 使用说明 --- README.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/README.md b/README.md index 7ed155c..45c7636 100644 --- a/README.md +++ b/README.md @@ -157,7 +157,7 @@ cd ChatGLM2-6B 如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。 ``` -* 针对macbook pro m1max 电脑,请使用以下命令 ``AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True, device='cuda')``替换 +* 针对macbook pro m1max 电脑,请使用以下命令 ``AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True, device='cuda')``替换为下面的语句 ```python model = AutoModel.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True).half().to('mps')