意味わからんけどコピペして進めてみたけど、
rye run quantkit gguf Swallow-MS-7b-v0.1/ --output Swallow-MS-7b-v0.1_Q4_K_M.gguf Q4_K_M
のところで、「AttributeError: 'Tensor' object has no attribute '_lazy'」とか言われて困っちゃった…😟
別の記事試すかな…
Permalink | 記事への反応(0) | 22:29
ツイートシェア