因为
https://github.com/PanQiWei/AutoGPTQ
安装得这么安装:
pip install auto-gptq --extra-index-url https://huggingface.github.io/autogptq-index/whl/cu118/
因为
https://github.com/PanQiWei/AutoGPTQ
安装得这么安装:
pip install auto-gptq --extra-index-url https://huggingface.github.io/autogptq-index/whl/cu118/