llm-quantkit

cli tool for downloading and quantizing LLMs


License
MIT
Install
pip install llm-quantkit==0.27