/korean-LLM-quantize

autoGPTQ를 활용한 koalpaca & kullm 모델 양자화 및 테스트

Primary LanguageJupyter NotebookMIT LicenseMIT

No issues in this repository yet.