airllm
lyogavin/airllm
Library Python buat menjalankan inference LLM 70B di GPU 4GB lewat teknik layer-wise. Kenapa masuk daftar: trending lagi hari ini berkat rilis v4.0.0, dan janjinya berani: model 70B di GPU 4GB.
Aktifcommit hari ini112 issue terbuka
★ 36,5 rb
Bintang
⑂ 3,8 rb
Fork
Jupyter Notebook
Bahasa utama
1×
Masuk edisi
AI / MLchinese-llmchinese-nlpfinetunegenerative-aiinstruct-gpt
Instalasi
Perintah instalasi yang terverifikasi untuk airllm:
pip install airllmgit clone https://github.com/lyogavin/airllm.gitVideo
Lihat review dan tutorial airllm di YouTube:
Cari video review di YouTubeRiwayat peringkat
Perjalanan airllm di kurasi pensourceid:
