airllm
lyogavin/airllm
Library Python buat menjalankan inference LLM raksasa (sampai 2.8T parameter) di GPU kecil lewat teknik layer-wise. Kenapa masuk daftar lagi: masih naik stabil, tambah 1,4 ribu bintang sejak kemarin.
Aktifcommit 2 hari lalu112 issue terbuka
★ 38,6 rb
Bintang
⑂ 3,9 rb
Fork
Jupyter Notebook
Bahasa utama
3×
Masuk edisi
AI / MLchinese-llmchinese-nlpfinetunegenerative-aiinstruct-gptinstruction-setllamallm
Instalasi
Perintah instalasi yang terverifikasi untuk airllm:
pip install airllmgit clone https://github.com/lyogavin/airllm.gitVideo
Lihat review dan tutorial airllm di YouTube:
Cari video review di YouTubeRiwayat peringkat
Perjalanan airllm di kurasi pensourceid:
