728x90
LLM 구조 다이어그램
* 적색 표시: vram에 올라가는 파라미터
* Nx 의미는 n개 반복의 의미
*
AirLLM이 지원 하는 모델
* transformers 모델, pytorch를 사용하므로 아래 모델만 지원
728x90
'프로그램 활용 > 인공지능(AI)' 카테고리의 다른 글
| Ollama 연동 가이드 - 로컬 LLM Ollama로 무료 AI 비서 만들기 (0) | 2026.03.16 |
|---|---|
| WSL2 Ububtu에 ollama/deepseek 설치 및 실행 (0) | 2026.03.16 |
| Milvus + SBERT + 뉴스 DB 구축용 완전 안정 코드 (실무용) 정리 (0) | 2026.03.10 |
| Agentic AI란 무엇인가?- 뛰는 AI 에이전트, 나는 Agentic AI의 시대 (0) | 2026.03.10 |
| 벡터 데이터베이스(Vector DB) Top 5 (0) | 2026.03.09 |