AI 설치법
DeepSeek R1 설치법
Gemma 3 설치법
Alibaba Qwen 2.5 설치법
Meta Llama 3.2 설치법 등
노트북을 포함한 자신의 컴퓨터에
DeepSeek R1, Gemma 3, Meta Llama 3.2
MS Phi-4, Alibaba Qwen 2.5 등 설치하기
LM Studio, Ollama
노트북을 포함한 자신의 컴퓨터에서 DeepSeek R1 설치하기
이렇게 하면 인터넷을 사용할 수 없을 때도
보안 걱정 없이 언제든지 사용이 가능하다.
물론 자신의 컴퓨터 상황에 따라서
웹이나 앱에서 실행할 때보다
더 빠르게 혹은 더 느리게 느낄 수는 있다.
나의 경우
맥북 에어 M2 16GB에서 무리 없이
실행시키고 있다.
공개된 오픈 AI의 대부분을
아주 간단히 설치해서 사용할 수 있다.
대표적으로
DeepSeek R1
메타의 Llama 3.2
MS의 phi-4
알리바바의 Qwen 2.5
설치하려는 버전을 고를 때
자신의 컴퓨터 메모리 용량을 고려해서
고르면 된다.
가령 컴퓨터 메모리가 8GB이라면
7B 이하로 선택하면 된다.
나의 컴퓨터 메모리는 16GB이기에
아래와 같이 것들이 설치되어 있다.
3B, 7B, 8B 등은 처리 가능한 파라미터 숫자를
의미하는데 당연히 그 숫자에 비례해서
성능도 좋아지고 파일의 사이즈도 크진다.
가장 오른쪽에 있는 숫자가 파일 크기인데
상당히 빨리 다운된다.
다만 저 파일 크기만큼 자신의 컴퓨터 메모리 위에 올려서
사용하기에 위에 설명한 기준으로
AI 모델을 선택하면 된다.
설치와 사용은 상대적으로 상당히 간단하다.
개발자가 아닌 일반적인 사람이라면
LM Studio라는 것을
자신의 컴퓨터 (맥 윈도 리눅스)등에 맞추어서 설치하고
관련 AI 모델을 다운해서 사용하면 된다.
AI 관련한 제품등을 개발하고자 한다면
ollma을 설치하여 사용하면 된다.
다만 이때
터미널에서 살짝 명령어를 카피 복사 실행해야하기에
일반인들은 조금 거리감을 느낄 수 있다.
이것에 대한 영어로 되어있지만
좋은 투트리얼이 있어서
아래의 링크에 포함시켜놓았다.
설치 및 사용 또한 상당히 간단한 편이다.
여기에서는
LM Studio의 설치법에 대해서
주요 장면만 소개하도록 한다.
[LM Studio를 사용한 AI 설치법]
LM Studio
자신의 컴퓨터에 맞추어 위의 파일을 설치하고
실행한다.
화면 가장 윗쪽 왼쪽에 있는
돋보기 아이콘을 클릭한다.
원하는 AI 모델 선택 DeepSeek R1
연결된 인터넷 상황에 따라서
약간의 차이는 있겠지만
약 2분 정도면 다운이 완료된다.
DeepSeek R1 다운로드 중
다운로드가 완료되면
Load Model 이라는 표기가
여러 곳에서 나타난다.
그 중의 하나에서
Load Model 를 클릭한다
전체 화면
내 컴퓨터에서 DeepSeek R1이 실행을 기다리는 상태
다운로드 화면을 닫고
초록 아이콘 아래에 보이는
Load Model을 실행하면
이제 즉시 사용가능한 상태가 된다.
다만 여기에서 실행이 가능 한 R1 모델은
생각에 특화된 모델(reasoning model)이라서
다소 불편하게 느껴질 수 있다.
위와 같이 한국어로 질문했는데
영어로 답변이 돌아오기도 하고
생각에 너무 많은 시간을 소요하기도 한다.
그래서
나의 경우
MS의 phi-4 를 사용하기도 하고
온라인에서
OpenAI 무료 계정 혹은
google의 무료 AI studio를
필요시 사용한다.
만약에 한국어로 어떤 내용을 중국어로 표현하라고 하면
상당수의 공개AI 모델에서
영어로 바꾼다음에 다시 중국어로 변환을 한다.
이런 것을 전문용어로 중역이라고 하는데
그런 과정속에서 번역의 질이 많이 떨어진다.
그래서 나의 경우
거의 모든 작업은 영어로 한다!
Ollama
Ollama의 최대 장점은
웹브라우저를 매개로 실행하기에
여러가지 크롬 브라우저의 Addon의
도움을 즉시 받을 수 있다.
대표적으로 Grammarly, 구글 번역기등을
필요시 즉시 사용할 수 있어
나의 경우 상당히 편리함을 느낀다.
또한 음성 챗팅도 가능하다!
[추천글]
🔖 문영준의 컴퓨터 관련 글 모음 (총 12개)
🔖 문영준의 AI Python 관련 글 모음 (총 89개)
[외국어 독학 방법] 3개월에 외국어 끝내기 외국어 학습 비법 공개 2주 작전 [문영준의 외국어 공부법]
02/09/2025
내 컴에서 META AI Llama 3.2 돌리기 [문영준의 AI]
12/18/2024
SBS 뉴스의 중국 DeepSeek AI 시진핑 평가 질문과 분석의 오류 검증
나의 실험 결과는 정반대! [문영준의 뉴스 브리핑]
01/29/2025
[유럽 반응] 독일과 프랑스의 중국 AI DeepSeek에 대한 뉴스 보도 [문영준의 뉴스 브리핑]
01/29/2025
Skill Leap AI (ollman 설치법)
Run DeepSeek R1 Privately on Your Computer
Jan 28, 2025
[문영준의 AI 외국어 학습 IT Tech 외국어 뉴스]
'컴퓨터 활용(한글, 오피스 등) > 기타' 카테고리의 다른 글
| ISP ISMP 기본구성 내용 (0) | 2025.04.10 |
|---|---|
| 예시 AI 자동 문제 생성 및 관리 LMS 시스템 (1) | 2025.04.09 |
| [ 인공지능 / AI ] DCGAN 학습을 위한 최소 컴퓨터 사양 (0) | 2025.04.08 |
| AI PC에 필요한 사양 (0) | 2025.04.08 |
| tibero 인덱스 튜닝 시 주의할 점 (0) | 2025.04.07 |