프로그램 활용/인공지능(AI)40 AI Llama3를 내 PC에서 무료로 사용하는 방법 (GPT4All & RAG) 출처: https://reviewinsight.blog/2024/06/20/llama3%EB%A5%BC-%EB%82%B4-pc%EC%97%90%EC%84%9C-%EB%AC%B4%EB%A3%8C%EB%A1%9C-%EC%82%AC%EC%9A%A9%ED%95%98%EB%8A%94-%EB%B0%A9%EB%B2%95-gpt4all-rag/이번 글은 오픈 소스 모델인 Llama3를 사용해 내 PC에서 ChatGPT와 같은 LLM을 사용하는 방법이며 검색증강생성 기술인 RAG를 사용해 내가 보유한 데이터 안에서 검색해서 답변을 해주는 방법에 대해 알아보려고 합니다.ChatGPT를 사용하다보면 아래와 같은 고민 생각을 하게 됩니다.1> 보안 유출이 걱정되는데 내 PC에서 LLM 모델을 돌릴 수는 없을까?2> 비즈니스 .. 2024. 12. 4. GPT4All: 로컬 환경에서 안전하게 LLM 실행하기 출처: https://fornewchallenge.tistory.com/entry/%F0%9F%94%92GPT4All-%EB%A1%9C%EC%BB%AC-%ED%99%98%EA%B2%BD%EC%97%90%EC%84%9C-%EC%95%88%EC%A0%84%ED%95%98%EA%B2%8C-LLM-%EC%8B%A4%ED%96%89%ED%95%98%EA%B8%B0안녕하세요! 오늘은 로컬에서 대규모 언어 모델(LLM)을 실행할 수 있는 GPT4All 애플리케이션에 대해 알아보겠습니다. 최근 인공지능의 발전과 함께 LLM이 다양한 응용 분야에서 뛰어난 성능을 보여주고 있으며, 특히 자연어 처리(NLP) 분야에서 많은 주목을 받고 있지만, 대부분의 고성능 상용 LLM은 클라우드 기반으로 운영되며, 이는 데이터 프라이버.. 2024. 12. 4. AI 나만의 데이터로 GPT 활용-local LLM 구축 도전기 (2): Ollama-LLaMa 출처: https://medtalk.tistory.com/entry/%EB%82%98%EB%A7%8C%EC%9D%98-%EB%8D%B0%EC%9D%B4%ED%84%B0%EB%A1%9C-GPT-%ED%99%9C%EC%9A%A9-local-LLM-%EA%B5%AC%EC%B6%95-%EB%8F%84%EC%A0%84%EA%B8%B0-2-Ollama-LLaMa지난 번 글에서는 LangChain기반 AI 모델 구축의 일반적인 내용을 담았고 이번에는 실제 구축한 LLM 모델에 대해 설명하고자 한다. 이로서 인터넷 서버를 통하지 않고 local computer인 내 노트북, 내 데스크톱 PC에서 LLM을 구축하고 내가 쌓은 의학지식을 이용한 Retrieval Augmented Generation-기반 LLM 모델을 가.. 2024. 11. 30. AI DeepSeek-Coder-V2 - GPT-4o와 성능이 비슷한 오픈 소스 출처: https://tilnote.io/pages/667de9fdcd72d05f30071ee1DeepSeek-Coder-V2 - GPT-4o와 성능이 비슷한 오픈 소스 코드 모델Ttilnote2024-06-28 07:38DeepSeek-Coder-V2는 코드 분야의 오픈 소스 Mixture-of-Experts(MoE) 코드 언어 모델입니다.개요DeepSeek-Coder-V2는 GPT-4-Turbo와 비교할 만한 성능을 자랑하는 코드 특화 작업에 최적화된 오픈 소스 모델입니다. DeepSeek-Coder-33B와 비교하여, 코드 관련 작업, 추론 및 일반 작업에서 매우 개선된 성능을 보여줍니다. 또한, 지원하는 프로그래밍 언어 수가 86개에서 338개로 확장되었으며, 컨텍스트 길이도 16K에서 128K로.. 2024. 11. 30. 기초_ rust for AI 출처: Rust for Artificial Intelligence: A Basic Guide | Reintech media TensorFlow, a powerful open source machine learning framework developed by the Google Brain team, has become a cornerstone in artificial intelligence. While traditionally associated with languages like Python, the advent of Rust, a systems programming language valued for its performance and safety, has opened new avenues for Te.. 2024. 6. 15. 이전 1 2 3 4 5 6 ··· 8 다음
