AI 에이전트/AI Tools4 [LLM] Ollama 모델 저장 위치 변경하기 기본적으로 Ollama는 모델 파일을 C:\Users\\.ollama 에 저장하지만, 다른 곳으로 옮길 수 있다. 언어 모델은 용량이 매우 크기 때문에 C드라이브보다는 D드라이브로 옮기는 것이 좋다. 저장 위치를 바꾸려면 설정 파일이나 환경변수에서 경로를 직접 수정하면 된다. 1. 시작 메뉴에서 환경 변수라고 검색 2. 시스템 속성 창 하단의 [환경 변수(N)] 클릭 3. '사용자 변수' 영역에서 [새로 만들기(N)...] 클릭 변수 이름: OLLAMA_MODELS 변수 값: D:\ollama_models (모델 저장할 경로로 설정) 4. 변경 사항 저장 5. 재부팅 6. 명령 프롬프트로 확인 echo %OLLAMA_MODELS% 2025. 8. 5. [LLM] Whisper 설치 Whisper는 OpenAI가 공식 배포한 음성 인식 모델로서 무료이며 로컬에 설치하여 사용할 수 있다. 맥과 윈도에 모두 설치 가능하지만 터미널에서 실행해야 한다. 1. 가상환경 생성 conda create -n whisper2. 가상환경에 Whisper 설치 pip install git+https://github.com/openai/whisper.git3. 설치 확인 whisper –help4. 만약 Numpy 버전 충돌 오류가 나면, pip install numpy==1.24.45. 만약 ffmpeg 호출 오류가 나면, - 맥에서는 brew install ffmpeg - 설치 확인 ffmpeg -version - 윈도에서는 https://www.gyan.dev/ffmpeg/buil.. 2025. 5. 11. [LLM] Ollama 모델에서 OpenAI Chat API 사용하기 Ollama에서도 OpenAI의 chat completions API를 사용할 수 있게 되어서 OpenAI용으로 구축된 기존 툴을 Ollam를 통해 이용할 수 있다. 기존의 Ollama 파이썬 라이브러리를 이용하는 방법과 OpenAI의 client.chat.completions.create()를이용하는 방법을 비교해 보기 위하여 Llama3.2:3B에게 피보나치(Fibonacci) 수열을 생성하는 파이썬 함수를 코딩해 보라고 했다. 먼저 파이썬 라이브러리를 이용하는 방법은 다음과 같다. import ollamaresponse = ollama.chat( model="llama3.2:3b", #model = 'deepseek-r1:8b', messages=[ { .. 2025. 2. 15. [LLM] Ollama Web-UI 설치 Ollama 는 Llama2, Mistral, Gemma 등 대규모언어모델 (LLM)을 개인용 컴퓨터에 설치하고 쉽게 실행할 수 있게 해주는 오픈소스다. 공식 사이트는 다음과 같다. https://ollama.com/ Ollama를 이용하여 명령창에서 언어모델과 대화할 수도 있지만, chatGPT 처럼 웹브라우저에서 주고받는 대화가 더 익숙하다. Open WebUI (구 Ollama WebUI)는 Ollama를 위한 chatGPT 스타일의 웹 인터페이스로서 오픈소스 중에서 가장 인기가 많다고 한다. 윈도나 Mac 노트북에 Open WebUI 를 설치하는 방법은 아래 사이트나 여러 블로그 또는 유튜브에 자세히 나와 있으니 참고하기 바란다. GitHub - open-webui/open-web.. 2024. 2. 25. 이전 1 다음
