๋„๊ตฌ ํ˜ธ์ถœ ๊ฐœ์„ 

์ƒˆ๋กœ์šด ๋„๊ตฌ ํ˜ธ์ถœ ์ง€์›

๋‹ค์Œ ๋ชจ๋ธ๋“ค์€ ์ด์ œ ๋„๊ตฌ ํ˜ธ์ถœ์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค:

๋‹ค์Œ ๋ชจ๋ธ๋“ค์˜ ๋„๊ตฌ ํ˜ธ์ถœ ์‹ ๋ขฐ์„ฑ๋„ ๊ฐœ์„ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค:

๋ชจ๋ธ์„ ์žฌ๋‹ค์šด๋กœ๋“œํ•˜๋ ค๋ฉด ollama pull ๋ช…๋ น์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.

์ƒˆ๋กญ๊ฒŒ ์„ ๋ณด์ด๋Š” macOS ๋ฐ Windows ๋ฏธ๋ฆฌ๋ณด๊ธฐ

macOS์™€ Windows์šฉ Ollama ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ์ƒˆ๋กœ์šด ๋ฒ„์ „์„ ํ…Œ์ŠคํŠธํ•˜์—ฌ ์ดˆ๊ธฐ ํ”ผ๋“œ๋ฐฑ์„ ์ˆ˜๋ ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

ํ–ฅํ›„ ์ถœ์‹œ ๋ฒ„์ „์—์„œ ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๊ฐœ์„ ์‚ฌํ•ญ์ด ๋„์ž…๋  ์˜ˆ์ •์ž…๋‹ˆ๋‹ค:

ํ”ผ๋“œ๋ฐฑ์„ ์ œ์ถœํ•˜๋ ค๋ฉด GitHub์— app ๋ผ๋ฒจ์ด ๋ถ™์€ ์ด์Šˆ๋ฅผ ๋“ฑ๋กํ•˜์‹ญ์‹œ์˜ค. ์ด ์•ฑ๋“ค์€ Ollama์˜ ํ–ฅํ›„ ๋ฒ„์ „์œผ๋กœ ์ž๋™ ์—…๋ฐ์ดํŠธ๋˜๋ฏ€๋กœ, ์ƒˆ๋กœ์šด ๋ฏธ๋ฆฌ๋ณด๊ธฐ ๋ฒ„์ „์„ ๋‹ค์‹œ ๋‹ค์šด๋กœ๋“œํ•ด์•ผ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ƒˆ๋กœ์šด ๊ธฐ๋Šฅ

  • ๋„คํŠธ์›Œํฌ ์ƒ์—์„œ Ollama ๋…ธ์ถœ: Ollama๋ฅผ ์ด์ œ ๋„คํŠธ์›Œํฌ์— ๋…ธ์ถœ์‹œํ‚ฌ ์ˆ˜ ์žˆ์–ด ๋‹ค๋ฅธ ๋””๋ฐ”์ด์Šค๋‚˜ ์ธํ„ฐ๋„ท์„ ํ†ตํ•ด ์ ‘๊ทผ์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ์ด๋Š” ์„ฑ๋Šฅ์ด ๋‚ฎ์€ ๋””๋ฐ”์ด์Šค์—์„œ ๊ฐ•๋ ฅํ•œ Mac, PC ๋˜๋Š” Linux ์ปดํ“จํ„ฐ์—์„œ ์‹คํ–‰ ์ค‘์ธ Ollama๋ฅผ ์‚ฌ์šฉํ•˜๋ ค๋Š” ๊ฒฝ์šฐ์— ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค.
  • ๋กœ์ปฌ ๋ธŒ๋ผ์šฐ์ € ์ ‘๊ทผ ํ—ˆ์šฉ: ๋กœ์ปฌ Ollama ์„ค์น˜๋ณธ์„ ์›น์‚ฌ์ดํŠธ์—์„œ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค. Ollama์˜ JavaScript ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ธŒ๋ผ์šฐ์ € ๊ธฐ๋ฐ˜ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ์— ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค.
  • ๋ชจ๋ธ ์ €์žฅ๊ฒฝ๋กœ: ๋ชจ๋ธ์„ ์™ธ์žฅ ํ•˜๋“œ๋””์Šคํฌ๋‚˜ ๊ธฐ๋ณธ ๋””๋ ‰ํ† ๋ฆฌ์˜ ๋Œ€์•ˆ ์œ„์น˜์— ์ €์žฅํ•  ์ˆ˜ ์žˆ๋„๋ก ๋ชจ๋ธ ์ €์žฅ ๊ฒฝ๋กœ๋ฅผ ์ˆ˜์ •ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ ์€ ์šฉ๋Ÿ‰ ๋ฐ macOS์—์„œ ๋น ๋ฅธ ์‹œ์ž‘: macOS ์•ฑ์€ ์ด์ œ ๋„ค์ดํ‹ฐ๋ธŒ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์œผ๋กœ ํ›จ์”ฌ ๋น ๋ฅด๊ฒŒ ์‹œ์ž‘๋˜๋ฉฐ ํ›จ์”ฌ ์ ์€ ์„ค์น˜ ๊ณต๊ฐ„์„ ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค.

๋ณ€๊ฒฝ์‚ฌํ•ญ

  • Magistral ๋ชจ๋ธ์€ ์ด์ œ โ€˜์ถ”๋ก  ๋ชจ๋“œโ€™๋ฅผ ๋น„ํ™œ์„ฑํ™”ํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ฐธ๊ณ : ์ด ๊ฒฝ์šฐ ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋ณ€๊ฒฝํ•˜๋Š” ๊ฒƒ์ด ๊ถŒ์žฅ๋ฉ๋‹ˆ๋‹ค.
  • ์ด์ „์— POST predict ๋ผ๊ณ  ํ‘œ์‹œ๋œ ์˜ค๋ฅ˜ ๋ฉ”์‹œ์ง€๊ฐ€ ์ด์ œ ๋” ๋งŽ์€ ์ •๋ณด๋ฅผ ํ‘œ์‹œํ•ฉ๋‹ˆ๋‹ค.
  • ์ผ๋ถ€ ๋ชจ๋ธ์˜ ๋„๊ตฌ ํ˜ธ์ถœ ์‹ ๋ขฐ์„ฑ ๊ฐœ์„ 
  • Windows์—์„œ ollama run ๋ช…๋ น์œผ๋กœ Ollama๊ฐ€ ์ž๋™์œผ๋กœ ์‹œ์ž‘๋˜์ง€ ์•Š๋˜ ๋ฌธ์ œ ์ˆ˜์ •

์ „์ฒด ๋ณ€๊ฒฝ ๋‚ด์—ญ: https://github.com/ollama/ollama/releases/tag/v0.9.1