
11/23(ํ ), ์คํ์ด์ค์์ด ์ผ์ฑ์ญ์ผํฐ์์ ์ด๋ฆฐ GDG Cloud Korea DevFest์ ๋ค๋ ์๋ค. ์ด๋ฒ ๊ฒจ์ธ์ Cloud ์คํฐ๋์ผ์ ์ ์ฒญํด๋์๊ธฐ ๋๋ฌธ์ (๋ฏธ๋ฆฌ ๋ง๋ณด๊ธฐ ์ผ์...) ๋์์ด ๋ ๊ฒ ๊ฐ์์ ์ฐธ์ํ๋ค. ๋ง์ ๋ถ๋ค์ด ์ ์ตํ ๊ฐ์ฐ์ ํด์ฃผ์ ์ ๊ทธ ๋ด์ฉ์ ๊ฐ๋ตํ๊ฒ๋๋ง ๋ธ๋ก๊ทธ์ ์ ๋ฆฌํด๋ณด๋ ค๊ณ ํ๋ค.
1. Google Cloud AI ์ธํ๋ผ์์ Diffusion ๋ชจ๋ธ๋ก ์ด๋ฏธ์ง ์์ฑํ๊ธฐ
- Terry ์์ ํ
Google Cloud GPU์ TPU
- GPU (Graphics Processing Unit): ๋ฅ๋ฌ๋ ๋ชจ๋ธ ํ์ต ๋ฐ ์ถ๋ก ์ ์ต์ ํ๋ ํ๋์จ์ด.
- Stable Diffusion ๋ฑ ํ์ฐ ๋ชจ๋ธ ํ์ต์ ์ฃผ๋ก ์ฌ์ฉ.
- TPU (Tensor Processing Unit): Google์ด ๊ฐ๋ฐํ AI ์ ์ฉ ๊ฐ์๊ธฐ.
- TPU v5e๋ก ๋ ๋น ๋ฅด๊ณ ํจ์จ์ ์ธ ํ์ต ๊ฐ๋ฅ.
ํ์ฐ ๋ชจ๋ธ (Diffusion Model)
- ๋ณต์กํ ๋ฐ์ดํฐ ๊ตฌ์กฐ๋ฅผ ํ์ตํด ์ด๋ฏธ์ง๋ฅผ ์์ฑํ๋ ๋ชจ๋ธ.
- Stable Diffusion: ๋์ค์ ์ด๊ณ ์คํ์์ค ๊ธฐ๋ฐ.
Google์ ์์ฑํ AI - Imagen
- Google์ด ๊ฐ๋ฐํ ํ ์คํธ-์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ.
- ์ธ๋ฐํ ์ด๋ฏธ์ง ์์ฑ ๊ฐ๋ฅ, ์ต๊ทผ์ ์ด๋ฏธ์ง ํธ์ง ๊ธฐ๋ฅ ์ถ๊ฐ.
Google Cloud์์ Stable Diffusion ํ์ฉํ๊ธฐ ๐
- GKE (Google Kubernetes Engine): ๋๊ท๋ชจ ์์ ์ ์ฟ ๋ฒ๋คํฐ์ค๋ฅผ ํตํด ์์ ์ ์ด์.
- Vertex AI ๋ชจ๋ธ ๊ฐ๋ : ๋ฏธ๋ฆฌ ํ์ต๋ ๋ชจ๋ธ๊ณผ ํด ์ ๊ณต.
- Stable Diffusion๊ณผ ๊ฐ์ ๋์ค์ ๋ชจ๋ธ ์ฌ์ฉ ๊ฐ๋ฅ.
TPU v5e์์ Stable Diffusion ์คํํ๊ธฐ - MaxDiffusion ๐
MaxDiffusion์ด๋?
- TPU์ ์ต์ ํ๋ Stable Diffusion ํ์ต ๋ฐ ์คํ ๋ฐฉ์.
- TPU v5e๋ฅผ ํ์ฉํด ์๋์ ํจ์จ์ฑ ๊ทน๋ํ.
ํน์ง
- ์ ๋ ดํ ๋น์ฉ: TPU ๊ธฐ๋ฐ์ผ๋ก GPU ๋๋น ๋น์ฉ ์ ๊ฐ.
- ํ์ฅ์ฑ: ๋๊ท๋ชจ ๋ฐ์ดํฐ์ ์์๋ ์ฑ๋ฅ ์ ์ง.
Imagen์ ์ด๋ฏธ์ง ํธ์ง ๊ธฐ๋ฅ ํ์ฉ
- Google Cloud์์ Imagen์ ํ์ฉํ๋ฉด ๊ธฐ์กด ์ด๋ฏธ์ง์ ํ ์คํธ ๊ธฐ๋ฐ ํธ์ง ๊ฐ๋ฅ.
- ์: โํ์ด์ด ๋น์น๋ ํ๊ฒฝโ์์ โ๋ ธ์์ด ๊น๋ฆฐ ํ๊ฒฝโ์ผ๋ก ์์ ๊ฐ๋ฅ.
์์ฝํ์๋ฉด!
- GPU/TPU๋ ํ์ฐ ๋ชจ๋ธ ํ์ต๊ณผ ์คํ์ ํ์์ .
- Stable Diffusion์ ๋์ค์ ์ด๋ฉฐ, Google Cloud์ ๋ค์ํ ์๋น์ค(GKE, Vertex AI)์์ ํ์ฉ ๊ฐ๋ฅ.
- TPU v5e + MaxDiffusion = ๋ ๋น ๋ฅด๊ณ ์ ๋ ดํ ์ด๋ฏธ์ง ์์ฑ.
- Google์ Imagen์ผ๋ก ์ด๋ฏธ์ง ์์ฑ๊ณผ ํธ์ง๋ ๊ฐ๋ฅ!
*์ง์ ํด๋ณด๊ณ ์ถ๋ค๋ฉด! ๊นํ๋ธ ๋งํฌ *๐
2. Gemini Pro๋ฅผ ํ์ฉํ Gen AI ์ฑ ๋ง๋ค๊ธฐ!
- ์ต์น์
Gemini๋?
Google DeepMind๊ฐ ๊ฐ๋ฐํ ์ฐจ์ธ๋ ์์ฑํ AI(Generative AI) ๋ชจ๋ธ.
๋ค์ํ ์ธ์ด์ ๋ฉํฐ๋ชจ๋ฌ ๊ธฐ๋ฅ์ ํตํฉํ์ฌ ํ
์คํธ, ์ด๋ฏธ์ง, ์ฝ๋ ์์ฑ๊น์ง ๊ฐ๋ฅ.
ํนํ Gemini Pro๋ ์์
์ ์ฑ ๊ฐ๋ฐ์ ์ ํฉํ๋๋ก ์ต์ ํ๋ ๋ฒ์ .
Gemini์ ํน์ง
๋ฉํฐ๋ชจ๋ฌ ๊ธฐ๋ฅ:
ํ
์คํธ๋ฟ ์๋๋ผ ์ด๋ฏธ์ง, ๋น๋์ค ๋ฑ ๋ค์ํ ๋ฐ์ดํฐ๋ฅผ ์ดํดํ๊ณ ์์ฑ.
๊ฐํ๋ ์์ฐ์ด ์ฒ๋ฆฌ:
์ฌ์ฉ์์ ์์ฒญ์ ๋์ฑ ์ ๊ตํ๊ณ ๋ฌธ๋งฅ์ ์ดํดํ ์๋ต ์ ๊ณต.
๊ณ ์ฑ๋ฅ ์ถ๋ก :
๋ณต์กํ ๋ฐ์ดํฐ ๋ถ์ ๋ฐ ์ถ๋ก ์์
์ํ ๊ฐ๋ฅ.
ํ์ฅ์ฑ:
Google Cloud์ ํตํฉ๋์ด ๋๊ท๋ชจ ์ฑ ์๋น์ค ์ง์.
Gemini Pro๋ฅผ ํ์ฉํ๋ ์ด์
์ ์ฐํ API ์ ๊ณต:
Vertex AI์ ์ฐ๋ํ์ฌ ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์
์ ์ฝ๊ฒ ๊ตฌ์ถ ๊ฐ๋ฅ.
์ต์ ํ๋ ์ฑ๋ฅ:
์ํฐํ๋ผ์ด์ฆ ํ๊ฒฝ์์ ๋น ๋ฅด๊ณ ์์ ์ ์ผ๋ก ์๋.
๋ชจ๋ธ ์
๋ฐ์ดํธ:
์ต์ AI ๊ธฐ์ ๋ฐ์์ผ๋ก ์ง์์ ์ธ ์ฑ๋ฅ ํฅ์ ๋ณด์ฅ.
3. ํ์ฅ๋, ์ ๋ง ์ฟ ๋ฒ๋คํฐ์ค๋ฅผ ์ฐ์ ์ผ๊ฒ ์ด์?
- Jaeyeon Baek
์ฟ ๋ฒ๋คํฐ์ค๋?
- ์ฟ ๋ฒ๋คํฐ์ค(Kubernetes)๋ ์ ํ๋ฆฌ์ผ์ด์ ์ปจํ ์ด๋๋ฅผ ๊ด๋ฆฌํ๋ ์คํ์์ค ์์คํ .
- ์ปจํ ์ด๋ํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ฐฐํฌ, ํ์ฅ, ๊ด๋ฆฌ๋ฅผ ์๋ํํ๋ ๋ฐ ์ฌ์ฉ.
- ์ฃผ์ ๊ตฌ์ฑ ์์:
- Nodes: ์ฟ ๋ฒ๋คํฐ์ค๋ฅผ ์คํํ๋ ์๋ฒ.
- Pods: ์ปจํ ์ด๋๋ฅผ ํ๋ ์ด์ ํฌํจํ๋ ์ต์ ๋จ์.
- Namespaces: ์ฌ๋ฌ ํ๋ก์ ํธ๋ ํ๊ฒฝ์ ๊ฒฉ๋ฆฌํ๊ธฐ ์ํ ๊ณต๊ฐ.
๋ฐฐ์์ผ ํ ๊ฒ๋ค์ด ๋๋ฌด ๋ง๋ค!
- ์ฟ ๋ฒ๋คํฐ์ค๋ ๊ฐ๋ ฅํ์ง๋ง ํ์ต ๊ณก์ ์ด ๋๊ณ ๊ด๋ฆฌ๊ฐ ๋ณต์กํ๋ค.
- Pod, Deployment, Service, Ingress ๋ฑ ๋ค์ํ ๊ฐ๋ ์ ๋ฐฐ์ฐ๊ณ ์ค์ ํด์ผ ํ๋ค.
- ๋ฆฌ์์ค ๊ด๋ฆฌ์ ํ์ฅ์ฑ์ด ์ค์ํ ๊ฒฝ์ฐ ์ ํฉํ์ง๋ง, ๊ทธ๋ ์ง ์์ผ๋ฉด ๊ณผ๋ํ ๊ด๋ฆฌ ๋ถ๋ด์ ์ด๋ํ ์ ์๋ค.
Terraform์ ๋ํด์
Terraform์ ์ธํ๋ผ๋ฅผ ์ฝ๋๋ก ๊ด๋ฆฌํ๋ ๋๊ตฌ.
AWS, Google Cloud, Azure ๋ฑ ๋ค์ํ ํด๋ผ์ฐ๋ ํ๊ฒฝ์์ ๋ฆฌ์์ค๋ฅผ ์๋ํํ์ฌ ์ค์ ํ๊ณ ๊ด๋ฆฌํ ์ ์๋ค.
Terraform์ ์ฌ์ฉํ๋ฉด ์ธํ๋ผ์ ๋ฒ์ ๊ด๋ฆฌ๊ฐ ๊ฐ๋ฅํ๋ฉฐ, ๋ณ๊ฒฝ ์ฌํญ์ ์ฝ๋๋ก ์ถ์ ํ ์ ์๋ค.
์์ ์ฝ๋:
provider "google" { project = "your-project-id" region = "us-central1" } resource "google_container_cluster" "primary" { name = "my-cluster" location = "us-central1-a" initial_node_count = 3 }
๊ฒฐ๋ก : ํฐ ์ด์ ์์ผ๋ฉด Cloud Run์ ์จ๋ผ.
- Cloud Run์ ์๋ฒ๋ฆฌ์ค ํ๊ฒฝ์์ ์ปจํ ์ด๋๋ฅผ ์คํํ ์ ์๊ฒ ํด์ฃผ๋ ์๋น์ค.
- ์๋ ํ์ฅ๊ณผ ์๋ ๊ด๋ฆฌ๊ฐ ๊ฐ๋ฅํ๋ฉฐ, ์ฟ ๋ฒ๋คํฐ์ค์ฒ๋ผ ๋ณต์กํ ์ค์ ์ด ํ์ ์๋ค.
- ๋ฐฐํฌ์ ๊ด๋ฆฌ๊ฐ ๊ฐ๋จํ๊ณ , ์์ ํ๋ก์ ํธ๋ ์คํ์ ์ธ ์ฑ์ ์ ํฉํ๋ค.
์ํํธ์จ์ด์์ ๊ฐ์ฅ ํฐ ๋ฌธ์ ๋ 'Overengineering'
- ์ฟ ๋ฒ๋คํฐ์ค๋ฅผ ์ฌ์ฉํ๊ธฐ ์ ์, ๋ฌธ์ ์ ๊ท๋ชจ์ ์๊ตฌ ์ฌํญ์ ๋ช ํํ ์ดํดํ๊ณ , ๋จ์ํ๊ณ ํจ๊ณผ์ ์ธ ์๋ฃจ์ ์ ๊ณ ๋ คํ๋ ๊ฒ์ด ์ค์ํ๋ค.
- ๊ฐ๋จํ ํด๊ฒฐ์ฑ ์ด ๋ ๋์ ์ ์๋ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค.
4. Beyond Text: Exploring Multimodal LLM with Gemini
- ๊นํํ (T Kim)
Gemini 1.5 Pro: ๋ฉํฐ๋ชจ๋ฌ ์์ฑํ AI์ ์๋ก์ด ์งํ
- natively multimodal
๋ฉํฐ๋ชจ๋ฌ ๋ฐฉ์์ ์ดํด
- ๋ฉํฐ๋ชจ๋ฌ(Multimodal) AI๋ ํ ์คํธ, ์ด๋ฏธ์ง, ์์ฑ, ๋น๋์ค ๋ฑ ๋ค์ํ ๋ชจ๋์ ๋ฐ์ดํฐ๋ฅผ ๋์์ ์ฒ๋ฆฌํ๊ณ ์์ฑํ๋ ๋ฅ๋ ฅ์ ๊ฐ์ง ์์คํ .
- ๊ธฐ์กด์ AI๋ ํ
์คํธ ๊ธฐ๋ฐ ํน์ ์ด๋ฏธ์ง ๊ธฐ๋ฐ ๋ฑ ๋จ์ผ ๋ชจ๋์ ์ฒ๋ฆฌ๋ง ๊ฐ๋ฅํ์ผ๋, ๋ฉํฐ๋ชจ๋ฌ AI๋ ์ด๋ฅผ ๊ฒฐํฉํ์ฌ ๋ ํ๋ถํ๊ณ ๋ณตํฉ์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ๋์ถํ ์ ์๋ค.
- ์๋ฅผ ๋ค์ด, ํ ์คํธ๋ฅผ ๋ฐํ์ผ๋ก ์ด๋ฏธ์ง๋ฅผ ์์ฑํ๊ฑฐ๋, ์ด๋ฏธ์ง๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ ์คํธ๋ฅผ ์์ฑํ๋ ๋ฐฉ์์ด ๊ฐ๋ฅํ๋ค.
๋ฉํฐ๋ชจ๋ฌ ๋ฐฉ์์ ํ์ฉ
- ๋ฉํฐ๋ชจ๋ฌ RAG( Retrieval-Augmented Generation):
- RAG๋ ๊ฒ์ ๊ธฐ๋ฐ ์์ฑ์ ์๋ฏธํ๋ฉฐ, ํ ์คํธ์ ๊ด๋ จ๋ ์ธ๋ถ ๋ฐ์ดํฐ๋ฅผ ๊ฒ์ํ์ฌ ์์ฑ์ ๋ณด์กฐํ๋ ๋ฐฉ์์ด๋ค. ๋ฉํฐ๋ชจ๋ฌ RAG๋ ํ ์คํธ๋ฟ๋ง ์๋๋ผ ์ด๋ฏธ์ง, ๋น๋์ค, ์์ฑ ๋ฑ์ ๋ค์ํ ๋ฐ์ดํฐ๋ฅผ ๊ฒ์ํ์ฌ ๋ ํ๋ถํ๊ณ ์ ํํ ๊ฒฐ๊ณผ๋ฅผ ์์ฑํ ์ ์๋ค.
- ์๋ฅผ ๋ค์ด, ํ ์คํธ ์ง๋ฌธ์ ๋ํด ๋ฉํฐ๋ชจ๋ฌ RAG ์์คํ ์ ๊ด๋ จ ์ด๋ฏธ์ง๋ฅผ ๊ฒ์ํ์ฌ ๋ต๋ณ์ ์๊ฐ์ ์ผ๋ก ๋ณด๊ฐํ๊ฑฐ๋, ์์ฑ์ ํตํด ์ ๋ณด ์ ๋ฌ์ ํ ์ ์๋ค.
Gemini 1.5 Pro์ ๋ฉํฐ๋ชจ๋ฌ ํน์ฑ
- Gemini 1.5 Pro๋ natively multimodalํ AI ๋ชจ๋ธ๋ก, ํ ์คํธ๋ฟ๋ง ์๋๋ผ ์ด๋ฏธ์ง, ๋น๋์ค ๋ฑ ์ฌ๋ฌ ํํ์ ๋ฐ์ดํฐ๋ฅผ ์์ฐ์ค๋ฝ๊ฒ ๋ค๋ฃฐ ์ ์๋ค.
- ๋ฉํฐ๋ชจ๋ฌ ๋ฐฉ์์ ํตํด ์์ฐ์ค๋ฌ์ด ์ํธ์์ฉ์ด ๊ฐ๋ฅํด์ ธ, ์ฌ์ฉ์๊ฐ ์ ๊ณตํ๋ ๋ค์ํ ํํ์ ์ ๋ ฅ์ ๋ํด ๋ ์ ํํ๊ณ ํ๋ถํ ์๋ต์ ์ ๊ณตํ ์ ์๋ค.
- ์์: ํ ์คํธ๋ก ์์ฒญํ ๋ด์ฉ์ ๋ฐํ์ผ๋ก ์ด๋ฏธ์ง๋ฅผ ์์ฑํ๊ฑฐ๋, ์ด๋ฏธ์ง์์ ํ ์คํธ๋ฅผ ์ถ์ถํด ์ถ๊ฐ์ ์ธ ์ค๋ช ์ ์ ๊ณตํ๋ ๋ฑ ๋ค์ํ ๊ธฐ๋ฅ์ ์ง์ํ๋ค.
๋ฉํฐ๋ชจ๋ฌ ๋ฐฉ์์ ์ด์
- ์ํธ ๋ณด๊ฐ: ํ ์คํธ์ ์ด๋ฏธ์ง๋ฅผ ๋์์ ํ์ฉํ์ฌ ๋ ์ ํํ๊ณ ํ๋ถํ ์ ๋ณด ์ ๊ณต.
- ํจ์จ์ฑ: ๋ค์ํ ํ์์ ๋ฐ์ดํฐ๋ฅผ ํตํฉํ์ฌ ๋น ๋ฅด๊ณ ์ง๊ด์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ๋์ถ.
- ์ฐฝ์์ ๊ฒฐ๊ณผ: ๋ฉํฐ๋ชจ๋ฌ AI๋ ์๋ก์ด ํํ์ ์ฐฝ์์ ๊ฒฐ๊ณผ๋ฌผ์ ์์ฑํ ์ ์์ด, ์์ , ๋ง์ผํ , ๋์์ธ ๋ฑ ์ฌ๋ฌ ๋ถ์ผ์์ ํ์ฉ ๊ฐ๋ฅํ๋ค.
์ค๋ ์ปจํผ๋ฐ์ค์ ๊ฐ๋ค ์์ ๋๋ ์ ์ '๊ตฌ๊ธ์ด Gemini๋ฅผ ์ ๋ง ๋ฐ์ด์ฃผ๊ณ ์๊ตฌ๋' ํ๋ ๊ฒ์ด๋ค. (๋ฐ์ผํ๋ก AI์๋๋ ๋ฌผ๋ก ๋น์ฐํ ์ผ์ด๊ฒ ์ง๋ง) 12์์ 2.0์ด ์ถ์๋๋ค๊ณ ํ๋๋ฐ, ๋๋ ํ๋ฒ ์จ๋ด์ผ๊ฒ ๋ค. ๋น์ฅ ์๋๋ก์ด๋ ์คํ๋์ค๋ง ํด๋ ์ ๋ฐ์ดํธ ํ์ Gemini ์จ๋ณด๋ผ๊ณ ํธ์ ์๋ฆผ์ ๋ณด๋ด๋๋ฐ ์ฝํ์ผ๋ฟ์ ์ต์ํด์ ธ์ ์ธ ์๊ฐ์ ๋ชปํ๋ค.. ใ ใ
'โ๏ธ > ETC' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
| [IT ์ฐํฉ๋์๋ฆฌ ์ฝํ ์ดํ ] 10๊ธฐ ํ๊ณ (1) | 2025.02.23 |
|---|