Education*
Devops
Architecture
F/B End
B.Chain
Basic
Others
CLOSE
Search For:
Search
BY TAGS
linux
HTTP
golang
flutter
java
fintech
개발환경
kubernetes
network
Docker
devops
database
tutorial
cli
분산시스템
www
블록체인
AWS
system admin
bigdata
보안
금융
msa
mysql
redis
Linux command
dns
javascript
CICD
VPC
FILESYSTEM
S3
NGINX
TCP/IP
ZOOKEEPER
NOSQL
IAC
CLOUD
TERRAFORM
logging
IT용어
Kafka
docker-compose
Dart
Vertex Gemini 기반 AI 에이전트 개발 03. Vertex AI Gemini 둘러보기
Recommanded
Free
YOUTUBE Lecture:
<% selectedImage[1] %>
yundream
2025-01-25
2025-01-25
92
 [◀️ 생성 AI에 대하여](https://www.joinc.co.kr/w/LLM-NATIVE-APP-DEVELOP-002) [🗂️ 목차 ](https://www.joinc.co.kr/w/LLM-NATIVE-APP-DEVELOP-001) ### 소개 Gemini는 일반 사용자과 기업용으로 나뉜다. 우리가 목적으로 하는 것은 Gemini를 이용해서 기업용 애플리케이션을 만드는 것이다. 여기에서는 일반 사용자용 Gemini의 기능, 일반 사용자용과 기업용의 차이를 살펴볼 것이다. 그리고 기업용 애플리케이션 개발을 위해서 GCP(구글 클라우드 플랫폼)에 가입하고 Gemini를 테스트 해 볼 것이다. 즉 Gemini 기반의 LLM 애플리케이션을 만들기 위한 기본 준비를 하게 된다. ### Gemini 간단 테스트 문서 중간에 나오는 실습을 위해서 [gemini.google.com](https://gemini.google.com) 에서 gemini 서비스 가입을 한다. 구글 계정으로 간단하게 가입 해서 사용 할 수 있다.  **Gemini**는 몇 가지 버전이 있는데, 무료 버전의 경우 기능 제한이 있으니 **Gemini Advanced** 로 업그레이드를 하도록 하자. 유료이긴 하지만 한 달은 무료로 사용 할 수 있으니, 테스트하기에는 충분한 시간이다.  Gemini Advanced는 아래와 같은 추가적인 기능을 가진다. * Advanced 의 경우 25년 1월 기준 최신 버전인 1.5 Pro 버전을 사용 할 수 있다. 무료 버전은 1.5 flash 까지 사용 할 수 있다. * Advanced 의 경우 이미지, 파일, 구글 드라이브의 문서, 코드 폴더에 있는 파일을 업로드 할 수 있다. 무료 버전의 경우 "이미지"만 처리 할 수 있다. 📢 Gemini는 개인용, 기업용이 있다. 지금 사용하는 Gemini는 개인용으로 Gemini LMM 애플리케이션 개발에는 **기업용** 모델을 사용 할 것이다. ### 생성-AI LLM은 **텍스트를 생성**하는 기능을 가진 생성-AI 모델 중 하나 이다. 이 외에도 이미지 생성과 비디오 생성 등 다른 생성-AI 모델들이 있다. 여기에서는 LLM을 집중적으로 다룰 것이다. 생성 이미지와 비디오는 집중적으로 다루지는 않고 중간 중간 필요할 때 개념을 살펴보는 정도로 다룰 생각이다. ### Gemini에 대해서 **Google Vertex Gemini**는 구글이 개발한 **멀티모달 AI 모델** 이다. 일반적으로 LLM은 "언어 즉 텍스트를 이해하고 응답하는 일을 하는 모델"이다. 멀티모달(multimodal)은 텍스트 뿐만 아니라 이미지, 음성, PDF, PPT, Excel, 비디오 등의 다른 형태의 데이터를 처리 할 수 있는 모델을 의미한다. 예를들어 아래와 같은 이미지를 첨부하여서, 이미지에 대한 분석을 요청할 수 있다.  이미지를 업로드하고 아래와 같이 **프롬프트**를 작성했다. 테스트에 사용한 원본 이미지는 [여기에서 다운로드](https://drive.google.com/file/d/1Vnu16Bdvl_fFu0184ypdVitnoHP8jskc/view?usp=drive_link) 할 수 있다. **💬 Input** << 이미지 업로드 >> 이미지를 분석해 주세요. **🤖 OutPut** 이 이미지는 **고객 관계 관리(CRM)**의 개념과 프로세스를 단계별로 보여주는 도표로, 기업이 고객과의 관계를 어떻게 구축하고 유지하며, 궁극적으로 기업 가치를 향상시키는지에 대한 전략적 접근 방식을 제시하고 있습니다. **1단계: 시장과 고객 욕구의 이해** - **고객 및 시장 조사 (Research):** 잠재 고객과 시장에 대한 심층적인 조사를 통해 고객의 요구, 선호도, 행동 패턴 등을 파악합니다. - **마케팅 정보와 고객 데이터 관리:** 수집된 정보를 효과적으로 관리하고 분석하여 마케팅 전략 수립에 활용합니다. **2단계: 고객 지향적 마케팅 전략 설계** - **시장 세분화 (Segmentation):** 전체 시장을 특정 기준에 따라 여러 개의 세분 시장으로 나눕니다. - **표적 시장 선정 (Targeting):** 세분 시장 중에서 기업이 집중적으로 공략할 목표 시장을 선택합니다. - **차별화와 포지셔닝 (Positioning):** 경쟁사와 차별화된 가치를 제공하고, 목표 시장에서 독특한 위치를 확보합니다. - **STP 전략:** 시장 세분화, 표적 시장 선정, 포지셔닝을 통합하여 효과적인 마케팅 전략을 수립합니다. **3단계: 통합된 마케팅 프로그램 개발** - **제품 관리 (Product):** 고객의 요구를 충족시키는 제품 또는 서비스를 개발하고 관리합니다. - **가격 관리 (Price):** 제품 또는 서비스의 가치를 고려하여 적절한 가격을 설정합니다. - **유통 경로 관리 (Place):** 고객에게 제품 또는 서비스를 효율적으로 전달하기 위한 유통 채널을 구축하고 관리합니다. - **판매 촉진 (Promotion):** 광고, 홍보, 판촉 등 다양한 마케팅 활동을 통해 제품 또는 서비스를 홍보하고 판매를 촉진합니다. - **마케팅 믹스 (4P):** 제품, 가격, 유통, 촉진의 4가지 요소를 효과적으로 조합하여 마케팅 프로그램을 개발합니다. **4단계: 수익성 있는 고객 관계 구축** - **고객 관계 관리 (CRM):** 고객과의 장기적인 관계를 구축하고 유지하기 위한 시스템과 전략을 구축합니다. - **파트너 관계 관리:** 공급업체, 유통업체 등 파트너와의 협력 관계를 강화하여 고객에게 더 큰 가치를 제공합니다. **5단계: 고객에게서 기업 가치 획득** - **충성 고객 창출 (Loyalty Portfolio):** 고객 만족도를 높여 충성도 높은 고객을 확보합니다. - **고객 생애 가치의 획득:** 고객과의 장기적인 관계를 통해 지속적인 수익을 창출합니다. - **시장 점유율과 고객 점유율 증대:** 충성 고객 확보를 통해 시장 점유율과 고객 점유율을 높입니다. - **고객 만족:** 고객 만족을 최우선으로 하여 고객과의 관계를 강화합니다. - **고객 자산:** 충성 고객은 기업의 중요한 자산으로 인식됩니다. - **브랜드 자산:** 긍정적인 고객 경험을 통해 브랜드 가치를 향상시킵니다. - **기업 가치 획득:** 고객 관계 관리를 통해 궁극적으로 기업 가치를 향상시킵니다. **핵심 요약:** 이 도표는 고객 중심적인 사고방식을 바탕으로, 시장 조사부터 고객 관계 구축, 기업 가치 창출까지의 전 과정을 체계적으로 보여줍니다. 기업은 이러한 단계를 효과적으로 수행함으로써 고객과의 장기적인 관계를 구축하고 지속적인 성장을 달성할 수 있습니다. --- Gemini의 멀티모달은 이미지로 부터 텍스트만 추출하는게 아닌, 문서의 구조도 이해하고 있음을 알 수 있다. Python 라이브러리 등을 이용해서 텍스트만 추출하는 것 이상의 높은 품질을 보여주기 때문에, 최근에는 이미지, 비디오, 오디오의 분류/추출/검색에도 LLM을 사용하는 빈도가 늘어나고 있다. ### Gemini Version LLM은 가장 빠르게 발전하고 있는 영역으로 거의 한 달 주기로 새로운 제품이 출시되고 있다. Gemini 도 마찬가지로 기술의 발전과 용도에 따라서 사용 할 수 있는 다양한 버전들이 있다. 2024년 이후 Gemini 1.0 모델은 더 이상 사용하고 있지 않다. 사용 가능한 최신 버전들과 특징을 정리했다. | 모델 이름 | 출시일 | 주요 특징 | | ------------------- | --------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------- | | Gemini 1.5 Flash | 2024년 2월 15일경 | 다양한 작업에서 빠르고 다재다능한 성능. 오디오, 이미지, 비디오, 텍스트 입력을 받고 텍스트 응답을 제공. 비용 효율적인 대용량 애플리케이션에 적합. 속도 제한 증가(2024년 10월 기준). | | Gemini 1.5 Flash-8B | 2024년 2월 15일경 | 대용량 및 낮은 지능 태스크에 적합. 오디오, 이미지, 비디오, 텍스트 입력을 받고 텍스트 응답을 제공. | | Gemini 1.5 Pro | 2024년 2월 15일경 | 더 많은 지능이 필요한 복잡한 추론 작업에 적합. 오디오, 이미지, 비디오, 텍스트 입력을 받고 텍스트 응답을 제공. 100만 토큰까지의 긴 컨텍스트 이해. 가격 인하 및 속도 제한 증가(2024년 10월 기준). 2백만 토큰 컨텍스트 윈도우 지원 (2024년 6월). | | Gemini 2.0 Flash | 2025년 1월 18일 이후 (실험적) | 차세대 기능과 향상된 기능을 갖춘 최신 멀티모달 모델. 오디오, 이미지, 비디오, 텍스트 입력을 받고 텍스트, 이미지, 오디오 응답을 제공(일부 기능은 아직 제공되지 않을 수 있음). 빠른 속도. | 높은 버전이라고 해서 항상 좋은 것은 아니다. 버전이 높아질 수록 매개변수가 커지는 경향이 있는데, 이는 **비용 증가**, **성능 하락** 으로 이어진다. 목적에 맞는 모델을 사용하는게 좋다. 예를 들어 Gemini 1.5 Flash를 사용하다가 Gemini 1.5 Pro 를 사용해 보면, 응답 속도가 눈에 띄게 느려지는 것을 확인 할 수 있다. 가장 최신 버전은 Gemini 2.0 이지만 아직은 실험 버전으로 2025년 상반기에 정식 출시될 것으로 예상된다. ### 일반 사용자용 vs 기업용 Gemini Gemini는 일반 사용자용과 기업 사용자 버전으로 나뉜다. 지금 우리가 가입해서 사용하는 Gemini는 일반 사용자 서비스인데, 기업용 버전과의 차이점을 살펴보도록 하자. 간단히 보자면 아래와 같이 구분 할 수 있다. | 구분 | 주요 목적 | 특징 | 예시 | | ------- | ------------------------------------------------ | ---------------------------- | --- | | 일반 사용자용 | 일반 사용자가 일상생활에서 다양한 주제에 대해서 답을 얻거나 글쓰기, 번역 등을 돕는다 | 사용하기 쉽고 직관적, 정보 검색, 요약,, 글쓰기 | | | 기업용 | 기업의 생산성 향상, 업무 처리 지원 | 강력한 보안, 기업 데이터 학습, 고급 분석기능 | | | 모바일용 | 스마트폰을 이용해서 언제, 어디에서든 간단하게 Gemini 기능을 사용 | 모바일 어시스턴트, 번역, 검색 | | 기업의 경우에는 거의 반드시 기업용 Gemini를 사용해야 하는데, 가장 큰 이유는 "보안" 때문이다. 일반사용자용 LLM 서비스를 사용 할 경우 사용자 정보, 사용자가 업로드한 데이터가 LLM 서비스로 전송되며 이 과정에서 업로드한 정보들이 LLM을 통해서 공개될 수 있다. 기업의 중요 정보들이 업로드가 되면 절대 안될 것이다. 기업용 Gemini의 경우 GCP(구글 클라우드 플랫폼)이 제공하는 수준의 네트워크 / 데이터 보안 환경을 제공 한다. 우리는 기업용 Gemini를 이용해서 LLM 애플리케이션을 만들 것이다. ### Vertex AI 와 Gemini Vertex AI는 AI/ML 플랫폼으로서 데이터 사이언티스트, 머신러닝 엔지니어가 모델을 만들고 관리하는데 필요한 개발 도구와 이미지 분류, 자연어 처리, 예측 모델 등 다양한 맞춤형 모델들을 제공한다. Gemini는 Vertex AI 플랫폼에서 제공하는 LLM 중심 서비스로 방대한 양의 텍스트 데이터를 기반으로 언어 관련 작업을 수행할 수 있도록 도와주는 서비스다. 간단히 말해 Vertex AI가 AI/ML 플랫폼이라면, Gemini는 플랫폼에서 제공하는 서비스들 중 **특정한 머신러닝 작업 특히 언어 관련 작업**을 수행하는 모델이다. 우리는 **Vertex AI Gemini**와 Vertex AI 에서 제공하는 다른 다양한 서비스들을 조합해서 **LLM Native 애플리케이션**을 개발 할 것이다. ### GCP 가입 크롬 브라우저 기준으로 진행한다. **Vertex AI Gemini**를 이용해서 애플리케이션을 개발하기 위해서는 GCP 에 가입해야 한다. 가입을 위해서는 구글 계정이 있어야 하는데, (대부분) Gmail 사용을 위한 계정은 가지고 있을 것이다. [cloud.google.com](https://cloud.google.com/) 으로 이동해서 **무료로 시작하기** 를 클릭한다.  가입 하게 되면 90일간 무료로 사용할 수 있는 $300의 크레딧을 제공한다. 학습 목적으로 사용하기에는 충분한 지원이다. 가입을 끝내고 나면 아래와 같은 **GCP Console** 창이 실행된다.  1. Project: GCP에서는 프로젝트 단위로 클라우드 리소스를 관리한다. 가입하면 "My First Project" 기본 프로젝트로 제공된다. 2. GCP 서비스 검색창에서 서비스를 검색할 수 있다. LLM 애플리케이션 개발을 위해서 새로운 프로젝트를 만들어보자. "My First Project"를 클릭하면 프로젝트 관리창이 뜬다. 새로운 프로젝트의 이름은 "My-LLM-APP"으로 설정하자.  ![[Pasted image 20250119210121.png]] 프로젝트를 생성하면 아래와 같이 GCP 전체 상황을 모니터링 할 수 있는 클라우드 대시보드로 이동한다.  검색창에 "vertex"를 입력하여 "Vertex AI"로 이동한다. 그리고 "모든 권장 API 사용 설정"을 클릭한다. GCP의 경우 클라우드 서비스를 사용하기 위해서는 각 서비스별로 API 사용 설정을 해야 한다.  ### Vertex AI 주요 서비스들 Vertex AI는 **AI/ML 플랫폼**으로 우리가 사용할 Gemini 뿐만 아니라 다양한 서비스들을 제공한다. 대시보드의 왼쪽 메뉴를 보면 **TOOLS, NOTEBOOKS, VERTEX AI STUDIO, BUILD WITH GEN AI** 카테고리에서 다양한 서비스를 확인 할 수 있다. 여기에서는 각 카테고리를 간단히 설명하겠다. 1. 대시보드: Vertex AI의 자원과 Vertex AI 에서 만든 애플리케이션들을 모니터링 할 수 있다. 2. 모델가든: 다양한 AI/ML 모델들을 사용 할 수 있다. Gemini, 메타의 LLama, Qwen, Mixtral 과 같은 오픈소스 LLM, stable diffusion, Flux 와 같은 이미지 생성 모델 기타 번역, 음성변환, 이미지 추출, 영상 분석과 같은 수많은 모델들이 준비되어 있다. 이들 모델을 이용해서 다양한 AI 애플리케이션을 개발 할 수 있다. 3. NOTEBOOKS: AI/ML 애플리케이션의 개발 / 테스트 / 배포를 웹 콘솔상에서 수행 할 수 있는 기업용 개발툴을 제공한다. 4. VERTEX AI STUDIO: LLM Application 을 테스트하고, 코드를 만들수 있다. Gemini, 번역, 이미지 생성(Imagen 3), 프롬프트 엔지니어링 지원 툴 들을 사용 할 수 있다. LLM 애플리케이션 개발을 할 때 가장 많이 사용하는 기능들이 여기에 있다. ### Vertex Gemini 테스트 **VERTEX AI STUDIO > 자유형식** 에서 실제 Gemini 모델을 테스트 하고, 주요 파라메터들을 알아보자.  생성-AI, LLM에서 사용하는 용어들은 모두 영어이기 때문에 영어 기반으로 설명을 살펴보려 한다. ##### System Instruction LLM에서 System Instruction은 사용자게 LLM 에게 내리는 지침이다. 쉽게 말해서 LLM에게 "어떻게 행동해야 하는지"를 알려주는 지침서 혹은 가이드 같은 역할을 한다. LLM은 코드가 아닌 자연어를 가지고 명령을 수행하기 때문에 인간과 대화하는 느낌으로 System Instruction을 작성한다. 코드와 마찬가지로 세부적으로 작성을 해야 좋은 답을 얻을 수 있다. System Instruction은 일반적으로 아래의 내용을 포함한다. * LLM의 역할: LLM이 어떤 역할을 수행해야 하는지 정의한다. 예를 들어 "당신은 Python 코드 개발을 도와주는 AI 비서입니다"와 같이 역할을 명시할 수 있다. * LLM의 행동 지침: LLM이 따라야 하는 규칙이나 지침을 제공한다. 예를 들어 "간결하고 명확하게 응답해야 합니다", "모르는 것은 모른다고 답해주세요"와 같은 지침을 포함할 수 있다. * LLM의 출력 형식: 응답을 생성 할의 형식을 지정할 수 있다. 예를 들어 "JSON 형식으로 응답해주세요", "마크다운 형식으로 생성해주세요", "3문장 이내로 간결하게 응답해주세요"와 같은 형식을 설정 할 수 있다. ##### Prompt 실제 LLM에게 묻고자 하는 질문이나 지시다. 예를 들어 "대한민국의 수도는 어디인가요", "업로드한 문서의 내용을 요약해 주세요", "Python flask 기반의 간단한 웹 애플리케이션 셈플 코드를 작성해 주세요" 와 같은 질문을 프롬프트라고 생각하면 된다. System Instruction과 프롬프트가 함께 전달되는데, LLM의 비 결정적인 특성상 "얼마나 프롬프트를 잘 작성하느냐"에 따라서 응답의 품질이 달라진다. 프롬프트를 작성하는 능력이 중요한데, 이를 **프롬프트 엔지니어링** 이라고 한다. 프롬프트 엔지니어링은 다음 문서에서 다루도록 하겠다. ##### Gemini Model Gemini 모델의 버전을 선택할 수 있다. 2025년 1월 현재 최신 버전은 gemini 2.0 이다. 아직은 실험버전이므로, 그 이전 모델인 gemini-1.5-flash 를 이용하도록 하겠다. ##### Temperature **Temperature**는 LLM이 생성하는 텍스트의 **다양성과 창의성을 조절** 하는 파라미터다. 0에서 2 사이의 값을 가지는데(모델에 따라 0에서 1일 수도 있다), 값이 낮을 수록 더 확실하고 예측가능한 텍스트를 생성하고 값이 높을 수록 창의적인 텍스트를 생성한다. 정보 검색이나 요약과 같이 정확한 답변이 필요한 경우에는 Temperature를 낮추고, 일반적인 대화처럼 창의적인 대화가 필요한 경우에는 Temperature를 높여서 균형을 조절해야 한다. ##### Output token limit 출력할 수 있는 최대 토큰의 크기다. 일반적으로 1토큰은 약 "4자" 정도로 영어의 경우 100개의 토큰은 60~80개 정도의 단어에 해당한다. 한국어의 경우에는 영어보다 단어의 길이가 짧기 때문에 100개의 토큰에 더 많은 단어를 포함 할 수 있다. 출력이 8192를 넘길 경우에는 "출력이 중단"된다. 긴 문장을 만들어내기 위해서는 추가적인 테크닉이 필요하다. ##### Grounding LLM은 모델을 만들 때 학습한 정보만을 기준을 응답을 할 수 있다. 예를 들어 gemini 1.5는 2024년 2월 15일이 학습 기준일로 알려져 있다. 따라서 그 이후의 최신 정보들에 대한 응답을 생성 할 수 없다. Grounding을 이용하면 **Google Search(구글 검색)** 을 데이터 출처로 Gemini가 정보를 검색해서 응답을 생성한다. 따라서 기존에 학습하지 않은 최신의 정보에 대한 응답을 생성 할 수 있다. Grounding를 활성화 하지 않은 상태에서 2024년 AWS Re-invent 에 대한 요약을 해달라고 요청해보자. **💬 Input** 2024년 12월에 열렸던 aws re-invent의 주요 주제를 한 문단으로 간략하게 요약해 주세요. 모르면 모른다고 말해 주세요. **🤖 OutPut** 죄송합니다. 아직 2025년 AWS re:Invent에 대한 공식 발표나 정보가 없기 때문에 주요 주제를 요약해 드릴 수 없습니다. 일반적으로 AWS re:Invent는 클라우드 컴퓨팅, 인공지능/머신러닝, 데이터 분석, 서버리스 컴퓨팅, 보안 등 다양한 기술 분야를 다루며, 매년 새로운 트렌드와 기술 혁신을 소개하는 자리입니다. 2025년 행사에 대한 공식 발표를 기다려 주시면 감사하겠습니다. ---- 최신 정보는 접근 할 수 없기 때문에 모른다고 답했다. Input 에서 "모르면 모른다고 말해주세요" 라고 했는데, LLM은 학습하지 않은 정보라고 하더라도 어떻게 해서든 응답을 만들려고 하기 때문에 잘못된 정보를 응답(할루시네이션) 하거나 횡설수설 하지 않도록 조건을 달았다. Ground를 활성화하고 다시 입력하고 결과를 확인해 보자. **🤖 OutPut** 2024년 12월에 라스베이거스에서 개최된 AWS re:Invent 2024의 주요 주제는 생성형 AI였습니다.[1][2] 컨퍼런스에서는 AWS의 차세대 하드웨어, 머신러닝 서비스, 새로운 AI 모델들이 공개되었고, Amazon Bedrock과 Amazon Q와 같은 기존 서비스들의 지원 솔루션들도 소개되었습니다.[1] 또한, 클라우드 컴퓨팅의 최신 동향과 전망, 다양한 AWS 솔루션, 그리고 금융 시스템 현대화, 고객 경험 개인화, 데이터 및 생성형 AI 활용, 비즈니스 복원력 등의 주제를 다루는 2,500개 이상의 세션이 진행되었습니다. 참가자들은 다양한 워크숍, 엑스포, 네트워킹 이벤트, 그리고 마지막 날의 re:Play 파티에도 참여할 수 있었습니다.[1] **Grounding Sources** 1. comworld.co.kr 2. ddaily.co.kr ---- Grounding은 구글 검색 뿐만 아니라 RDBMS, BigQuery와 같은 데이터베이스 시스템을 소스로 할 수도 있는데, 나중에 살펴보도록 하겠다. ##### Get Code 개발자에게는 중요한게 또하나 있다. 바로 **Get Code** 다.  Get-Code를 클릭하면 아래와 같이 현재 Chat을 생성하기 위한 파라메터를 포함한 실행 가능한 코드를 리턴한다. 이를 이용해서 빠르게 코드를 생성할 수 있다.  그리고 **Open notebook** 을 클릭하면 **NOTEBOOKS > Colab Enterprise** 에서 직접 코딩/테스트를 해볼 수 있다. ##### Safety Filter Settings Gemini는 인터넷상에 있는 방대한 양의 텍스트, 이미지, 영상을 학습했다. 여기에는 차별, 혐오, 폭력과 관련된 데이터도 포함된다. 실제 Gemini 기반으로 애플리케이션을 만들 때는 이러한 민감한 정보들을 생성하지 않도록 필터링 해야 할 필요가 있다. **Safety Filter Settings** 를 이용해서 Hate, Dangerous, Sexually, Harassment 카테고리에 대한 수위를 조절 할 수 있다. ### Vertex AI 기반 LLM 개발환경 살펴보기 이제 최소한 GCP Vertex AI 플랫폼 기반으로 Gemini 기반의 LLM 애플리케이션을 개발하기 위한 환경을 설정 할 수 있을 것이다. **VERTEX AI STUDIO** 에 있는 기능을 이용해서 모델을 바꿔가면서 테스트를 할 수 있다. 또한 테스트하면서 작동가능한 예제코드도 확인 할 수 있다. * Freeform: 자유롭게 Gemini 모델을 테스트 할 수 있다. * Chat: Gemini와 대화하듯이 테스트 할 수 있다. * Vision: Vertex AI의 생성 이미지 서비스인 **Imagen 3**를 테스트 할 수 있다. GPT의 **DALL.E** 와 유사한 서비스이다. * Prompt gallery: LLM으로 부터 원하는 응답을 얻기 위해서는 프롬프트 엔지니어링이 필요하다. 여기에서 미리 설정된 다양한 프롬프트를 확인하고, 테스트 할 수 있다. 또한 자신만의 프롬프트도 만들 수 있다. **NOTEBOOKS** 에 있는 기능을 이용해서 복잡하게 로컬에서 개발환경을 세팅하지 않고, GCP 콘솔에서 코드를 직접 빌드하고 테스트 할 수 있다. * Colab Enterprise: 관리형 협업 노트북 환경을 이용해서, 별도의 인프라 없이 LLM 애플리케이션을 개발 하고 테스트 할 수 있다. 이 블로그 시리즈에서 다루지는 않지만 머신러닝 모델의 개발과 학습, 배포도 할 수 있다. * Workbench: Jupyter 노트북 기반 개발환경으로, LLM 및 머신러닝 애플리케이션의 개발과 테스트를 편리하게 진행 할 수 있다. 앞으로 LLM 애플리케이션은 **Colab Enterprise 혹은 Cloud Shell**을 이용해서 개발하도록 하겠다. 실제 LLM 애플리케이션을 개발 / 배포하기 위해서는 로컬 PC에 개발환경을 세팅해야 하는데, 블로그 시리즈 후반에 간단히 다루도록 할 것이다. ### Next 다음 문서에서는 Vertex AI 플랫폼을 기반으로 LLM의 주요 주제 중 하나인 **프롬프트 엔지니어링** 에 대해서 자세히 살펴볼 것이다. [◀️ 생성 AI에 대하여](https://www.joinc.co.kr/w/LLM-NATIVE-APP-DEVELOP-002) [🗂️ 목차 ](https://www.joinc.co.kr/w/LLM-NATIVE-APP-DEVELOP-001)
Recent Posts
Vertex Gemini 기반 AI 에이전트 개발 04. 프롬프트 엔지니어링
Vertex Gemini 기반 AI 에이전트 개발 03. Vertex AI Gemini 둘러보기
Vertex Gemini 기반 AI 에이전트 개발 02. 생성 AI에 대해서
Vertex Gemini 기반 AI 에이전트 개발 01. 소개
Vertex Gemini 기반 AI 에이전트 개발-소개
생성 AI 모델 Flux.1 설치 및 사용
GPT를 이용한 Reranker 테스트
5분만에 만들어보는 Streamlit 챗봇
Let's encrypt로 SSL 인증서 관리하기
Upscayl을 이용한 이미지 업스케일링
Archive Posts
Tags
AI
vertex gemini 기반 AI Agent 개발
Copyrights © -
Joinc
, All Rights Reserved.
Inherited From -
Yundream
Rebranded By -
Joonphil
Recent Posts
Archive Posts
Tags