ChatBox: 다양한 LLM을 하나의 인터페이스에서! (ChatGPT, Gemini, Claude, Ollama)

Recommanded Free YOUTUBE Lecture: <% selectedImage[1] %>

yundream
2025-06-15
2025-06-15
18

직업 특성상 ChatGPT, Gemini, Claude 등 다양한 LLM을 테스트해야 하는데, 웹 인터페이스를 오가며 대화를 기록하고 관리하고 새로운 모델을 사용하는 것은 생각보다 번거롭습니다. LMStudio 등을 사용해 왔지만, 이런 툴들은 개발/테스트가 주 목적이지 손쉬운 사용을 위한 것은 아니었습니다.

### ChatBox: LLM 통합 데스크탑 애플리케이션

ChatBox는 다양한 LLM API를 통합하여 하나의 인터페이스에서 사용할 수 있도록 도와주는 **오픈소스 데스크탑 애플리케이션**입니다. 웹 브라우저 실행 없이 독립적인 애플리케이션 형태로 실행되므로 빠르고 안정적으로 다양한 LLM을 사용할 수 있습니다.

(2025년 6월 현재) 지원하는 모델은 다음과 같습니다.

*   OpenAI의 GPT 모델
*   Gemini 1.5, 2.0, 2.5 모델
*   DeepSeek
*   Claude 3.5, 3.7, 4.0 모델
*   Grok 3
*   Ollama를 이용한 sLLM 모델 (Llama 3, Qwen 2.5, Gemma 등)

지원하는 운영체제는 다음과 같습니다.

1.  Windows
2.  MacOS
3.  iOS
4.  Android
5.  Linux
6.  Web Browser

이 문서는 **우분투 리눅스** 기준으로 테스트되었습니다.

### ChatBox 설치

[chatboxai.app](https://chatboxai.app/en) 에서 ChatBox를 다운로드할 수 있습니다.

![ChatBox](https://docs.google.com/drawings/d/e/2PACX-1vQ8ysp-Gl8XIxVj7ZRIOjk5TuyD3VJH6LLFiAW53DYeG4n5EXYFvgzaPl8a-r1VBNNNLAN-6IDENhRu/pub?w=960&h=720)

리눅스의 경우 **AppImage** 형태로 다운로드할 수 있습니다. 파일 이름은 **Chatbox-1.13.4-x86\_64.AppImage**입니다.

파일에 실행 권한을 부여합니다.

```bash
chmod +x Chatbox-1.13.4-x86_64.AppImage
```

실행하면 아래와 같은 에러가 발생할 수 있습니다.

```
./Chatbox-1.13.4-x86_64.AppImage
[84719:0615/120216.202575:FATAL:setuid_sandbox_host.cc(158)] The SUID sandbox helper binary was found, but is not configured correctly. Rather than run without sandboxing I'm aborting now. You need to make sure that /tmp/.mount_ChatbosTC9Vo/chrome-sandbox is owned by root and has mode 4755.
```

AppImage는 보안을 위해 **Sandbox** 내에서 실행되는데, 권한이 제대로 설정되지 않아서 발생하는 문제입니다. **--no-sandbox** 옵션으로 실행하면 됩니다.

```bash
./Chatbox-1.13.4-x86_64.AppImage --no-sandbox
```

![Chatbox AI 화면](https://docs.google.com/drawings/d/e/2PACX-1vTCNGbcXEGIH2rS04eXUhohXCGiA9sOnUhdUtQR4h3LqV3Pne-165OdXcsRkWSDqaF8VVqQCX1Lg_vw/pub?w=960&h=720)

### Gemini API Key 등록

Gemini 모델을 사용하기 위해서는 API Key 등록이 필요하며, 이를 위해서는 GCP(Google Cloud Platform) 프로젝트가 필요합니다. 먼저 GCP에 가입합니다.

Gemini 모델을 사용하기 위해 API Key를 등록해 보겠습니다. [aistudio.google.com](https://aistudio.google.com)를 방문하여 API Key를 발급받습니다.

![Gemini API Key 발급](https://docs.google.com/drawings/d/e/2PACX-1vQkxBfXlpHnhWZfvcsq5iSDXTwxSZj-gy7HfZT0onI2fs1XtVYexjl927E6otn1JRqy9oqUcSTnAMxn/pub?w=960&h=720)

프로젝트를 선택하고 확인 버튼을 누르면 아래와 같이 API Key가 생성됩니다.

![API Key](https://docs.google.com/drawings/d/e/2PACX-1vRLTk13RCpMkskB1CclO3O4DK45Hwz6Z5lj3aXO3Vu9NSjXSB1wTyAhYYweapq0GdJNZeqVbEy-D2WG/pub?w=960&h=720)

ChatBox에 API Key를 등록하면 됩니다.

![ChatBox API Key 등록](https://docs.google.com/drawings/d/e/2PACX-1vR_8VvG96sqVVqgdC9qV5I9xWn9NARg-iXwVKXZ3cOR6nESf3PY5JeabBV7-yLsDPSfkyixtDzOlAFE/pub?w=960&h=720)

### OpenAI ChatGPT API 등록

[platform.openai.com](https://platform.openai.com) 를 방문하여 새로운 API Key를 만들어보겠습니다.

✅ **Project**를 생성합니다.

![Project 생성](https://docs.google.com/drawings/d/e/2PACX-1vRRTRNNqX176wbhQoop1n6rk0r5D7eMOVAasQYMhs6gjkvU2yjTuhhzng6oJ_sj1H19-5up_nEHeSYc/pub?w=960&h=720)

✅ 생성한 Project에서 API Key를 생성합니다.

![API Key 생성](https://docs.google.com/drawings/d/e/2PACX-1vQlnyC2IackeFrtZoEL5_2ftLxXyNxPU2sSa9u10278snSsoXESFDsjhmq2EKxzJDUWtx2M9HKGVpoq/pub?w=960&h=720)

✅ API Key를 등록하고 테스트합니다.

![](https://docs.google.com/drawings/d/e/2PACX-1vSBbt0a-suKuGKCOWFdZbeCWx7fRQAN2XHhZHObtBAZE8Y3WBK__ibwvO7oYG988iXzIbsmAPyim_Tw/pub?w=960&h=720)

### ChatBox 사용

✅ 채팅 생성

![](https://docs.google.com/drawings/d/e/2PACX-1vTRCtLtlqDx3ayEou01xHtuxZW0CfYrVERYbR2MONyGgdZyx2CR8JbM1vdtAUxN3asIM3_9fUZfEmrL/pub?w=960&h=720)

특정 업무를 위한 **인스트럭션**을 포함한 채팅 창을 생성할 수 있습니다. 이 채팅창에서 중장기적인 업무나 루틴한 업무들을 수행할 수 있습니다. 자주 사용하는 채팅창은 북마크(⭐) 할 수도 있습니다.

### 사용자용 모델 VS 기업용(Developer)용 모델

ChatBox는 기업용 모델을 기반으로 작동하는 애플리케이션입니다. [chatgpt.com](https://chatgpt.com) 이나 [gemini.google.com](https://gemini.google.com/app?hl=ko) 에서 구독 방식으로 제공되는 생성 AI 서비스는 **일반 사용자**를 대상으로 하는 서비스로 API를 제공하지 않기 때문입니다.

따라서 ChatBox, LMStudio 같은 툴을 이용하여 **자신만의 AI Agent 환경을 구성**하기 위해서는 [platform.openai.com](https://platform.openai.com) 나 GCP에 계정을 만들어서 API를 발급받은 다음에 사용해야 합니다. API 관리가 번거롭다면 ChatBox 같은 서비스를 구독하면 더 간단하고 저렴하게 생성형 AI 서비스를 사용할 수 있습니다.

### Ollama Local 모델 가져오기

제 리눅스 데스크탑에 설치되어 있는 Ollama를 연결해 보기로 했습니다. 설치된 모델은 다음과 같습니다.

```
$ ollama list
NAME                   ID              SIZE      MODIFIED
gemma3:1b              2d27a774bc62    815 MB    2 months ago
gemma3:12b             6fd036cefda5    8.1 GB    3 months ago
deepseek-r1:14b        ea35dfe18182    9.0 GB    4 months ago
llama3.2-vision:11b    38107a0cd119    7.9 GB    6 months ago
llama3.2:latest        a80c4f17acd5    2.0 GB    7 months ago
```

**설정 > 모델 공급자 > Ollama > 가져오기** 를 클릭하면 ChatBox에서 사용할 모델을 선택할 수 있습니다.

![](https://docs.google.com/drawings/d/e/2PACX-1vQyI6xqNE2izUjvfh2KnBchf7NTGs52-A7AZgBubg4TlAgdZhYYBg4u3PdmvOPB6sl0IFnRVz08uXsk/pub?w=960&h=720)

![Gemma3](https://docs.google.com/drawings/d/e/2PACX-1vS67nZ4ujPm19aEBB1k0eiwtB1PZ-Vtqmc-XxPG-4xdUCX7L0Cxz_WLKeww_PtRuyR35zntxEtFzciy/pub?w=960&h=720)

---
### 정리

1.  데스크탑에서 웹 브라우저 없이 사용할 수 있어서 좋았습니다.
2.  대규모 언어 모델은 각자의 장점과 단점이 있어서 모델 간 이동을 자주 하는데, 하나의 애플리케이션에서 모델을 관리할 수 있어서 편리합니다.
3.  Developer API를 사용해야 해서 번거롭습니다. 스타트업, 작은 팀에서는 직원 업무 지원 환경 세팅을 위해 API를 제공하면 좋을 것 같습니다.
4.  LMStudio는 모델 테스트 목적, ChatBox는 업무 지원 목적으로 사용하면 될 것 같습니다.

Search For:

BY TAGS

Recent Posts

Archive Posts

Tags

About

Get in Touch

Categories