ANIS GeTrans 0.1.0 설치/사용법
Gemma 4 E2B를 바탕으로 한 번역 모델입니다. ANIS Trans보다 무겁고 느리지만 앞뒤 문맥을 더 잘 읽습니다. 쓰는 방법은 ANIS Trans와 같이 명령줄(CLI), 브라우저 화면(GUI), Ollama·OpenAI 호환 로컬 API 서버 세 가지입니다. 파일은 다운로드에서 받으세요.
1. 설치
| 항목 | 내용 |
|---|---|
| Python | 3.10 이상 (3.10~3.12 권장). Windows는 python.org 설치 때 "Add python.exe to PATH"를 켜 주세요. |
| GPU (권장) | NVIDIA GPU, 메모리 12GB 이상 권장(실제 사용 약 11GB) + 최신 드라이버 |
| 디스크 | 설치 약 6GB(PyTorch 포함) + 바탕 모델 9.6GB |
| 메모리 | GPU로 쓸 때 시스템 메모리 16GB 이상 권장. CPU로 쓰면 약 12GB가 필요하고 GPU보다 많이 느릴 수 있습니다. |
| 인터넷 | 설치할 때와 처음 번역할 때(바탕 모델 내려받기)만 필요합니다. |
받은 폴더에서 설치 스크립트를 실행합니다. 폴더 안에 .venv 가상환경을 만들고 필요한 패키지(PyTorch, Transformers, PEFT 등)를 받습니다. 시스템 Python은 건드리지 않습니다.
# Linux / macOS
cd anis-getrans-0.1.0
./install.sh # Linux는 CUDA판 PyTorch가 함께 설치됩니다
./install.sh --cpu # GPU가 없는 PC (받는 크기가 작음, 번역은 느림)
# Windows: install.cmd 를 두 번 클릭하거나
cd anis-getrans-0.1.0
install.cmd # NVIDIA GPU용 CUDA판 PyTorch
install.cmd --cpu # GPU가 없는 PC
처음 실행: 바탕 모델 내려받기
처음 번역할 때 바탕 모델 TrevorJS/gemma-4-E2B-it-uncensored(Gemma 4 E2B 기반)을 Hugging Face에서 자동으로 받습니다(약 9.6GB, 한 번만). 받은 파일은 Hugging Face 캐시(기본 ~/.cache/huggingface)에 남아 다음부터는 바로 시작합니다.
- 인터넷 없이 쓰려면 한 번 받은 뒤 환경 변수
HF_HUB_OFFLINE=1을 켜고 실행하세요. - 바탕 모델을 다른 폴더에 받아 두었다면
--base <폴더>또는 환경 변수ANIS_GETRANS_BASE로 지정합니다.
설치가 잘 됐는지는 anis-getrans --info로 확인합니다. device: cuda, compute_type: bfloat16이 보이면 GPU로 실행됩니다. 아래 예시는 anis-getrans로 적었습니다. 받은 폴더에서 실행할 때 Linux·macOS는 ./anis-getrans, Windows PowerShell은 .\anis-getrans로 입력하세요.
2. 명령줄(CLI)
# 단문 번역: 방향은 자동 판별 (가나가 있으면 일→한, 한글이 있으면 한→일)
anis-getrans "今日は雨が降ってるね。"
anis-getrans "오늘 저녁은 뭐 먹을까?"
# 앞뒤 문맥을 함께 주면 생략된 주어·말투를 더 잘 맞춥니다
anis-getrans --prev "先輩、顔色悪いですよ。" --next "ああ、少し寝不足なだけだ。" "大丈夫?"
# 파일 일괄 번역: 한 줄 = 한 문장
anis-getrans -f script_ja.txt -o out.txt
anis-getrans -f script_ja.txt --context-lines 2,1 -o out.txt # 앞 2줄·뒤 1줄을 문맥으로
anis-getrans -f script_ja.txt --with-source # 원문<TAB>번역
# 인자 없이 실행하면 대화형 모드 (모델을 한 번만 불러옴)
anis-getrans
| 옵션 | 설명 | 기본값 |
|---|---|---|
-d, --direction | auto, ja-ko, ko-ja. 원문 언어로 방향을 정하므로, 일본어·한국어가 섞인 줄의 판별에만 영향을 줍니다. | auto |
--prev, --next | 앞·뒤 문맥 문장 (여러 번 지정 가능) | 없음 |
--context-lines 앞,뒤 | 파일·파이프 번역 때 이웃한 줄을 문맥으로 넣음 | 0,0 |
--line-type | 대사, 독백, 나레이션, 선택지, 시스템 | 대사 |
-f, -o | 입력 파일(.txt, .jsonl), 출력 파일 | 표준입출력 |
--device | auto, cpu, cuda | auto |
--compute-type | auto(=bfloat16), bfloat16, float16, float32 | auto |
--base | 바탕 모델 폴더나 Hugging Face 저장소 | 자동으로 내려받음 |
3. 브라우저 화면(GUI)
anis-getrans-gui # Windows: anis-getrans-gui.cmd 두 번 클릭
anis-getrans --gui # 같은 동작
실행하면 기본 브라우저에 http://127.0.0.1:7871/이 열립니다. macOS는 ANIS GeTrans GUI.command를 두 번 클릭해도 됩니다.
- 문장 번역: 방향(자동·일→한·한→일), 줄 종류, 앞뒤 문맥을 정해 번역합니다. 단축키는 Ctrl+Enter(맥은 ⌘+Enter)입니다.
- 일괄 번역:
.txt/.jsonl파일을 번역하고 결과를.txt·.jsonl·원문+번역.tsv로 받습니다. - 장치: 오른쪽 위에서 자동·CPU·GPU를 고릅니다. 입력한 문장은 컴퓨터 밖으로 나가지 않습니다.
4. 로컬 API 서버 (Ollama · OpenAI 호환)
Ollama나 OpenAI API를 쓰는 번역 도구·스크립트에서 주소와 모델 이름만 바꾸면 됩니다. 기본 주소는 http://127.0.0.1:11436입니다. ANIS Trans 서버(11435)와 겹치지 않아 둘을 함께 켤 수 있습니다.
anis-getrans-server # Windows: anis-getrans-server.cmd
anis-getrans-server --device cuda # GPU로 실행
# Ollama 형식
curl http://127.0.0.1:11436/api/generate -d '{"model":"anis-getrans:ja-ko","prompt":"今日は雨が降ってるね。","stream":false}'
# OpenAI 형식
curl http://127.0.0.1:11436/v1/chat/completions -H "Content-Type: application/json" \
-d '{"model":"anis-getrans:ko-ja","messages":[{"role":"user","content":"오늘 저녁은 뭐 먹을까?"}]}'
| 모델 이름 | 방향 |
|---|---|
anis-getrans | 문장마다 자동 판별 |
anis-getrans:ja-ko | 일본어 → 한국어 |
anis-getrans:ko-ja | 한국어 → 일본어 |
- 엔드포인트: Ollama
/api/generate,/api/chat,/api/tags· OpenAI/v1/chat/completions,/v1/completions,/v1/models - 채팅 형식은 마지막 user 메시지를 번역하고, 그 앞의 user 메시지(최근 3개)를 앞 문맥으로 씁니다.
- 요청 본문의
anis객체(Ollama는options안도 가능)로prev,next,direction,line_type을 직접 넣을 수 있습니다. - 모델 이름을 바꿀 수 없는 도구에는
--accept-any-model을 쓰세요. 다른 기기에서 접속하게 열 때(--host 0.0.0.0)는--api-key를 함께 쓰세요.
5. CPU / GPU
--device auto(기본): NVIDIA GPU가 있으면 GPU(메모리 약 11GB), 없으면 CPU로 실행합니다.- CPU는 메모리 약 12GB가 필요하고 GPU보다 많이 느릴 수 있습니다. macOS·AMD GPU·Intel GPU는 지금은 CPU로 실행합니다.
- 기본 정밀도는 bfloat16입니다. bfloat16을 지원하지 않는 오래된 GPU는
--compute-type float16을 씁니다. - GPU에서 한 줄에 약 1초로, ANIS Trans보다 느립니다. 많은 줄을 빨리 옮겨야 하면 ANIS Trans를 쓰세요.
6. 입력할 때 알아 둘 것
- 지시문 없이 번역할 글만 넣는 방식이라, 원문 언어로 번역 방향이 정해집니다.
- 한 문장 안의 줄바꿈은
<br>로 바꿔 넣고, 번역문에서 다시 줄바꿈으로 돌립니다. <v1>같은 게임 변수는 대체로 그대로 남지만, 한 문장에 여러 개면 빠지거나 바뀔 수 있으니 확인하세요.- 문맥을 합쳐 한 줄 입력은 4,096토큰까지입니다. 넘치면 그 줄은 오류로 표시되니 앞뒤 문맥 줄 수를 줄여 주세요. 한 줄 출력은 최대 256토큰입니다.
7. 문제 해결
| 증상 | 해결 |
|---|---|
| 처음 실행이 오래 걸림 | 바탕 모델(약 9.6GB)을 내려받는 중입니다. 한 번만 받습니다. |
CUDA out of memory | GPU 메모리가 부족합니다(약 11GB 필요). 다른 GPU 프로그램을 끄거나 --device cpu로 쓰세요. |
CUDA GPU를 찾지 못했습니다 | NVIDIA 드라이버를 확인하세요. Windows는 install.cmd로(CPU판이 아닌) 다시 설치하세요. |
| 인터넷 없이 실행하면 오류 | 바탕 모델을 한 번 받은 뒤 HF_HUB_OFFLINE=1을 켜고 실행하세요. |
| Windows에서 파이프 결과가 깨짐 | 명령 프롬프트에서 chcp 65001. 파일 번역(-f, -o)은 영향이 없습니다. |
| API 서버가 열리지 않음 | 그 포트를 다른 프로그램이 쓰고 있습니다. --port로 바꾸세요. |
| GUI가 열리지 않음 | 터미널에 표시된 주소(http://127.0.0.1:포트/)를 브라우저에 직접 입력하세요. |
더 자세한 옵션은 배포판 안의 README.md에 있습니다. 실행 프로그램 소스는 GitHub, 어댑터까지 든 전체 파일은 Hugging Face에 있습니다.
8. 출처 표시
ANIS GeTrans로 만든 결과물을 공개하거나 배포할 때는 다음과 같이 출처를 표시해야 합니다(라이선스 제5조). ANIS Trans와 다른 점입니다.
이 번역에는 ANIS GeTrans 0.1 (https://krmod.anis.co.kr)이 사용되었습니다.