Jev, 진짜 8배 빠르고 76배 저렴할까? 직접 테스트해봤다 [2/3]
SERIES TypeSafe Jev 완전 정복 2 / 3
- 1 전세계가 주목하는 AI 'Jev', 5분이면 이해합니다 — TypeSafe Jev 입문 [1/3]
- ▶ Jev, 진짜 8배 빠르고 76배 저렴할까? 직접 테스트해봤다 [2/3]
- 3 Jev 모델 파헤치기: 구조, 원리, 그리고 활용법 [3/3]
Jev 시리즈 두 번째 편입니다. 첫 편(전세계가 주목하는 AI ‘Jev’, 5분이면 이해합니다)에서 Jev가 무엇인지 살펴봤다면, 이번 편은 코드팩토리가 직접 GPT-5.6 Terra와 나란히 비교 테스트한 “Jev 진짜 200배 빠르고 400배 저렴한지 테스트 해봤습니다.” 영상을 정리했습니다.
일반 LLM과 무엇이 다른가
일반 LLM에게 “이 댓글이 나한테 질문을 하고 있는 글인가?”라고 물으면, 모델은 토큰 단위로 답을 순차 생성합니다. Jev는 다릅니다. 자유롭게 글을 쓰는 대신, 미리 정한 항목을 판단하도록 설계됐습니다. TypeSafe는 이걸 “System One” 모델이라고 부르는데, 문장을 순서대로 생성하는 부담을 줄이고 여러 판단을 동시에 병렬로 처리해서 속도와 비용을 개선한다는 목적입니다.
Jev에는 질문을 던지는 방식이 세 가지 있습니다.
- Noul 타입: 어떤 내용이 참인지(0~1 사이 값으로) 판단. 예: “이 댓글은 답변이 필요한가?”
- Choice 타입: 주어진 선택지 중 하나를 고르는 방식. 예: “질문 / 영상 요청 / 의견 / 비판 / 홍보” 중 어디에 해당하는가?
- Score 타입: 정한 기준으로 점수를 매기는 방식. 예: 답변 우선순위를 0~3점으로.
이 세 가지를 병렬로 한 번의 요청에 함께 넣을 수 있어서, 같은 댓글을 놓고 여러 질문을 동시에 판단할 수 있습니다. 다만 각 질문은 독립적으로 처리되기 때문에 “Choice 결과를 보고 Score를 매기는” 식의 연쇄 판단은 안 되고, 그러려면 파이프라인을 따로 설계해야 합니다.
고객 문의 100건 테스트: 8배 빠르고 76배 저렴
코드팩토리는 한국어 고객 문의 100건을 준비해서 세 가지 경로로 같은 작업을 시켰습니다. Jev 공식 게이트웨이 직접 호출, 버셀 AI 게이트웨이를 거친 Jev, 그리고 버셀을 거친 GPT-5.6 Terra입니다.
결과는 다음과 같았습니다.
| 경로 | 처리 시간 | 비용 |
|---|---|---|
| Jev 직접 호출 | 2.1초 | $0.0037 |
| Jev (버셀 경유) | 3.7초 | - |
| GPT-5.6 Terra | 17.4초 | $0.28 |
Jev 직접 호출 기준으로 테라보다 약 8배 빠르고, 약 76배 저렴했습니다. 정확도 면에서는 100건 중 89건에서 완전히 동일한 분류 결과가 나왔고, 긴급 여부 판단은 100건 모두 Jev와 Terra가 똑같이 판단했습니다.
유튜브 댓글 분류, 광고 메일 분류 같은 다른 작업에서도 결과는 비슷했습니다. 댓글 피드 100회 처리 기준 Jev 5.6초 vs Terra 35.2초, 광고 메일 분류는 Jev 6.3초 vs Terra 45.2초였고, 광고 메일은 100건 중 99건이 같은 카테고리로 분류됐습니다.
분류 + 생성 파이프라인: 거의 4배 빠르고 14배 저렴
실제 업무에서는 분류만으로 끝나지 않고, 고른 댓글에 답변까지 작성해야 합니다. 그래서 두 가지 방식을 비교했습니다.
- Terra 단독: 댓글을 고르는 것부터 답변 작성까지 전부 Terra가 처리
- Jev + Terra: Jev가 답변할 댓글만 먼저 분류하고, 실제 답변 작성은 Terra가 진행
둘 다 댓글 100개 중 우선순위 높은 5개를 골라 답변을 생성하도록 했습니다.
| 방식 | 분류 완료 | 전체 완료 | 비용 |
|---|---|---|---|
| Jev + Terra | 3.9초 | 11초 | $0.026 |
| Terra 단독 | 34초 | 42초 | $0.36 |
앞단 분류만 Jev로 바꿨을 뿐인데 전체 작업이 약 3.8배 빠르고, 약 14배 저렴해졌습니다. 두 방식이 고른 댓글 5개 중 2개는 겹쳤고, 나머지는 서로 다르지만 둘 다 합당한 선택이었습니다.
결론: 어디에 쓰면 좋은가
공식 사이트가 주장하는 40~200배까지는 체감하지 못했지만, 최소 6~8배는 빨랐고 비용 차이는 훨씬 컸습니다. 핵심은 “판단만 하면 되는 라우팅 영역”과 “실제로 생성해야 하는 영역”을 나누는 것입니다. 판단 영역에 Jev를 앞단에 붙이고, 뒤에는 원래 쓰던 생성 모델을 그대로 쓰면 비용과 시간을 크게 줄일 수 있습니다.
다음 편에서는 Jev의 내부 구조와 Python SDK 사용법, 그리고 웹 자동화·자동매매 같은 확장 활용 사례를 다룹니다.
// reading compass
이 글과 이어지는 경로
시리즈, 카테고리, 태그 겹침, 최신도를 점수화해 가까운 글일수록 중심에 배치합니다.
댓글남기기