🔍 제미나이 3.7 플래시, 특이한 숫자의 조합
제미나이 3.7 플래시는 인텔리전스 인덱스 56점에 출력 속도 초당 340토큰이라는 특이한 조합을 보여줍니다. 57점대 최상위 모델 바로 아래 지능이면서, 상위 모델보다 압도적으로 빠른 속도를 냈죠. 3.6 플래시(52점)보다 지능도 4점 높아졌습니다. 그런데 이 초당 340토큰은 질문을 보내고 답을 받을 때까지의 전체 속도가 아닙니다. 답변 생성이 시작된 뒤 토큰이 나오는 속도인데요. 첫 토큰까지 걸리는 시간(TTFT)은 약 9.8초로 꽤 길었습니다. 앞에서는 오래 생각하고, 출력이 시작되면 갑자기 폭발적으로 빨라지는 구조입니다. 🤔
⚙️ TTFT 9.8초, 프리필과 디코드의 차이
LLM 추론은 입력을 읽고 처리하는 프리필과, 한 토큰씩 답을 만들어내는 디코드로 나눌 수 있습니다. 프리필 과정에서는 입력 전체에 대한 연산과 이후 생성에 쓸 KV캐시가 함께 만들어져요. 일반적인 TTFT에는 프리필뿐 아니라 요청 대기나 네트워크 시간, 리즈닝 모델의 내부 추론 시간까지 포함됩니다. 그래서 9.8초를 전부 캐시 생성 시간으로 볼 수는 없어요. 다만 디코드 속도가 초당 340토큰까지 나온다는 대비 자체는 꽤 흥미로운 포인트입니다. 🧠
💡 코딩·에이전트 성능, 상승폭이 큰 이유
구글 자체 평가에서 프론티어 코드 1.1 메인은 34.4%에서 43.6%로, 실제 업무 자동화를 보는 오토메이션 벤치는 17%에서 30.4%로 올랐습니다. 컴퓨터를 직접 조작하는 OS월드 2.0도 33.8%에서 47.9%로 크게 상승했어요. 코딩과 툴 사용, 여러 단계의 업무 수행에서 상승폭이 특히 컸습니다. 구글은 막혔을 때 대응하는 능력을 높이고, 여러 단계의 계획과 툴콜에 더 많은 연산을 쓰도록 개선했다고 설명합니다. 개발자가 중간에 개입하거나 재시도해야 하는 횟수를 줄이는 게 목표입니다. 📈
📌 3.6 플래시 기반, 3주 만의 알고리즘 이노베이션
3.6 플래시 모델 카드는 7월 21일에 업데이트됐고, 제미나이 3.7 플래시는 8월 13일에 나왔습니다. 구글 딥마인드는 3.7 플래시가 3.6 플래시를 기반으로 한다고 명시했어요. 불과 3주 만의 업데이트인 셈이죠. 보통 성능을 높이려면 더 큰 모델과 더 많은 GPU 학습을 떠올리기 쉽지만, 이번에는 기존 모델의 추론과 에이전트 동작을 손봐서 큰 상승폭을 냈습니다. 구체적인 알고리즘은 공개되지 않았지만, 기반 모델을 새로 만들지 않아도 실사용 성능을 크게 움직일 여지가 있다는 점이 흥미롭습니다. ✨
💰 에이전트 운영비, 가격과 과제당 비용
에이전트는 작업 하나 안에서도 모델을 계속 호출합니다. 호출이 10번, 20번으로 늘어나면 API 가격이 곧 운영비가 되죠. 제미나이 3.7 플래시는 올해 말까지 입력 토큰 0.75달러, 출력 토큰 3.75달러의 프로모션 가격이 적용됩니다. 2027년부터는 각각 1.5달러와 7.5달러로 조정된다고 하니 참고하세요. 아티피셜 아날리시스 기준 하이 리즈닝 설정의 과제당 비용은 약 40 수준으로 집계됐습니다. 지능 56점, 초당 340토큰, 과제당 비용. 같은 모델을 계속 불러야 하는 에이전트 환경에서는 이 세 숫자가 함께 움직여야 합니다. 💰
📝 에이전트 반복 루프에 유리한 워크호스 구조
첫 토큰 전까지는 오래 생각하고 생성 구간은 아주 짧게 가져가는 구조는 에이전트 반복 작업에 꽤 잘 맞습니다. 아티피셜 아날리시스의 타임 투 퍼스트 태스크에서도 하이 리즈닝 기준 평균 1.7분으로 상위 모델보다 약 40% 짧았고, 인텔리전스와의 비교에서 파레토 프런트에 올랐어요. 다만 이 1.7분은 출력 토큰 수를 디코드 속도로 환산한 평균 생성 시간이라 TTFT와 오버헤드는 제외됩니다. 현실의 에이전트 업무 전체가 1.7분이 걸린다는 뜻은 아니에요. 잘 판단하고, 빨리 생성하고, 도구를 쓰고, 다시 판단하는 과정을 계속 이어가는 것이 에이전트 모델의 핵심입니다. 🚀
✅ 핵심 요약 Q&A
Q: 제미나이 3.7 플래시의 가장 큰 특징은? A: 지능 56점을 유지하면서 디코드 속도 초당 340토큰을 낸 코딩·에이전트용 워크호스 모델입니다. Q: TTFT 9.8초는 왜 긴가요? A: 프리필과 리즈닝 추론 시간이 포함되기 때문인데, 생성이 시작된 뒤에는 매우 빠르게 출력됩니다. Q: 성능은 얼마나 올랐나요? A: 3.6 플래시 기반으로 3주 만에 나왔고, 프론티어 코드와 오토메이션 벤치, OS월드 2.0 모두 큰 상승폭을 보였습니다. Q: 가격은 어떻게 되나요? A: 올해 말까지 입력 0.75달러, 출력 3.75달러 프로모션이며 2027년부터 각각 1.5달러와 7.5달러로 조정됩니다. Q: 에이전트에 왜 유리한가요? A: 잘 판단하고 빠르게 생성한 뒤 도구를 쓰고 다시 판단하는 반복 루프를 빠르게 돌릴 수 있기 때문입니다. 🤖
