Talk Lowy(kr)

Claude Fable 논란, 그리고 쏟아지는 질문들 Anthropicの新モデル Claude Fable 5 가 출시 사흘 만에 미국 정부의 지시로 접근이 중단되는 초유의 사태가 벌어졌다. 사이버 보안 취약점 악용 가능성과 안전장치 우회 방법이 우려의 핵심이었다. 이 사건이 커뮤니티 전반에서 화제가 되면서, 고객들과 동료들로부터 자연스럽게 질문이 쏟아졌다. "Fable 같은 고급 모델을 도입해야 할까요? 지금 쓰는 모델이 부족한 건 아닐까요?" 저의 답은 한결같았습니다. 그리고 이 글에서 그 근거를 수치와 실전 경험으로 풀어보려 합니다. 현재 제가 사용하는 모델 기준선 저는 다음 조건을 충족하는 모델 중, 가장 비용 효율적인(Cost-per-token이 낮은) 모델을 선택 합니다. 공급사 기준 모델 현재 제 선택 기준 Anthropic Claude Sonnet 4.5 이상 Sonnet 4.x 계열 OpenAI GPT-5.4 Codex 이상 동급 Mid-tier Google Gemini 3 Flash 이상 Flash 계열 이 기준선 이상이면 아키텍처 설계, 대규모 코드 리뷰, 복잡한 인프라 분석 모두 실무 수준으로 처리됩니다. 저는 실제로 다음 작업을 이 급 모델로 매일 수행하고 있습니다. 단일 프로젝트 내 소스 파일 30,000개 이상 관리 (코드 리뷰, 리팩토링, 아키텍처 분석) 수백 대 규모의 AWS + On-premise + Azure 혼합 인프라 퍼포먼스 분석 및 이상 탐지 실시간 고객 AI 환경 운영 및 장애 대응 "더 비싼 모델 = 더 좋은 결과"는 틀린 전제입니다 Claude Opus 4.8, GPT-5.5 등 상위 모델도 직접 운용해 봤습니다. 솔직히 말하면, 결과물의 질이 드라마틱하게 향상되지는 않았습니다. 이유는 명확합니다. 모델의 한계보다 Harness의 한계가 먼저 옵니다. 2026년 현재 AI 개발 방법론은 세 단...

[AI 꿀팁] Gemini 3.5 Flash vs 3.1 Pro, 내 토큰이 순식간에 녹아내린 이유와 똑똑한 모델 선택 가이드 안녕하세요! 최근 구글의 차세대 AI 라인업인 Gemini 3.5 Flash 와 Gemini 3.1 Pro 를 사용해 보시면서 "어? 왜 이렇게 토큰(비용)이 순식간에 사라지지?" 하고 당황하셨던 분들 많으실 겁니다. 질문 몇 개 안 한 것 같은데 토큰 제한이 걸리거나 비용이 청구되는 눈물 나는 상황... 도대체 왜 이런 일이 발생하는지, 그리고 내 지갑을 지키면서 AI 효율을 극대화하는 모델 및 옵션 선택 기준 을 총정리해 드립니다! 1. 내 토큰은 어디로 사라졌을까? 범인은 'Thinking 모드' 구글 Gemini 3.x 라인업의 가장 강력한 무기는 바로 '내장형 고도화 추론(Thinking) 기능'입니다. AI가 정답을 내기 전에 내부적으로 깊게 고민하는 단계를 거치는 것인데요. 여기서 반전이 있습니다. AI가 내부적으로 머리를 굴리며 쓴 혼잣말(추론 토큰)이 모두 '출력(Output) 토큰 사용량'에 포함되어 계산 된다는 점입니다! Thinking (High) 모드의 무서움: 사용자가 질문을 한 줄만 던졌어도, AI는 완벽한 정답을 내기 위해 백그라운드에서 스스로 에이전트 루프를 돌리며 수만 토큰을 써버립니다. 겉보기엔 짧은 답변이라도 실제로는 엄청난 토큰이 소모되는 주범이죠. 늘어난 출력 창: Gemini 3.5 Flash는 한 번에 뿜어낼 수 있는 출력 한도가 65,536 토큰 으로 대폭 늘어났습니다. 모델이 글을 길게 쓰거나 깊게 생각하기 시작하면 한 번의 대화로도 토큰이 텅텅 비게 됩니다. 2. Gemini 모델별 'Thinking 레벨'에 따른 토큰 소모량 비교 모든 모델의 최대 입력은 100만 토큰, 최대 출력은 65,536 토큰으로 동일하지만, Thinking 설정에 따라 내부 토큰 배분이 완전히 달라집니다. ...

[AI 꿀팁] Gemini 3.5 Flash vs 3.1 Pro, 내 토큰이 순식간에 녹아내린 이유와 똑똑한 모델 선택 가이드 안녕하세요! 최근 구글의 차세대 AI 라인업인 Gemini 3.5 Flash 와 Gemini 3.1 Pro 를 사용해 보시면서 "어? 왜 이렇게 토큰(비용)이 순식간에 사라지지?" 하고 당황하셨던 분들 많으실 겁니다. 질문 몇 개 안 한 것 같은데 토큰 제한이 걸리거나 비용이 청구되는 눈물 나는 상황... 도대체 왜 이런 일이 발생하는지, 그리고 내 지갑을 지키면서 AI 효율을 극대화하는 모델 및 옵션 선택 기준 을 총정리해 드립니다! 1. 내 토큰은 어디로 사라졌을까? 범인은 'Thinking 모드' 구글 Gemini 3.x 라인업의 가장 강력한 무기는 바로 '내장형 고도화 추론(Thinking) 기능'입니다. AI가 정답을 내기 전에 내부적으로 깊게 고민하는 단계를 거치는 것인데요. 여기서 반전이 있습니다. AI가 내부적으로 머리를 굴리며 쓴 혼잣말(추론 토큰)이 모두 '출력(Output) 토큰 사용량'에 포함되어 계산 된다는 점입니다! Thinking (High) 모드의 무서움: 사용자가 질문을 한 줄만 던졌어도, AI는 완벽한 정답을 내기 위해 백그라운드에서 스스로 에이전트 루프를 돌리며 수만 토큰을 써버립니다. 겉보기엔 짧은 답변이라도 실제로는 엄청난 토큰이 소모되는 주범이죠. 늘어난 출력 창: Gemini 3.5 Flash는 한 번에 뿜어낼 수 있는 출력 한도가 65,536 토큰 으로 대폭 늘어났습니다. 모델이 글을 길게 쓰거나 깊게 생각하기 시작하면 한 번의 대화로도 토큰이 텅텅 비게 됩니다. 2. Gemini 모델별 'Thinking 레벨'에 따른 토큰 소모량 비교 모든 모델의 최대 입력은 100만 토큰, 최대 출력은 65,536 토큰으로 동일하지만, Thinking 설정에 따라 내부 토큰 배분이 완전히 달라집니다. ...