안녕하세요 LUNATALK입니다.

Gemini 3.1 Pro에서 최근 계속 보고되고 있던 응답 잘림 문제와, 응답시간 지연 문제가 있었습니다.

해당 부분은 동일한 원인으로 발생되고 있는 것으로 확인되었는데, 그것은 과추론 입니다.

추론이 길어질수록 불필요한 토큰이 사용되고, 그에 따른 응답시간 지연과 플랫폼에서 지정한 최대 토큰량에 불필요한 추론 토큰이 더해져 응답이

결국 다 나오지 못하고 잘리는 경우가 발생했습니다.

옛날에 한번 설명드린 적이 있지만 추론은 사실 지나치게 오래 해도 응답에 좋은 영향을 끼치지 않습니다.

(관련 논문 : https://arxiv.org/html/2406.06461v1?utm_source=chatgpt.com 참고)

이에 응답 퀄리티와 속도 개선을 위해 불필요한 과추론등을 제거하여 속도를 향상시킨 Gemini 3.1 Pro 버전을 시험 공개합니다.

해당 모델은 기존 AI모델 선택창에서 선택하여 이용 가능하며

금액, 패키지 사용 또한 기존 3.1 Pro와 동일하게 이용 가능하십니다.

해당 모델 사용시

1. 응답속도 개선

2. 과추론 차단

의 효과를 체험하실 수 있습니다.

해당 모델은 일정기간 베타 테스트를 거친 후, 문제가 없다면 정식 모델로 변경 예정입니다.

이용에 참고 부탁드립니다.

감사합니다.