안녕하세요. LUNATALK입니다.

출력량 관련 안내 말씀드립니다.

현재 LUNATALK의 채팅 출력량은 기본설정 '길게' 기준 약 1,500자 내외로 출력되고 있습니다.

LLM의 특성상 출력량을 완벽하게 제어하기는 어렵기 때문에, 예상치 못한 과추론 등을 고려하여 최대 출력 토큰을 다소 여유 있게 설정해 둔 상황입니다.

그러나 최근 이 여유분을 이용하여 프롬프트나 OOC를 통해 출력량을 과도하게 늘리는 사례가 확인되었습니다. 특히 추론 모델 도입 이후 상한 토큰을 넉넉하게 잡은 상황에서 이러한 사용이 늘어나, API 비용에 큰 부담이 되고 있습니다.

저희는 모든 유저분께 동일한 경험을 제공하기 위해 정량제를 유지하고 있습니다만, 출력량 부분에서는 불가피하게 별도 옵션을 마련해야 하는 상황이 되었습니다.

이에 따라 출력량 조절 기능을 준비 중이며, 빠르면 이번 주, 늦어도 다음 주 중 오픈할 예정입니다. 해당 기능을 통해 더 많은 출력량이 필요하신 분들께는 선택지를 제공해 드릴 수 있도록 하겠습니다.

무거운 이야기를 꺼내게 되어 죄송합니다.

앞으로도 유저 여러분의 채팅 퀄리티 개선을 위해 최선을 다하겠습니다.

감사합니다.