안녕하세요 LUNATALK입니다.

대화 응답 속도와 비용 효율을 위해 줄거리 요약 처리 방식이 개선되었습니다.

🔄 무엇이 바뀌었나요?

1. 줄거리 요약은 이제 "다음 메시지 입력 시점" 에 발동

기존에는 매 응답이 끝난 직후 줄거리 요약이 실행되었지만, 이제는 다음 메시지를 입력하는 시점에 직전 회차까지의 내용을 요약합니다.

예시 (요약 주기 5턴 설정 시)

 - 1~5턴 응답 받기 → 요약 미발동 (저장만)

 - 6턴 메시지 입력 시 → 1~5턴 요약 1회 발동 → 6턴 AI 응답

 - 7~10턴 응답 받기 → 요약 미발동

 - 11턴 메시지 입력 시 → 6~10턴 요약 1회 발동 → 11턴 AI 응답

결과적으로 요약 횟수와 시점은 동일하지만, 요약의 순서를 변경함으로서 재생성 등으로 딜레이되는 시간을 줄였습니다.

기존에는 줄거리 요약 턴의 대화를 재생성 할 경우 계속 줄거리 요약을 새로 만들어내는 시간까지 유저 분들이 감내해야하는 문제가 있었습니다.

개선 후에는 재생성이 끝나고 다음 대화를 진행하는 시점에서 해당 회차까지의 대화를 요약하기에 요약하는 1번만 대기시간이 발생하고 이후 일반적인 응답 재생성에는 요약으로 인한 딜레이가 발생하지 않습니다.

❓ 자주 묻는 질문

Q. 요약 주기는 그대로인가요?

A. 네, 설정한 요약 주기 (예: 5턴) 는 그대로입니다. 발동 시점만 다음 메시지 입력으로 이동했습니다.

Q. 응답 시작이 조금 늦어진 것 같은데요?

A. 요약이 필요한 회차 (6턴, 11턴 등) 에 한해 응답 시작 전 요약 처리 시간 (~3-5초) 이 추가됩니다.

  그 외의 회차에는 영향이 없습니다.

이용에 참고하시어 오늘도 즐거운 채팅 되시길 바랍니다.

감사합니다.