• 목록

우리가 AI 채팅을 할 때 사용되는 LLM(Large Language Model)은 공통적으로 몇 가지 특징들이 있습니다.

현재 현존하는 모델은 공통점으로 가지고 있는 특징이니, 이 부분을 정확히 알고 채팅을 진행하면 더 재미있는 채팅을 즐길 수 있지 않을까 싶어 몇 가지 팁을 공유 드리고자 합니다.

이미 알고 계시는 유저 분들도 많으실 꺼라 생각되기도 하고...

다른 의견을 가지신 분도 있을 거라 생각되니 참고 용으로만 읽어주세요. 

1. 초반 2~3개의 대화가 중요합니다.

AI특성상 기존 대화의 의존도가 상당히 높습니다. (심지어 내부에 작성된 캐릭터 설정이나 로직 프롬프트 보다 높은 경우도 있습니다.)

초반 몇 대화가 마음에 안들 거나 일부 문제가 있을 때 그대로 진행하는 것과, 메시지를 마음에 들게 수정 후 진행 하는 것은 큰 차이가 있습니다. 따라서, 캐릭터와 대화 시 초반 몇 개의 응답 메시지는 주의 깊게 확인하시어 마음에 안 드는 표현이나 오타, 외국어 등이 나타나지 않는지  확인 해 보시는 게 좋습니다.

(리롤 비용을 절약 하시려면 대부분 채팅에 있는 메시지 수정 기능을 이용하셔서 메시지를 수정 후 진행하셔도 됩니다.)

2. 메시지를 보낼 때 단답 보다는 부가 지문이 포함된 메시지를 보내는 것이 좋습니다.

AI는 자연어를 이해할 수 있게  학습이 되었으나, 한글보다는 영문의 학습량이 많으며, 이에 따라 한국어를 이해하는 능력이 영문에 비해 다소 떨어질 수 있습니다.

따라서 메시지를 보내실때 대사만 단문으로 적어 보내시는 것 보다. 지문등으로 해당 상황에 대한 부가설명등을 적어 주는게 좋습니다.

예를들어 

"뭐해?"

하나 적어서 보내는 것 보다.

(이 경우 유저가 묻는것인지, {{char}}의 대사를 역사칭한것인지, 유저가 묻는다고 하면 진짜 뭐하는지 몰라서 물어보는 것인지 {{char}}가 하는 행동이 어이없어서 물어보는 것인지 판단이 어렵죠?)

"뭐해?"
*000은 ㅁㅁㅁ를 향해 어이없다는 듯이 물어본다.*

식으로 유저의 행동에 대한 부가 설명을 같이 적어주면 AI가 이해하기도 쉽고, AI가 더 많은 응답을 작성하는데 도움이 됩니다.

이와 비슷한 내용이지만 사람이 의도를 헷갈릴만한 내용은 AI는 100% 헷갈려합니다.

1채팅당 비용 비싸잖아요.... 한번 칠때 우리 다들 고봉밥 응답, 제대로 맥락을 파악한 응답 받고 싶잖아요.

우리도 조금 만 더 AI한테 자세히 알려 줍시다.

3. 프롬프트를 포함한 모든 AI 에게 전달되는 내용은 주어와 목적어를 포함하여 작성한다.

2번 내용과 비슷한 부분입니다.

채널에 보면 유저메모(유저노트)가 잘 안 먹힌다거나 몇몇 프롬프트가 잘 안 먹힌다는 내용의 글들을 종종 봅니다.

100% 이게 원인 이라고는 당연히 말씀 드릴수 없으나. 예를 들어 주로 많이 올라오는 상태창의 경우

항상 상태창을 아래에 출력

```
상태창 내용

```

이라는 내용을 작성했다고 치면

이 상태창을 누가 작성해야하는지 ({{user}}인지 {{char}}인지)

'상태창' 이라는 것은 무엇인지

(아래에 상태창 양식을 넣어 두셨겠지만 AI는 그게 '상태창' 이며 이 내용을 매 대화마다 출력 해야 한다고 인식하지 못할 확률이 높습니다.)

아래에 출력하라고 했는데 아래가 어디 아래인지 인식을 못할 확률이 높습니다.

물론 우연히 상태창이 제 위치에 출력 되고, 그게 쭉 이어지면 (아까 설명 드린 1번항목의 원리로) 문제없어 보일 수 있지만

이는 매 채팅방마다 일관적으로 출력되지 않을 확률이 높으며 흔히 말하는 '감자'의 오해를 받을 우려가 있습니다.

제가 유저 분들에게 보통 공유드리는 상태창 프롬프트는 아래와 같습니다.

{{char}}는 항상 응답의 끝에 아래의 상태창을 코드블럭(```)안에 출력한다.

```

상태창 내용

```

이렇게 적을 경우

1) 상태창을 작성해야 하는 주체 ({{char}})

2) 상태창을 작성해야 하는 위치 (항상 응답의 끝)

3) 상태창이 무엇인지 (아래의 상태창)

4) 상태창을 어떻게 출력해야 하는지 (코드블럭(```) 안)

등의 내용이 명확하게 AI에게 전달되어 상태창이 출력되지 않는 오류를 최대한 방지할 수 있습니다.

대표적으로 상태창 로직으로 설명을 드렸지만 이 내용은 캐릭터 프롬프트, 유저메모나, 페르소나, 로어북의 경우에도 동일하게 작동되는 기본적인 프롬프트 작성 원리입니다.

다 아실 것 같은 내용을 주절주절 썼을지도 모르겠습니다만 그래도 참고가 되었으면 해서 글 남깁니다.

반응 괜찮으면 또 시간 날 때 정보 글 몇 개 올려 보겠습니다.

감사합니다.