채팅에서 온도가 하는 역할과 조정해야 할 때

채팅 모드에서 모델 선택기 옆을 보면 온도계 모양의 작은 버튼이 있습니다. 이 버튼을 누르면 0에서 1까지 조절할 수 있는 슬라이더가 열리는데, 모델의 온도를 제어합니다. 온도는 쉽게 말해 답변이 얼마나 예측 가능하거나 대담할지를 결정합니다.

온도를 낮추면 모델은 가장 안전하고 가능성이 높은 단어를 선택합니다. 온도를 높이면 더 과감하게 접근하고 덜 뻔한 표현을 만들어 냅니다. 어느 쪽이 더 “좋은” 것은 아닙니다. 각각 다른 작업에 유용할 뿐입니다.

대화창에서는 슬라이더를 세 구간으로 나눕니다. 사실에 기반한 정확한 답변을 위한 보수적(0.0~0.4), 정확성과 창의성을 두루 갖춘 균형(0.5~0.7), 최대한 다양한 답변을 얻을 수 있는 창의적(0.8~1.0) 구간입니다. 다만 창의적 구간에서는 사실이 부정확해지기 시작할 수 있습니다. 실제로는 어떻게 활용할 수 있는지 살펴보겠습니다.

사례 1: 재치보다 사실이 필요할 때

계약서, 재무 보고서 또는 긴 PDF를 업로드하고 특정 숫자나 날짜, 조항을 찾아 달라고 요청하는 경우입니다. 또는 “이 오류 메시지는 무슨 뜻이야?”처럼 직접적인 질문을 할 수도 있습니다.

슬라이더를 0.2 정도로 설정하세요. 이 범위에서 모델은 가장 가능성이 높은 답변을 고수하므로 세부 내용을 지어내거나 예상치 못한 방식으로 표현을 바꿀 가능성이 훨씬 낮습니다. 문서에 없는 숫자를 모델이 자신 있게 만들어 낸 경험이 있다면, 이 설정으로 그런 일을 막을 수 있습니다.

사례 2: 일상적인 대화와 작업

이메일 초안을 작성하거나, 어떤 주제에 대한 설명을 요청하거나, 가볍게 대화를 나누는 경우입니다. 자연스럽지만 말이 되는 답변을 원할 때 적합합니다.

슬라이더를 중간인 0.5~0.6 정도에 두세요. 이 균형 구간은 채팅에서 사람들이 하는 대부분의 작업에 적합한 기본 설정입니다. 모델은 정확성을 유지하면서도 딱딱하거나 반복적으로 들리지 않습니다.

사례 3: 브레인스토밍과 창작 글쓰기

프로젝트 이름 아이디어 스무 가지, 이야기의 반전, 슬로건 또는 주제를 바라보는 색다른 관점이 필요할 때입니다. 이런 경우에는 뻔한 답변을 피하고 싶을 것입니다.

슬라이더를 0.8이나 0.9로 올리세요. 모델은 더 예상 밖의 조합을 제안하고, 시도할 때마다 문체에도 변화를 줄 것입니다. 다만 이 설정에는 절충점이 있습니다. 이 모드에서 나온 사실에 관한 주장은 반드시 다시 확인하세요. 신선한 아이디어를 만들어 내는 자유로운 특성이 그럴듯하게 들리는 허무맹랑한 답변으로 이어질 수도 있기 때문입니다.

간단한 경험 법칙

확신이 서지 않는다면 균형 구간을 사용하세요. 정확성이 중요할 때는 슬라이더를 낮추고, 막혀서 모델이 놀라움을 안겨 주길 원할 때는 높이세요. 설정은 채팅마다 적용되므로, 한 대화에서는 사실에 집중하고 다른 대화에서는 창의성을 발휘하도록 할 수 있습니다.