지시·샘플링·검증
학습 목표
출력의 일관성과 사실 정확성을 구분하며 생성 설정을 비교해요.
시스템 지시는 응답을 유도하지만 지시 준수나 도구 접근 보안을 보장하지 않아요. 권한은 앱이 강제해야 해요. 온도는 softmax 전에 토큰 점수를 조절해요. 작은 양수는 확률을 집중시키고 큰 값은 평평하게 만들어요. top-k는 후보 수, top-p는 누적 확률을 기준으로 제한해요. 둘 다 사실 확인 장치는 아니에요. 탐욕 선택은 추첨하지 않고 최고 점수 토큰을 골라요.
조금 더 알아보기
직접 만들기에서 탐욕 선택과 샘플링을 여러 번 비교해 보세요. 샘플링도 같은 결과가 나올 수 있어요. 실제 시스템은 모델 버전·문맥·도구·수치 연산도 영향을 주므로 온도 0이 완전히 같은 출력을 보장하지 않아요. 이어서 모호한 질문과 목표·배경·검증 방법을 담은 질문을 비교하세요. 사실 주장은 원출처로 확인하고, 힌트를 활용해 결과를 자기 말로 설명해 보세요.
내 말로 설명해 보기
온도가 낮은 모델도 틀린 답을 확신하는 말투로 반복할 수 있을까요?
설명과 비교하기
네. 확률이 집중됐다고 참인 것은 아니에요. 내용을 별도로 검증해야 해요.
스스로 표시하는 칸이에요. 여기서 채점하지는 않아요.
이 단계를 이해한 것으로 표시할까요?
아직 취소할 수 없으니, 정말 이해했을 때만 표시해 주세요.
이해한 것으로 표시했어요
스스로 표시하는 칸이에요. 여기서 채점하지는 않아요.