작은 차이로 바뀌는 AI 활용

거짓말 하는 AI, 거짓말 못하게 하는 프롬프트 꿀팁

강수진

안녕하세요. 프롬프트 엔지니어 강수진입니다. 당근메일에 처음 인사 드려요. 모든 분들에게 유용한 글을 쓰고 싶어 고민하다, ChatGPT나 클로드 같은 AI 도구를 사용하며 많은 사람들이 겪는 문제를 다루기로 했습니다.

ChatGPT나 클로드 같은 AI, 똑똑하지만 가끔 엉뚱한 대답을 하죠?

이를 생성형 AI가 사실이 아닌 정보를 출력하는 현상, 환각 (Hallucination)이라고 해요. 우리가 꿈을 꾸다 현실과 헷갈리는 것처럼, AI도 가끔 배운 것과 실제를 혼동해요. 이런 환각은 주로 AI가 특정 주제에 대해 충분한 학습 데이터나 지식이 없을 때 발생합니다. 하지만 프롬프트를 제대로 사용하면,  ‘환각' 문제를 훨씬 줄일 수 있어요.

환각을 줄이기 위한 프롬프팅 작업 과정,

해답은 사람의 인지 과정에 있다.

LLMs 을 이해하고 프롬프트를 잘 쓰고, 엔지니어링을 잘하려면 인지 과학의 책을 읽어야해요. LLMs 이 사람 같아졌기 때문이에요. 그럼 사람 같아졌다는 말은 무슨 의미일까요?

단순히 기술의 발전을 넘어, 우리가 ‘인간됨'의 본질을 어떻게 정의하는지에 대한 근본적인 질문을 제기합니다.  인지과학의 책을 읽는 것은 이러한 철학적 질문에 대한 답을 얻을 수 있고, LLM을 깊게 이해할 수 있도록 하는거죠.

Daniel Kahneman의 책 <Thinking, Fast, and Slow> 을 소개합니다. 책 내용 중에는 프롬프트에 적용할 수 있는 것이 많습니다. 그 중 하나가 "The Illusion of Understanding(인지 편향)" 이에요.

➡ 원문:

The core of the illusion is that we believe we understand the past, which implies that the future also should be knowable, but in fact we understand the past less than we believe we do. Know is not the only word that fosters this illusion. In common usage, the words, intuition and premonition are also reserved for past thoughts that turned out to be true. (p. 201-202)

➡ 한국어 해석:

우리는 과거를 "이해"한다고 믿는다. 이는 미래도 알 수 있어야 한다는 착각을 불러일으킨다. 하지만 실제로 우리는 우리가 생각하는 것보다 과거를 덜 이해하고 있다. "앎"이라는 단어뿐 아니라, "직관"과 "예감"이라는 단어도 이런 착각을 강화한다. 이 단어들은 주로 결과적으로 맞았던 과거의 생각들을 지칭할 때 사용된다.