AI가 거짓말을 하는 것이 아니라, 진실을 모르는 것이다

환각(hallucination)이라는 단어가 사태를 흐린다. 모델은 속이고 있지 않다.

거짓말은 진실을 알고도 다른 것을 말하는 것이다. 모델은 진실을 모른다. 그저 가장 가까운 문장을 만들 뿐이다. 이것은 다른 종류의 오류다.