이 글은 이런 분께
- AI가 자신 있게 말하면 별다른 의심 없이 그대로 따라가게 되는 분
- “AI가 그렇게 말했으니까 맞겠지” 하고 헛수고해본 적 있는 분
- AI와 협업할 때 뭘 확인하고 뭘 믿어도 되는지 감이 잘 안 잡히는 분
Before — 확신에 찬 지적
발표 슬라이드 8장을 다 만들고 전체 화면을 캡처해서 학습메이트한테 보여줬다. 그런데 “실제로 이렇게 작동합니다” 슬라이드의 이미지를 보더니, 이렇게 말했다.
“4번 슬라이드의 오른쪽 이미지가 아직 Gamma가 자동으로 그려준 어두운 톤의 가짜 채팅 화면이에요. 저번에 드린 진짜 GPT 대화 캡처로 안 바뀌었어요.”
의심 없이 그 말대로 이미지를 다시 업로드해서 바꿨다. 그런데 뭔가 이상했다. 처음에 슬라이드 만들 때 넣은 이미지가 바로 그 파일이었기 때문이다.
어떻게 — “이거 말하는 거야?”라고 되물은 게 시작
바로 수긍하지 않고 물었다.
“아까 첨에 내가 보낸 이미지도 이거 넣은 거였는데… 왜 다시 바꾸라고 한 거야?”
이 한마디가 문제를 드러냈다. 학습메이트는 전체 슬라이드 화면을 캡처한 스크린샷 안에서, 그 이미지가 작게 축소되고 어둡게 보인다는 이유만으로 “가짜 같다”고 판단했다. 실제 원본 파일을 열어서 비교해본 적이 없었다.
되물은 뒤에야 학습메이트가 진짜로 파일을 열어봤고, 그제서야 원래 이미지가 처음부터 맞았다는 게 확인됐다.
After — 사과와 원칙 하나
학습메이트가 잘못을 인정하고 사과했다. AI가 자신 있게 말한다고 그게 맞다는 뜻은 아니다. 특히 이미지·화면처럼 “보고 판단하는” 문제에서는, 작게 축소된 스크린샷만 보고 단정하는 것과 원본을 직접 열어서 비교하는 건 신뢰도가 완전히 다르다.
다행히 실제 손해는 없었다 — 이미지를 다시 업로드해도 같은 파일이었으니까. 하지만 만약 다른 상황이었다면 멀쩡한 걸 괜히 지우거나, 진짜 문제를 놔둔 채 엉뚱한 곳을 고쳤을 수도 있었다.
배운 것 / 재사용 자산
AI가 확신에 차서 말해도, 그 근거가 “작은 스크린샷 한 장”이면 한 번 더 물어봐도 된다. “이거 말하는 거야?”, “아까 그거 아니야?”처럼 되묻는 것만으로도 AI가 스스로 다시 확인하게 만들 수 있다.
재사용 질문 — AI 판단이 의심스러울 때
그거 확실해? 추측 말고 실제 파일(또는 원본)을 직접 열어서
비교해보고 다시 말해줘.
이 일을 겪고 나서, 학습메이트도 “이미지가 맞는지 판단할 땐 원본을 먼저 열어보고 말하기”를 스스로 규칙으로 남겼다고 한다. AI와 일할 때는 AI의 확신도가 아니라, 그 확신의 근거가 뭔지를 보는 게 중요하다는 걸 배운 하루였다.