ChatGPT 사용 시 주의할 점: 똑똑한 AI가 나를 바보로 만들 수도 있다?
최근 ChatGPT를 활용해 정보를 얻거나 글을 쓰는 분들이 정말 많습니다. 하지만 ChatGPT를 100% 신뢰해도 될까요? 오늘은 제가 겪은 실화와 함께, ChatGPT를 사용할 때 반드시 경계해야 할 점들을 정리해 보려고 합니다.
1. ChatGPT는 실시간 백과사전이 아니다
흔히 ChatGPT를 '무엇이든 물어보면 답해주는 검색 엔진'으로 생각하기 쉽습니다. 하지만 ChatGPT는 수많은 정보를 학습해 정리하는 '언어 모델'이지, 실시간으로 세상을 관찰하는 프로그램이 아닙니다.
실제로 제가 겪은 일입니다. 배우 안성기 님의 소식을 접하고, 아주 오래전 그가 남우조연상 후보에 올랐던 기록을 찾기 위해 검색을 하던 중이었습니다. 그런데 ChatGPT는 안성기 배우를 여전히 '현존하는 배우'로 묘사하며 답변을 내놓았습니다.
이처럼 ChatGPT는 스스로 실시간 검색을 해서 팩트를 전달하기보다, 사용자의 질문에 맞춰 그럴듯한 답을 찾아 정리하는 역할을 우선시합니다. 질문이 잘못되었거나 학습된 데이터와 차이가 있을 때 팩트가 어긋난 답을 내놓는 이유가 바로 여기에 있습니다.
2. '할루시네이션(Hallucination)', AI의 확신에 찬 거짓말
AI가 저지르는 이런 실수를 뜻하는 전문 용어가 있습니다. 바로 '할루시네이션(환각)'입니다.
할루시네이션(Hallucination)이란? AI가 사실이 아닌 정보를 마치 사실인 것처럼 ‘그럴듯한 문장’으로 만들어내는 현상
ChatGPT는 웹상의 방대한 정보를 학습하는 과정에서 가짜 뉴스나 잘못된 정보까지 한꺼번에 습득합니다. 문제는 이 틀린 정보를 너무나 논리적이고 당당한 말투로 설명하기 때문에, 사용자가 별생각 없이 읽다 보면 그대로 속아 넘어가기 쉽다는 점입니다.
3. ChatGPT를 사용할 때 반드시 주의할 점
편리한 도구인 ChatGPT를 독(毒)이 아닌 약(藥)으로 쓰기 위해선 아래 3가지를 꼭 기억해야 합니다.
- 첫째, 100% 신뢰는 금물! 반드시 팩트체크하세요. AI가 준 정보 중에 숫자, 인물, 날짜, 전문 지식이 포함되어 있다면 반드시 구글링이나 뉴스 검색을 통해 교차 검증을 해야 합니다. 검수 없는 복사 붙여넣기는 잘못된 정보를 유포하는 주범이 됩니다.
- 둘째, 질문(프롬프트)을 구체적으로 하세요. 질문 자체가 엉뚱하거나 모호하면, AI는 부족한 정보를 메우기 위해 상상력을 발휘(환각)하기 시작합니다. 최대한 구체적인 맥락을 제공해야 오류를 줄일 수 있습니다.
- 셋째, 개인정보나 기밀사항을 입력하지 마세요. 내가 입력한 질문 내용은 AI의 학습 데이터로 활용될 수 있습니다. 유출되면 안 되는 민감한 개인 정보나 회사의 업무상 비밀은 절대로 입력해서는 안 됩니다.
AI는 '바보'를 더 '바보'로 만든다?
제가 이번 포스팅의 주제를 "ChatGPT는 바보를 더 바보로 만든다"라고 생각한 이유도 여기에 있습니다. 스스로 검증하려 하지 않고 AI의 답변을 맹목적으로 믿는다면, 우리는 가짜 뉴스에 더 쉽게 노출될 수밖에 없습니다.
AI 기술이 발전할수록 역설적으로 인간의 사고력은 시험대에 오르게 됩니다. 스스로 생각하고 검증하지 않은 채 AI에 의존하기만 하면 벌어지는 3가지 위험한 사례와 그 해결책을 정리했습니다.
1. 잘못된 사용의 예시 (3가지 사례)
- 사례 1: 존재하지 않는 '가짜 역사'의 창조 어떤 사용자가 세종대왕의 맥북 던짐 사건에 대해 묻자, ChatGPT가 조선왕조실록을 인용하며 "세종대왕이 훈민정음 작성 중 맥북을 던진 일화가 있다"고 아주 상세히 답한 적이 있습니다. 이를 그대로 믿고 과제나 포스팅에 활용한다면, 사용자는 순식간에 '가짜 뉴스 유포자'가 되고 맙니다.
- 사례 2: 출처 없는 법률 및 의학 정보 맹신 "이 증상에는 어떤 약이 좋아?"라고 물었을 때 AI는 그럴듯한 처방을 내놓을 수 있습니다. 하지만 AI는 약학적 부작용이나 개인의 체질을 고려하지 않습니다. 검증되지 않은 AI의 조언을 의사나 약사의 전문적 소견보다 우선시하는 순간, 건강을 해치는 치명적인 실수를 하게 됩니다.
- 사례 3: 사고의 게으름과 비판적 능력 상실 보고서나 에세이를 쓸 때 질문 하나로 답변을 통째로 생성해 복사 붙여넣기만 반복하는 경우입니다. 내용의 논리적 허점을 파악하거나 자신의 주관을 담는 과정을 생략하게 되면서, 결국 AI가 없으면 아무런 글도 쓰지 못하는 '생각하지 않는 사람'이 되어버립니다.
2. 우리가 가져야 할 'AI 활용 해결책'
AI에게 주도권을 뺏기지 않고, AI를 진정한 나의 도구로 쓰기 위한 3가지 원칙입니다.
- 비판적 거리두기 (Critical Thinking): AI의 답변을 '정답'이 아닌 '초안'이나 '참고용'으로만 대하세요. "이게 정말 맞을까?"라는 의심이 AI 시대에 필요한 가장 지적인 태도입니다.
- 교차 검증의 생활화 (Cross-Check): 중요한 정보는 반드시 구글링, 전문 서적, 공식 통계 등 신뢰할 수 있는 소스에서 한 번 더 확인해야 합니다. AI가 알려준 키워드를 바탕으로 직접 팩트를 찾아 나가는 과정이 필수입니다.
- 질문의 수준 높이기: AI는 질문자의 수준만큼만 답합니다. 엉뚱하고 모호한 질문 대신, 구체적인 상황과 제약 조건을 설정해 AI가 오류를 범할 틈을 주지 않는 고도의 '질문 기술(Prompt Engineering)'을 익혀야 합니다.
결국 AI는 사용자의 검수와 팩트체크가 더해졌을 때 비로소 완벽한 도구가 됩니다. 질문하는 힘을 기르고 결과를 의심해 보는 습관, 그것이 AI 시대를 살아가는 우리에게 가장 필요한 능력이 아닐까요?
도움이 되셨다면 공감과 댓글 부탁드립니다!
문의 : kkolzzipd@gmail.com