AI의 '환각'과 '육아 조언': 어디까지 믿어야 할까?

AI의 ‘환각(hallucination)’ 문제는 이제 낯설지 않은 이야기다. AI가 없는 사실을 지어내거나 잘못된 정보를 마치 진짜처럼 제시하는 현상 말이다. 최근 AI 탐지 기업 GPTZero가 PwC 중동 법인의 보고서에서 AI 환각으로 추정되는 사례를 발견하며 다시 한번 이 문제의 심각성을 일깨웠다. PwC 보고서에는 존재하지 않는 논문과 정부 고객사가 각주로 달려 있었다고 한다. 컨설팅 수주용 자료였다지만, 글로벌 기업의 공식 보고서에서 이런 문제가 발견됐다는 건 충격적이다.

AI, 허위 정보를 진짜처럼 포장하다

GPTZero의 분석에 따르면, PwC 보고서에는 ‘시티즌 펄스(Citizen Pulse)‘라는 자체 프레임워크가 덴마크, 사우디아라비아, 미국, 호주 정부에서 사용된다고 적혀 있었지만, GPTZero는 이 제품의 존재 증거를 찾을 수 없었다고 한다. 여기에 인용된 각주들도 대부분 존재하지 않는 내용이었다. 이는 AI가 그럴듯한 문장과 구조로 허위 정보를 만들어내면, 일반 독자들은 물론 전문가들조차 쉽게 속아 넘어갈 수 있다는 점을 보여준다. 특히 비판적 사고 없이 AI 생성물을 그대로 받아들일 경우, 심각한 오정보 확산으로 이어질 수 있다.

이 사건은 AI 활용에 있어 ‘팩트 체크’의 중요성을 다시 한번 강조한다. AI는 방대한 데이터를 학습하지만, 그 과정에서 오류를 내거나 맥락을 잘못 이해할 수 있다. 혹은 단순히 ‘그럴듯하게’ 보이는 답변을 생성하는 데 특화되어 있을 수도 있다. 따라서 AI가 제시하는 정보는 항상 교차 검증하고 비판적으로 접근해야 한다는 교훈을 준다.

샘 알트만: ChatGPT로 육아 조언까지?

한편, OpenAI의 CEO 샘 알트만은 ChatGPT를 육아에 활용하는 사례를 적극적으로 홍보하고 있어 대조적인 모습을 보인다. 그는 ChatGPT를 통해 아이들과 대화하는 방법을 배우고, 육아에 대한 ‘쿨한 사용 사례’를 찾았다고 말한다. 복잡하고 민감한 육아 문제에 AI의 도움을 받는다는 발상은 분명 혁신적일 수 있다. 하지만 동시에 AI의 환각 문제가 여전히 해결되지 않은 상황에서, AI의 조언을 생명과 직결된 육아에 적용하는 것이 과연 안전할지에 대한 의문도 제기된다.