본문 바로가기

pulse.re.kr

언론연구원

2001년 설립

언론을 이해하는 지식, 신뢰를 높이는 연구.

AI 챗봇이 알려 준 뉴스, 출처는 어떻게 확인하나요? EBU·BBC 조사 45% 오류와 인용 13% 변조로 보는 4단계

강태하 · 연구위원

AI 챗봇이 알려 준 뉴스, 출처는 어떻게 확인하나요?

확인 순서는 링크를 누르기 전이 아니라 누른 다음입니다. BBC가 유럽방송연합(EBU)을 대표해 수행한 조사에서 AI가 생성한 뉴스 답변의 45%에 적어도 하나의 중대한 문제가 있었습니다. 31%는 출처 표기에 심각한 문제가 있었고 20%는 환각된 세부사항이나 오래된 정보 같은 정확도 오류를 포함했습니다. BBC 기사를 출처로 제시한 답변 중 19%는 사실관계나 수치, 날짜가 틀렸고 BBC 기사에서 가져왔다고 적힌 인용문 가운데 13%는 실제 기사에 없거나 변조된 내용이었습니다. 링크가 붙어 있어도 확인은 아직 끝나지 않았습니다. 거기서부터 시작입니다.

목차

같은 질문을 네 챗봇에 던져 본 기록

연구원에서 뉴스 리터러시 교육 자료를 만들 때 실제 사례를 모읍니다. 국내 정책 관련 질문 하나를 골라 네 개의 AI 서비스에 같은 문장으로 물었습니다. 답변마다 출처 링크가 붙어 있었습니다.

첫 번째 답변에는 링크 세 개가 달렸습니다. 두 개는 열렸고 하나는 404였습니다. 열린 두 기사 가운데 하나에는 답변에 적힌 수치가 없었습니다. 비슷한 숫자가 있었는데 단휘가 달랐습니다.

두 번째 답변은 숫자가 정확했습니다. 다만 출처로 적힌 기사의 발행일이 2년 전이었습니다. 그 사이에 제도가 한 번 바뀌었고 답변은 바뀌기 전 내용이었습니다. 링크가 정상이고 인용도 정확한데 답이 틀린 경우입니다.

세 번째 답변에는 따옴표로 묶인 전문가 발언이 들어 있었습니다. 출처 기사를 열어 그 문장을 찾았습니다. 없었습니다. 비슷한 취지의 문장이 있었지만 표현이 달랐고 발언자도 달랐습니다.

네 번째 답변이 가장 까다로웠습니다. 링크가 언론사 메인 페이지였습니다. 기사 주소가 아니어서 어떤 기사를 참조했는지 확인할 방법이 없었습니다. 답변 내용은 대체로 맞았습니다. 그런데 검증이 불가능했습니다.

네 번 가운데 그대로 쓸 수 있는 답변은 없었습니다. 이 경험이 조사 결과와 어긋나지 않습니다. Gemini의 경우 응답의 76%에서 중대한 문제가 확인됐고 그 대부분이 출처 표기 오류에서 비롯됐다는 분석도 함께 나왔습니다.

네 번의 시도에서 얻은 교훈은 하나였습니다. 답변의 품질은 문장이 매끄러운지로 갈리지 않습니다. 링크를 눌렀을 때 무슨 일이 벌어지는지가 가릅니다. 매끄러운 답변에서 틀린 인용이 나오고 어색한 답변에서 정확한 출처가 나오는 경우도 있었습니다.

45%라는 숫자를 쪼개면

유형비율내용
중대한 문제가 하나 이상45%출처·정확도·맥락 가운데 하나 이상
심각한 출처 문제31%출처 누락·오귀속·확인 불가
주요 정확도 오류20%환각된 세부사항, 오래된 정보
출처 기사와 수치·날짜 불일치19%BBC를 출처로 든 답변 기준
실제 기사에 없는 인용문13%BBC 기사 인용으로 표시된 문장 기준

숫자를 읽을 때 조심할 점

45%는 "절반이 거짓"이라는 뜻이 아닙니다. "중대한 문제가 하나 이상 있었다"는 기준입니다. 출처가 모호한 것도 중대한 문제에 들어갑니다. 반대로 나머지 55%가 완전무결하다는 뜻도 아닙니다. 경미한 문제는 집계에서 빠졌습니다. 숫자를 인용할 때 기준을 함께 적는 습관이 필요 합니다.

왜 이 조사가 중요한가

이용 규모가 커지고 있습니다. 온라인 뉴스 이용자의 7%, 25세 이하에서는 15%가 AI 어시스턴트로 뉴스를 얻는다는 집계가 함께 제시됐습니다. 전체로 보면 작은 비율이지만 젊은 층에서는 두 배를 넘습니다. 오류율이 그대로 유지된 채 이용이 늘면 영향의 절대량이 커집니다. 뉴스 회피가 늘어나는 흐름과 겹치면 문제가 한 겹 더해집니다. 기사를 직접 읽지 않고 요약만 소비하는 습관이 자리를 잡으면 오류를 발견할 기회 자체가 줄어듭니다.

출처 표기가 틀리는 네 가지 방식

1. 없는 기사를 가리킵니다

링크가 404이거나 아예 존재하지 않는 주소입니다. 가장 쉽게 잡히는 유형입니다. 누르면 바로 드러납니다.

2. 다른 기사를 가리킵니다

링크는 열리는데 그 기사에 답변 내용이 없습니다. 같은 주제의 다른 기사거나 관련 없는 기사입니다. 출처 오귀속이라고 부릅니다. 앞의 조사에서 31%를 차지한 심각한 출처 문제의 상당 부분이 이 유형입니다.

3. 오래된 기사를 가리킵니다

링크도 정상이고 내용도 그 기사에 있습니다. 그런데 그 기사는 과거 시점의 것입니다. 제도나 수치가 바뀐 뒤에도 옛 기사가 출처로 붙습니다. 날짜를 보지 않으면 잡아내지 못합니다.

4. 인용문을 바꿔 적습니다

가장 위험한 유형입니다. 따옴표 안의 문장이 실제 기사와 다릅니다. 표현을 다듬거나 요약하면서 발언으로 둔갑합니다. 조사에서 13%로 집계된 항목입니다. 인용문은 사람의 말이므로 바뀌면 그 사람에게 피해가 갑니다.

왜 이런 일이 생기나

검색과 생성이 분리돼 있습니다

AI 서비스가 뉴스를 답할 때 흔히 쓰는 구조는 검색으로 문서를 모은 뒤 그 내용을 요약해 문장을 만드는 방식입니다. 문제는 문장을 만든 뒤에 출처를 붙인다는 점입니다. 어느 문장이 어느 문서에서 나왔는지 정확히 추적하지 않고 관련도가 높은 링크를 할당하는 구조라면 오귀속이 구조적으로 생깁니다.

요약이 인용을 만듭니다

여러 문서를 압축하면 표현이 섞입니다. 섞인 문장에 따옴표가 붙는 순간 인용문이 됩니다. 원문에는 없던 문장이 "기사에 따르면"이라는 틀 안에 들어가는 경로입니다.

날짜가 가중치에 잘 반영되지 않습니다

검색 결과의 관련도와 최신성은 다른 축입니다. 제도 변경처럼 최신성이 결정적인 주제에서 관련도만으로 문서를 고르면 오래된 내용이 올라옵니다. 이용자가 "최신 기준으로"라고 덧붙여도 완전히 해결되지 않습니다.

그래서 이용자 쪽 확인이 필요합니다

구조에서 생기는 오류는 이용자가 프롬프트를 잘 써서 없앨 수 있는 종류가 아닙니다. 확인 절차를 습관으로 만드는쪽이 현실적입니다. 아래 네 단계가 그 절차입니다.

출처를 확인하는 4단계

1단계 - 링크를 누릅니다

가장 단순한데 가장 자주 건너뜁니다. 링크가 열리는지, 기사 주소인지 메인 페이지인지 봅니다. 메인 페이지가 걸려 있으면 검증 불가로 처리하고 그 답변은 쓰지 않습니다.

2단계 - 날짜를 봅니다

기사 발행일과 최종 수정일을 확인합니다. 제도, 요금, 통계처럼 바뀌는 내용이라면 1년이 넘은 기사는 그 자체로 경고 신호입니다. 답변에 "2026년 기준"이라고 적혀 있어도 출처 날짜가 다르면 날짜를 믿습니다.

3단계 - 숫자와 인용문을 원문에서 찾습니다

브라우저에서 문서 내 검색으로 숫자를 그대로 찾아봅니다. 인용문은 따옴표 안의 다섯 글자 정도만 검색해도 충분합니다. 찾지 못하면 그 문장은 쓰지않습니다. 이 단계가 전체에서 가장 많은 오류를 걸러 냅니다.

4단계 - 원문 발행 주체를 확인합니다

기사를 쓴 곳이 언론사인지, 보도자료를 그대로 옮긴 페이지인지, 블로그인지 봅니다. 같은 사실이라도 발행 주체에 따라 신뢰도가 다릅니다. 이 단계에서 측면 읽기를 씁니다. 그 매체가 어떤 곳인지 다른 곳에서 찾아보는 방식입니다.

네 단계를 다 거치는 데 보통 2~3분이 걸립니다. 답변을 읽는 데 20초가 걸렸으니 확인에 드는 시간이 아홉 배입니다. 그래서 모든 답변에 네 단계를 적용하기는 어렵습니다. 현실적인 기준은 "이 내용을 다른 사람에게 전달할 것인지"입니다. 전달하거나 문서에 쓸 내용에만 적용하면 부담이 관리됩니다.

AI 답변을 인용할 때 지켜야 할 표기

보고서와 과제에 쓰는 경우

AI 답변 자체를 출처로 적는 것은 적절하지 않습니다. 답변은 2차 가공물이고 추적이 불가능합니다. 원문 기사를 찾아 그 기사를 출처로 적습니다. 원문을 찾지 못했다면 그 내용은 쓰지 않습니다. 이 원칙만 지키면 나머지 문제는 대부분 사라집니다.

그래도 AI를 썼다고 밝혀야 하는 경우

문장 작성에 AI를 썼다면 그 사실은 별도로 밝힙니다. 사실의 출처와 작성 도구는 다른 항목입니다. 언론 영역에서는 생성형 AI 활용 준칙이 투명성 표시를 요구하는 방향으로 정리되고 있습니다. 학술과 업무 문서도 같은 방향입니다.

표기 형태

  • 사실의 출처 - 원문 기사(언론사명, 기사 제목, 발행일, 주소)
  • 작성 도구 - 본문 끝 또는 각주에 사용 사실과 범위
  • 확인 시점 - 제도·수치처럼 변하는 내용은 확인 날짜

세 줄이면 충분합니다. 반대로 "AI에 물어보니 ~라고 한다"는 형태의 서술은 출처 표기가 아니라 정보원 없는 전언에 가깝습니다.

언론사 쪽에서 벌어지는 일

인용은 늘고 방문은 줄어듭니다

AI 답변에 기사가 출처로 적히면 언론사 이름은 노출됩니다. 다만 이용자가 링크를 누르는 비율은 낮습니다. 기사 생산 비용은 언론사가 부담하고 노출의 이득은 중간 서비스가 가져가는 구조라는 지적이 여기서 나옵니다.

세 가지 대응이 갈립니다

  • 차단 - 크롤러 접근을 막아 학습과 인용에서 빠집니다
  • 라이선스 - 이용 대가를 받고 접근을 허용합니다
  • 자체 활용 - AI 요약을 자사 서비스 안에 넣습니다

세 방향은 상충합니다. 차단하면 오류 인용의 대상에서는 벗어나지만 노출도 사라집니다. 허용하면 인용은 늘고 오류 인용의 책임 소재가 모호해집니다. 지역 언론처럼 체력이 약한 매체는 둘 중 어느 쪽도 선택하기 어렵습니다. 차단하면 노출이 끊기고 라이선스 협상 테이블에는 앉을 규모가 되지 않습니다.

정정 경로가 아직 없습니다

기사에 오류가 있으면 정정보도나 반론보도를 청구할 수 있습니다. AI 답변에 틀린 인용이 실렸을 때 그에 대응하는 절차는 정비되지 않았습니다. 피해를 입은 발언자가 어디에 알려야 하는지가 불분명 합니다. 뉴스 리터러시 교육이 이용자 쪽에만 머물 수 없는 이유입니다.

FAQ

AI 챗봇으로 뉴스를 보는 게 그렇게 위험한가요?

도구 자체가 문제라기보다 확인 없이 쓰는 방식이 문제입니다. 조사에서 중대한 문제가 있는 답변이 45%였고 그 가운데 상당 부분이 출처 표기입니다. 링크를 누르고 날짜와 숫자를 원문에서 확인하면 상당수가 걸러집니다. 요약은 도구로 쓰고 사실 확인은 원문에서 합니다.

어떤 서비스가 가장 정확한가요?

조사에서 서비스별 차이가 확인됐고 Gemini가 응답의 76%에서 중대한 문제를 보여 가장 낮은 성적을 받았습니다. 다만 모델과 검색 구조는 자주 바뀌므로 특정 서비스를 안전하다고 고정하기 어렵습니다. 서비스를 고르는 것보다 확인 절차를 고정하는 쪽이 오래 유효합니다.

인용문이 실제로 있는지 매번 확인해야 하나요?

인용문을 그대로 쓸 생각이라면 반드시 확인합니다. 조사에서 BBC 기사 인용으로 표시된 문장 중 13%가 실제 기사에 없거나 변조된 내용이었습니다. 따옴표 안의 다섯 글자만 문서 내 검색으로 찾아보면 10초 안에 끝납니다.

학생이나 청소년에게는 어떻게 가르쳐야 하나요?

금지보다 절차를 가르치는 쪽이 효과적입니다. 25세 이하에서 AI로 뉴스를 접하는 비율이 15%로 전체보다 높습니다. 링크 누르기, 날짜 보기, 숫자 찾기 세 가지를 반복 훈련 항목으로 두면 충분합니다. 과제에 AI 답변을 쓸 때 원문 링크를 함께 제출하게 하는 방식도 쓰입니다.

AI 답변에 틀린 내용이 실렸으면 어디에 신고하나요?

현재는 정비된 경로가 없습니다. 기사 자체에 오류가 있다면 해당 언론사 정정 요청이나 언론중재위원회 조정 신청이 가능하지만 AI 답변의 오류는 그 대상이 아닙니다. 서비스 내 피드백 기능으로 알리고 원문 기사가 정확한지 함께 확인하는 정도가 지금 할 수 있는 조치입니다.

출처가 아예 없는 답변은 어떻게 다루나요?

사실 주장으로 취급하지 않습니다. 배경 설명이나 개념 정리까지는 참고로 쓸 수 있지만 수치, 날짜, 발언, 제도 내용은 출처 없이 쓰지 않습니다. 필요하면 그 주제의 핵심어로 직접 검색해 원문을 찾습니다.

같이 읽으면 좋은 것들

출처