▲ 5월18일 서울역 대합실에서 시민들이 제21대 대선 1차 후보자 토론회 중계방송을 지켜보고 있다. ⓒ연합뉴스
대선을 앞두고 챗GPT와 같은 생성형 인공지능(AI)에게 후보 공약 평가와 발언 검증을 맡기는 기사가 늘고 있다. AI를 기사 작성의 수단이 아닌 기사 작성의 주체로 세웠다는 점에서 언론의 신뢰성을 저해할 수 있다는 전문가들의 주식공부하기 우려가 나온다. AI의 해석을 100% 신뢰할 수 없는 상황에서 대선과 같은 중대한 사안에 대한 해석을 맡겨도 되냐는 것이다.
기자 이름 대신 'AI 바이라인' 등장 사례도 MBN 디지털뉴스부는 지난 8일부터 'AI가 답해요' 연재 기사를 내고 있다. MBN은 기사 도입부에 “대선 후보의 공약과 발언,다빈치 릴게임 특징 등을 인공지능에 직접 묻는 뉴스 실험”이라며 “인간보다 훨씬 빠른 정보 처리 능력을 지닌 AI와 함께 복잡한 대선 소식을 한눈에 정리해 드린다. 챗GPT-4o와 퍼플렉시티 프로를 활용한다”고 밝혔다. 'AI가 답해요' 기사 중에선 <“김문수 9점”…어느 후보가 가장 로봇 같을까?>(5월17일) 기사처럼 가볍게 읽을 수 있는 내용도 신천지예시 있었지만 <경제 분야 대선 토론, 누가 제일 잘했니?>(5월19일), (5월23일) 등과 같이 상대적으로 민감할 수 있는 내용의 기사도 있었다. 토론과 공약을 평가하는 해석의 영역이라 기자의 가치판단이 들어갈 수밖에 없는 기사다.
하이닉스전망 ▲ 5월19일자 MBN '경제 분야 대선 토론, 누가 제일 잘했니?' 기사 갈무리. MBN이 챗GPT로 생성한 이미지다.
AI는 <경제 분야 대선 토론, 누가 제일 잘했니?> 기사에서 이준석(8.5점), 이재명(7.5점), 권영국(7점), 김문수(6점) 후보 순으로 TV토론(5매수 월18일)을 잘했다고 평가했다. AI는 이준석 후보를 “팩트와 논리로 밀어붙이는 공격형 실용가”라고 부르며 “상대 공약의 실현 가능성을 구체적인 수치로 검증을 시도하고, 직접적이고 회피 불가능한 구체 질문으로 이 후보의 논리를 압박했다. '호텔경제학', '갈라파고스 AI' 등 조어를 활용하는 화법도 효과적이었다”고 했다.
▲ 지디넷코리아 기사 갈무리. 기자 대신 AI 바이라인이 있다.
지디넷코리아는 'AI 에디터'의 이름으로 <대선 후보 'AI 정책' 어떻게 다를까… AI로 분석했더니>(5월19일), (5월19일) 등의 기사를 냈다. 지디넷코리아는 “이 기사는 AI 전문 매체 'AI 매터스'와 제휴를 통해 제공된다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성됐다”고 설명했다. “본 매체의 의견과 무관하다”고도 덧붙였다.
지디넷코리아 <대선 후보 'AI 정책' 어떻게 다를까… AI로 분석했더니> 기사에도 후보들 AI 공약에 대한 '평가'가 들어있다. “단계적 추진이 가능하나, 구체적 실행 방안이 부족한 점은 한계로 작용할 수 있다”(이재명), “인재 양성 20만 명은 현실적으로 5년 임기 내 달성이 어려울 수 있다”(김문수), “의지가 있다면 실현 가능성이 상대적으로 높다고 볼 수 있다”(이준석) 등이다.
▲ 지난 23일자 세계일보 기사 갈무리.
세계일보 지난 23일자 <'공짜로 주면 안 된다'가 희한한 생각?…챗GPT·구글 바드에 물어보니> 기사는 이재명 후보의 “우리나라는 국민에게 공짜로 주면 안 된다는 희한한 생각 때문에 돈을 빌려만 줬다”는 발언에 대한 챗GPT와 바드(제미나이)의 평가를 기반으로 기사가 작성됐다.
챗GPT는 이 후보의 발언을 놓고 “기본소득, 재난지원금, 보편적 복지와 관련 있는 이야기”라며 “경제학적으로는 장단점이 뚜렷한 이슈”라고 했다. 구글 바드(제미나이)는 “현금 지급 정책은 다양한 형태로 논의되며 각각 장단점이 있다”며 “얼핏 들으면 좋은 정책 같지만, 실제로는 여러 경제적, 사회적 파급 효과를 고려해야 한다”고 답했다. “평가는 책임 따르는 일… AI는 책임질 수 없다” 해당 기사들의 공통점은 생성형 AI의 답변이 주가 되어 거의 그대로 기사에 전재됐다는 것이다. AI의 답변을 검증·비평하는 대목은 기사에서 명확하게 드러나지 않았다. 전문가들은 이러한 기사들이 위험할 뿐더러 한국 언론에서 아직 'AI 가이드라인'이 통용되지 않는다는 걸 보여주는 사례라고 지적했다. 심석태 세명대 저널리즘대학원 교수는 통화에서 “AI한테 (공약에 대한) 평가를 물어보는 게 어떤 기사 가치가 있는지 잘 모르겠다”며 “AI가 평가의 주체가 될 수는 없다. 평가라는 건 책임이 따르는 일인데 AI가 책임지는 건 아니지 않나. 어떤 기준에 따라서 평가하는지도 우리가 알지 못한다. 이러한 알고리즘의 위험성은 AI를 개발한 사람들도 인정하고 있는 부분”이라고 말했다. 심 교수는 “(AI의) 평가를 참고할 수는 있겠으나 언론이 AI의 평가를 사람들에게 보라고 내놓는 건 사회적으로 매우 위험한 일”이라며 “기본적으로 기사가 될 수 없다고 생각한다. AI에게 시켜도 되는 일과 안 되는 일을 구분하는 것이 필요하다. 도구로 활용하는 것이 아닌 (AI에) 평가권을 넘기는 건 언론의 본질에 반하는 일”이라고 말했다. 이어 “어떻게 보면 정파적인 기사보다 더 나쁘다고 할 수도 있다”고 덧붙였다.
▲ 지난달 17일(온라인 기준) 이투데이 기사 갈무리
실제 제재 사례도 나왔다. 언론중재위원회 산하 선거기사심의위원회는 지난 14일 이투데이 (4월18일) 기사에 '주의' 조치를 내렸다. AI 서비스 퍼플렉시티에 당시 민주당 대선 예비후보들의 AI 공약을 입력한 다음 답변을 정리한 내용이다.
선거기사심의위는 “예비후보자별로 점수부여 또는 순위나 등급을 정하는 등의 방법으로 서열화하였으며, 비교평가를 하면서 평가지표·기준·방법 등 평가의 신뢰성·객관성을 입증할 수 있는 내용을 함께 보도하지 않았다”며 “유권자의 판단에 잘못된 영향을 미칠 우려가 있다”고 했다. 국내 언론 최초로 AI활용 준칙을 마련했던 한국일보의 김희원 뉴스스탠다드실장은 이준석 후보의 TV토론 점수를 가장 높게 줬던 기사(경제 분야 대선 토론, 누가 제일 잘했니?) 역시 '유권자의 판단에 잘못된 영향을 미칠 수 있는 기사'라고 우려했다. 김 실장은 “(AI 기사를 보면) 후보자가 잘못된 주장을 해도 팩트체크 없이 평가가 나온다. AI는 이전에 나왔던 내용을 정리한 것이고 이후에 반박이 이뤄진다 해도 토론회 자체만 보면 (주장이) 맞는 것처럼 보이기 때문”이라고 말했다. 김 실장은 “누가 더 잘했는지 AI한테 왜 물어보고 싶은지는 이해가 된다. 그럴듯하게 평가를 잘하고 기사로 쓰고 싶게 만드는 것도 사실”이라면서도 “하지만 그걸 믿고 쓸 수는 없다. 누가 더 토론을 잘했는지 혹은 어떤 공약이 현실 가능성이 있는지 등의 판단은 굉장히 종합적인, 고도의 사고가 필요한 부분이다. 특히 선거와 같은 민감한 국면에선 절대 바람직한 일이 아니다”라고 강조했다. 아직 AI 활용에 대한 보편적 가이드라인이 언론 내에 익숙하지 않다는 문제로 귀결된다. 김 실장은 “아직은 인식이 부족한 것이다. AI가 정확히 뭘 잘하고 한계가 무엇인지 공감대가 부족하다”며 “단기적으로 보면 '많이 읽히겠다' 생각할 수는 있겠지만 장기적으로 보면 언론 신뢰성을 낮추는 데 기여할 뿐”이라고 말했다. 심 교수도 “빨리 (사내) 가이드라인이 만들어져야 한다”고 말했다. 인터넷신문 자율규제기구인 인터넷신문윤리위원회는 2023년 'AI 활용 언론윤리 가이드라인'을 제시한 바 있다. 인터넷신문윤리위는 “기사의 전부 또는 상당 부분을 인공지능을 이용하여 작성해서는 아니 된다”며 “인공지능은 기술적 한계로 인해 항상 신뢰할 수 있는 콘텐츠를 생성하지는 못하고 있다. 생성형 인공지능이 만들어낸 콘텐츠에는 오류가 포함되어 있거나 부당한 차별과 편견이 담겨있을 수 있다”고 했다. 또 인터넷신문윤리위는 “기사 작성에 인공지능 기술을 활용했는지 여부와 상관없이 언론사는 게재한 기사에 대해 법적 책임을 진다”며 “따라서 인공지능을 활용하여 제작한 콘텐츠의 정확성과 객관성을 확보하기 위해 언론인은 사실을 검증하고 내용을 확인해야 한다”고 했다. 한국기자협회, 한국신문협회, 한국방송협회, 한국신문방송편집인협회, 한국인터넷신문협회, 한국온라인신문협회 등 6개 언론단체도 지난해 12월 '언론을 위한 생성형 인공지능 준칙'을 발표했다. '인공지능은 뉴스 생산에 보조적 수단으로 활용되어야 하며 인간의 관리 및 감독하에 사용되어야 한다'(1조), '내용 전부를 인공지능이 자동으로 생성한 기사와 영상은 사용하지 않는 것이 바람직하다'(4조) 등의 내용이 담겼다. 다만 선언적인 측면이 있어 실제 언론사 내 가이드라인으로 자리잡히려면 추가적인 협의가 필요하다는 의견이 나온다.
