2025.05.21. 수 경제신문스크랩

경제뉴스 스크랩
헤드라인 (요약과 압축) A1-A30면 읽기(5분) 기사링크	[한국경제] 10만원에 '댓글 400개씩 달아줘요'…대선 앞두고 '비상' - AI 활용한 가짜 여론 조성…대선 앞둔 한국도 '비상' - 위험 수위 넘은 AI 댓글 - 美 커뮤니티에 챗봇 수십개 투입 - 사람글보다 3~6배 설득력 높아 - 이스라엘은 자국 우호글 양산 - 국제 여론 바꾸려 AI 활용 - 국내선 '댓글 AI'로 유혹 - "10만원에 하루 400개 달아줘" - 포털들 AI發 가짜여론 무대책 10만원에 '댓글 400개씩 달아줘요'…대선 앞두고 '비상' - 한국경제
본문 (본문 내용 복사) 기사 선정 및 복사하기 (3분)	“한 달에 10만원이면 인공지능(AI)이 하루에 댓글을 300~400개 달아줍니다.” 유튜브 등에 버젓이 올라온 ‘댓글 AI’ 판매 영상 내용이다. 영상 게시자는 AI가 네이버 등 포털의 블로그 게시글을 분석해 맞춤형 댓글을 올려준다며 유혹의 손길을 뻗친다. 최근 X(옛 트위터)에선 일론 머스크의 AI 기업 xAI의 챗봇(그록)이 ‘대안 우파’로 불리는 이들의 이념을 설파하는 데 활용되고 있다는 논란이 일었다. 도널드 트럼프 미국 대통령이 지난 11일 남아프리카공화국 출신 백인 57명을 처음 난민으로 수용한 직후부터 그록이 ‘남아공 백인 집단 학살’이라는 엉뚱한 답변을 쏟아내고 있다는 것이다. AI를 활용한 여론 조작이 위험 수위를 넘어서고 있음을 보여주는 사례다. ◇ 사람보다 설득 잘하는 AI 프란체스코 샐비 스위스 로잔공대 박사는 19일(현지시간) 네이처에 게재한 논문에서 “(오픈AI의 대규모언어모델인) GPT-4가 간단한 개인정보만으로 상대를 설득하기 위한 맞춤형 주장을 생성할 수 있다”며 “잘못된 주장을 퍼뜨리거나 설득하는 데 AI가 악용될 수 있다”고 밝혔다. 연구팀은 실험자 900명을 대상으로 GPT-4 또는 사람과 10분씩 특정 주제를 놓고 토론하는 실험을 한 결과 실험자의 성별, 연령 등 개인정보를 바탕으로 맞춤형 주장을 펼친 GPT-4가 사람보다 설득력이 64% 더 뛰어난 것으로 나타났다. ‘AI 여론조작’의 위력은 실험에서 입증됐다. 스위스 취리히대는 지난해 11월부터 온라인 커뮤니티 레딧에 비밀리에 AI 챗봇 34개를 투입했다. ‘남성 성폭행 피해자’ ‘흑인 인권운동을 반대하는 흑인’ 등 정체성을 부여받은 이 챗봇들은 4개월간 1700개 이상의 게시글과 댓글을 작성했다. 챗봇들은 상대방의 이전 게시글 등을 분석해 성별, 연령, 인종, 정치적 성향 등을 파악해 맞춤형 댓글을 달았다. 레딧 사용자들은 자체 평가 시스템을 통해 AI 댓글이 일반 사용자 댓글보다 3~6배가량 설득력이 높다고 평가했다. ◇ 국내에선 AI 댓글 못 막아 AI를 활용한 여론전은 이미 ‘사이버 전쟁’ 차원에서 이뤄지고 있다. 미국 뉴욕타임스에 따르면 이스라엘 재외동포부는 2023년 10월 자국 정치 마케팅 기업인 스토익을 고용했다. 가자지구 전쟁에 관한 국제 여론을 자국에 유리하게 바꾸기 위해서다. 스토익은 X, 페이스북, 인스타그램 등 SNS에 AI 계정 수백 개를 생성해 이스라엘에 우호적인 게시글을 양산했다. 오픈AI가 지난해 5월 중국과 러시아가 여론조작에 자사 챗GPT를 활용했다는 보고서를 발표한 것도 같은 맥락이다. 대만 국가안전국은 지난달 입법원(의회)에 제출한 보고서를 통해 중국이 올해 들어 51만 건의 가짜 메시지를 생성해 자국 여론을 왜곡하려 했다고 밝혔다. 대선을 앞두고 국내 포털사이트가 여론조작 방지 대책을 내놨지만 AI발 가짜여론 대책은 전무하다. 네이버와 다음은 사용자가 한 번에 많은 뉴스 댓글을 작성하지 못하도록 하는 머신러닝 기반 도배 방지 시스템을 적용하고 있다. 그러나 댓글 작성자가 AI인지 사람인지 감지할 방법은 없는 것으로 알려졌다. 이재국 성균관대 미디어커뮤니케이션학과 교수는 “AI가 만드는 가짜여론은 진위를 판단할 수 있는 가짜뉴스와 달리 진실성을 따지기 어려워 더욱 위험할 수 있다”고 분석했다.
기사 내용의 수치화, 인사이트 나누기 (5분)	-- 기사 내용의 수치화 -- - “한 달에 10만원이면 인공지능(AI)이 하루에 댓글을 300~400개 달아줍니다.” - 도널드 트럼프 미국 대통령이 지난 11일 남아프리카공화국 출신 백인 57명을 처음 난민으로 수용한 직후부터 그록이 ‘남아공 백인 집단 학살’이라는 엉뚱한 답변을 쏟아내고 있다는 것이다. - 연구팀은 실험자 900명을 대상으로 GPT-4 또는 사람과 10분씩 특정 주제를 놓고 토론하는 실험을 한 결과 실험자의 성별, 연령 등 개인정보를 바탕으로 맞춤형 주장을 펼친 GPT-4가 사람보다 설득력이 64% 더 뛰어난 것으로 나타났다. - 스위스 취리히대는 지난해 11월부터 온라인 커뮤니티 레딧에 비밀리에 AI 챗봇 34개를 투입했다. -  ‘남성 성폭행 피해자’ ‘흑인 인권운동을 반대하는 흑인’ 등 정체성을 부여받은 이 챗봇들은 4개월간 1700개 이상의 게시글과 댓글을 작성했다. -  레딧 사용자들은 자체 평가 시스템을 통해 AI 댓글이 일반 사용자 댓글보다 3~6배가량 설득력이 높다고 평가했다. - 대만 국가안전국은 지난달 입법원(의회)에 제출한 보고서를 통해 중국이 올해 들어 51만 건의 가짜 메시지를 생성해 자국 여론을 왜곡하려 했다고 밝혔다 -- 기사 내용의 인사이트 -- - 대선을 앞두고 국내 포털사이트가 여론조작 방지 대책을 내놨지만 AI발 가짜여론 대책은 전무하다. AI가 만드는 가짜여론의 진위를 판단할 수 있는 가짜뉴스와 달리 진실성을 따지기 어려워 더욱 위험할 수 있다.
추가조사할 내용 또는결과 (기사의 근거를 통해 바뀐 수치는 무엇인가?) & 궁금한 부분 서치	- AI인지 사람인지 감지할 방법은 없나? AI인지 사람인지 구분하는 방법은 아직 어렵다. - GPT에게 " 앞으로 AI 활용한 가짜 여론 조성이 될거라고 보는데 AI를 활용한 가짜 여론 조성을 믿고 싶지 않아. 그러기 위해 내가 어떻게 판단해야 하고 어떤 주의를 기울여야 할까?" 라고 물어봄으로 GPT의 대답 현실을 직시하고 스스로 판단할 수 있는 무기를 갖추는 쪽으로 나아가는 게 중요하다. 가짜 여론 조작을 식별하고, 현명하게 대응하기 위한 실천적 기준을 보여준다. ① 5가지의 판단 기준: AI 기반 가짜 여론을 의심해야 할 신호 ② 4가지 실천 지침: 나 자신이 여론에 휘둘리지 않기 위해 ③ 장기적으로 해야 할 일: 정보면역력 기르기 이렇게 답을 주었다.
요약 및 의견 for 경제신문스크랩 스터디용 (3~5줄 이내) & 나의 생각 + 적용 방안 (2줄 이상)	기사요약 - 대선을 앞두고 국내 포털사이트가 여론조작 방지 대책을 내놨지만 AI발 가짜여론 대책은 전무하다. AI가 만드는 가짜여론의 진위를 판단할 수 있는 가짜뉴스와 달리 진실성을 따지기 어려워 더욱 위험할 수 있다  나의 생각 AI가 나온 이래로  AI를 활용하여 일을 같이 해왔다. AI를 도구로 활용해서 말이다. 지금 이 기사도 AI를 도구로 이용해 나쁜 목적으로 사용할 수 있다는 의견이 나온 것 같다. 나 또한 이 기사를 읽고 GPT에게 자문을 구했으니 말이다. 이 기사가 나오기 전 실제로 나온 가짜뉴스들이 많았다. 그 기사들은 나중에 가짜뉴스라는 것이 나와서 우리에게 경각심을 준다. 이제 나오는 가짜뉴스들은 그것이 가짜뉴스인지 모를 것이다. 이제 가짜뉴스는 더 이상 조잡하지 않고 매우 정교하고, 감정적이며, 그럴듯하게 만들어지기 때문이다. 특히 AI 기술과 결합될 경우, 속도·규모·신뢰도 모두에서 진짜를 압도하는 위력을 가지는데 우리는 이러한 사례를 알고 경계심을 가지는 것 자체가 가장 강력한 방어 수단이다.
적용할점 (현직자에게 할 질문)
연관기사 링크	AI가 일자리 빼앗고 인간 지배?…디스토피아 올까 응답자 41.9%, “딥페이크 가짜뉴스 판별 못해” | 경제정책자료 | KDI 경제교육·정보센터 국민 10명 중 4명 “딥페이크 가짜뉴스 판별 못 해”…강력한 정책 요구 - 정책뉴스 | 뉴스 | 대한민국 정책브리핑 ‘가짜뉴스’를 어떻게 걸러낼 것인가? | INDUSTRY&POLICY | 방송 트렌드 & 인사이트 AI가 가짜뉴스 잡는다 - 사이언스타임즈/사용자메뉴/과학기술/환경·에너지 가짜뉴스는 왜 퍼지는 걸까? - 가짜뉴스에 속지 않는 법 국가인권위원회 인권 웹진

 

※ 이 글은 경제공부를 위해 적는 글입니다.