포털 댓글창 속 '가짜 여론
포털 댓글창 속 '가짜 여론'... 국내 연구진, AI판별 기술로 정면 돌파전세계 AI 산·학·연이 공개하는 각종 AI 연구논문, 조사분석 결과는 흥미롭지만 읽기에 복잡하고 어렵습니다. AI 리서치뷰는 이를 비전문가도 쉽게 이해할 수 있도록 핵심 인사이트만 압축 리뷰해 드립니다. <편집자주>[디지털데일리 이건한 기자] 인간 언어 구사에 특화된 AI인 'LLM(대형언어모델)'로 웬만한 메일이나 장문 보고서 작성도 뚝딱 해낼 수 있는 시대입니다. 그보다 짧은 인터넷 뉴스 댓글은 당연히 더 쉽게 대량 생성할 수 있고 비용도 거의 들지 않습니다. 국내에서도 선거철만 되면 '댓글을 이용한 여론조작'을 향한 세간의 우려와 경계, 실제 적발된 사건들에 대한 뉴스가 끊이지 않습니다. 문제는 이 전쟁통에 AI까지 동원되기 시작한 것, 여기에 사람은 구분하기 어려울 만큼 정교한 수준의 악의적 댓글이 생성되기 시작한 점입니다.ChatGPT 생성■ 읽을 만한 이유2024년 한국리서치 조사 결과에 따르면 인터넷 웹사이트(뉴스), 동영상 플랫폼(유튜브 등) 콘텐츠 이용 시 댓글을 읽는 사용자 비율은 약 70%에 달합니다. 반면 2021년 SBS 분석보도에 따르면 댓글 작성 수 기준 상위 10% 사용자가 전체 댓글의 70% 이상을 작성합니다.즉, 소수의 댓글 작성자가 인터넷 댓글 여론에 미치는 영향력은 상당히 강력한 셈입니다. 만약 그들의 손에 AI까지 쥐어진다면? 댓글 여론의 왜곡 수준은 더욱 심각해질 수밖에 없습니다. 특히 주요 포털, 커뮤니티, SNS 운영 기업들은 경각심을 더욱 높이고 빠른 대응을 준비해야 할 시점으로 보입니다.결국 앞으로는 'AI 댓글 잡아내는 AI'도 반드시 필요합니다. 때마침 지난 23일 카이스트(KAIST)와 국가보안기술연구소(국보연) 연구진이 관련 기술(XDAC)을 공개해 큰 주목을 받았는데요. 공개된 자료와 논문을 바탕으로 주요 내용을 재구성해봅니다.■ 핵심 내용① AI 댓글 무법지대 – 챗GPT가 보급된 지 3년여가 되어가지만 이번 연구 이전까지 한국어 AI 생성 댓글을 제대로 판별할 수 있는 기술은 없었습니다. 기존 'GPTZero' 같은 도구는 분석에 최소포털 댓글창 속 '가짜 여론'... 국내 연구진, AI판별 기술로 정면 돌파전세계 AI 산·학·연이 공개하는 각종 AI 연구논문, 조사분석 결과는 흥미롭지만 읽기에 복잡하고 어렵습니다. AI 리서치뷰는 이를 비전문가도 쉽게 이해할 수 있도록 핵심 인사이트만 압축 리뷰해 드립니다. <편집자주>[디지털데일리 이건한 기자] 인간 언어 구사에 특화된 AI인 'LLM(대형언어모델)'로 웬만한 메일이나 장문 보고서 작성도 뚝딱 해낼 수 있는 시대입니다. 그보다 짧은 인터넷 뉴스 댓글은 당연히 더 쉽게 대량 생성할 수 있고 비용도 거의 들지 않습니다. 국내에서도 선거철만 되면 '댓글을 이용한 여론조작'을 향한 세간의 우려와 경계, 실제 적발된 사건들에 대한 뉴스가 끊이지 않습니다. 문제는 이 전쟁통에 AI까지 동원되기 시작한 것, 여기에 사람은 구분하기 어려울 만큼 정교한 수준의 악의적 댓글이 생성되기 시작한 점입니다.ChatGPT 생성■ 읽을 만한 이유2024년 한국리서치 조사 결과에 따르면 인터넷 웹사이트(뉴스), 동영상 플랫폼(유튜브 등) 콘텐츠 이용 시 댓글을 읽는 사용자 비율은 약 70%에 달합니다. 반면 2021년 SBS 분석보도에 따르면 댓글 작성 수 기준 상위 10% 사용자가 전체 댓글의 70% 이상을 작성합니다.즉, 소수의 댓글 작성자가 인터넷 댓글 여론에 미치는 영향력은 상당히 강력한 셈입니다. 만약 그들의 손에 AI까지 쥐어진다면? 댓글 여론의 왜곡 수준은 더욱 심각해질 수밖에 없습니다. 특히 주요 포털, 커뮤니티, SNS 운영 기업들은 경각심을 더욱 높이고 빠른 대응을 준비해야 할 시점으로 보입니다.결국 앞으로는 'AI 댓글 잡아내는 AI'도 반드시 필요합니다. 때마침 지난 23일 카이스트(KAIST)와 국가보안기술연구소(국보연) 연구진이 관련 기술(XDAC)을 공개해 큰 주목을 받았는데요. 공개된 자료와 논문을 바탕으로 주요 내용을 재구성해봅니다.■ 핵심 내용① AI 댓글 무법지대 – 챗GPT가 보급된 지 3년여가 되어가지만 이번 연구 이전까지 한국어 AI 생성 댓글을 제대로 판별할 수 있는 기술은 없었습니다. 기존 'GPTZero' 같은 도구는 분석에 최소 250자 이상을 요구하지만, 한국어 뉴스 댓글의 평균 길이는 51자 수준에 불과하기 때문입니다. 국내 웹 환경이 악의적 여론조작 댓글에 사실상 무법지대로 방치되고 있었다는 의미입니다.특히 이번 연구 중 '인간평가'를 진행한 결과 AI 작성댓글(LGC)의 67.1%가 인간이 쓴 것으로 인식되었는데요. 웃긴 사
포털 댓글창 속 '가짜 여론
