연중무휴폰테크 한글로 쓴 ‘AI 댓글’도 걸러내는 기술 나왔다

페이지 정보

작성자 이길중 작성일25-06-26 02:50 조회145회 댓글0건

본문

연중무휴폰테크 특정 기사 댓글 작성자가 사람인지, 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발됐다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지, 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지, AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 설치된 폐쇄회로(CC)TV가 범죄 억제 효과를 보이는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
“새로운 문제가 나올수록 우리는 또다른 인공지능(AI) 기술을 개발해 현재의 문제를 정복하고 더 나은 세상을 만들어야 합니다.”
보 안 싱가포르 난양공대(NTU) 컴퓨터과학과 석좌교수는 25일 ‘초가속 시대의 공포를 희망으로’ 주제로 열린 <2025 경향포럼> ‘세상을 바꾸는 AI, 혁신과 도전’ 세션 강연에서 이같이 말했다. 그는 ‘딥시크 충격’을 언급하면서 한국 같은 작은 규모의 나라에는 “국제적 협력이 필요하다”고 했다.
중국 출신 AI 전문가이자 세계인공지능학술대회(IJCAI) 이사를 맡은 안 교수는 AI 연구가 아직 초기 단계라고 분석하는 동시에 기업 주도의 개발이 더욱 활발해질 것이라 전망했다. 안 교수는 “많은 이들이 AI를 활용하고 있고 AI가 대단한 일을 할 것이라고 확신하지만 아직까진 AI가 초기 단계”라며 “일각에선 2030년쯤 범용AI(AGI)에 도달할 수 있을 것이라 말하지만 그보다는 오래 걸릴 것이라 생각한다”고 했다.
그는 ‘AI 겨울’이 향후 10~20년 사이에 오진 않을 것이라고 주장했다. ‘AI 겨울’은 AI 연구가 사람들의 관심에서 멀어지고 재정 지원을 받기 어려웠던 시기를 가리킨다. 안 교수는 “과거에는 ‘AI 여름’을 순전히 학계나 정부가 주도했다면 지금은 업계(민간)가 주도하고 있다”며 “AI 기업에서 일하는 인원이 많고 논문이 계속해서 나오는 만큼 AI 겨울이 조만간 올 가능성은 낮다”고 말했다.
안 교수는 특히 아직까지 AI 개발 진전이 더딘 분야로 자율주행과 헬스케어 분야를 꼽았다. 그는 “구글이 첫 자율주행 차량을 실험한 것이 20여년 전이고 당시 2015년쯤이면 자율주행이 되리라 생각했지만 2025년에도 언제쯤 나올지 아직 모른다”며 “헬스케어 분야에서도 AI 진전이 기대했던 것보다 더딘 상황”이라고 말했다. 그러면서 “두 개 분야에 대한 기대치가 높기 때문”이라며 “0부터 99점까지 가긴 쉽지만 99점에서 100점까지 가는 것이 어렵다”고 말했다.
미국에서 박사학위를 받고 중국과학원 컴퓨팅기술연구소에서 부교수로 재직했던 안 교수는 ‘딥시크 충격’을 긍정적으로 평가했다. 그는 “딥시크는 나온지 5개월이 지난 지금도 여전히 최고 모델”이라며 “딥시크가 존재할 수 있는 이유는 규모가 작고 유연해 대기업처럼 계층적 구도가 엄격하지 않기 때문”이라고 분석했다. 그는 미국과 중국 간 AI 패권 경쟁이 더욱 심화할 것이라 전망하며 “딥시크가 전 세계적으로 영향을 주면서 모든 기업들에게 희망을 안겨줬다. 작은 기업에까지도 막대한 영향을 줄 수 있다는 점을 보여준 게 중요하다”고 평가했다.
안 교수는 한국과 싱가포르 같은 작은 규모의 국가들에게 “국제적 협력이 필요하다”고 강조했다. 그는 “어떤 종류의 협력이든 문호를 열고 수용해야 한다”며 “딥시크가 오픈소스로 기회를 얻을 수 있었듯 오픈소스를 수용할 수 있어야 한다”고 말했다.
끝으로 안 교수는 “모든 기술은 동전의 양면과 같다”며 “AI를 남용하는 것은 기술의 문제가 아니라 사람의 문제”라고 했다. 그러면서 “AI가 어떤 식으로 세상에 변화를 줄 수 있는지 계속해서 고민하고 난제를 파악하려는 노력이 필요하다”고 했다.
미국을 방문한 여한구 산업통상자원부 통상교섭본부장은 도널드 트럼프 미 행정부와의 관세 협상에 속도를 내겠다면서 한·미가 “최대한 ‘윈윈’하는 결과를 얻는 데 집중할 것”이라고 말했다.
이재명 정부 출범 이후 장관급 인사로 처음 방미한 여 본부장은 22일(현지시간) 워싱턴에서 취재진과 만나 “이때까지 한·미 협상을 가속하는 데 사실 어려움이 있었다”며 “지금부터는 선의로 협상을 굉장히 가속하며 우리가 건설적으로 협상할 준비가 됐다는 메시지를 (미국 측에) 전하려 한다”고 말했다. 미국이 각국과의 관세 협상 경과에 따라 상호관세 유예 만료기한(7월8일)을 전후해 일방적으로 관세율을 통보할 수 있다는 관측이 나오는 상황에서 진전을 이루는 데 주력하겠다는 의미로 풀이된다.
여 본부장은 “한국이 미국을 필요로 하는 만큼 사실 미국도 대한민국을 필요로 하는 부분이 많다”면서 “그런 부분에서 최대한 윈윈, 상호호혜적인 결과를 얻는 데 집중하려 한다”고 말했다. 90일간의 상호관세 유예 기간이 연장될 가능성에 대해선 “예단하기 어렵다”면서 “내일 처음으로 장관급에서 미팅하기 때문에 모든 가능성을 열어놓고 있다”고 말했다.
그는 전임 정부로부터 협상 관련 인수인계를 잘 받았다고 소개한 뒤 “실무, 기술적 측면의 협상도 중요하지만 새 정부 차원의 큰 전략과 철학을 반영하는 게 중요하다. 그런 차원에서 이제 좀 새롭게 시작한다고 보면 된다”고 말했다. 윤석열 정부가 ‘7월(줄라이) 패키지’ 합의를 목표로 했던 데 대해선 시점에 구애받지 않되 일괄 타결을 추진하겠다는 뜻을 밝혔다.
그는 한·미 정상 회동이 주요 7개국(G7) 정상회의에서 불발된 데 이어 이 대통령의 북대서양조약기구(NATO·나토) 정상회의 불참으로 또다시 지연되는 것이 통상 협상에 영향을 미칠 것이냐는 질문에는 “통상협상은 장관급, 실무급에서 접점을 넓히면서 단단한 초석을 만들어야 하는 것”이라며 “최종적으로 정상 차원에서 결정을 내려야 할 부분이 있을 테고 그런 시간은 앞으로 올 것”이라고 말했다.
여 본부장은 일주일간의 방미 기간 하워드 러트닉 미 상무장관, 제이미슨 그리어 미 무역대표부 대표를 비롯해 백악관 고위 당국자, 연방의회 인사 등을 만날 예정이다. 그는 “국제 정세도, 우리 기업 어려움도 그렇고 굉장히 엄중한 상황”이라며 “방미 기회를 최대한 활용해 실용주의 측면에서 협상에 집중하려 한다”고 말했다.