입시음악학원 ‘딥페이크 범죄’ AI로 잡아낸다…행안부·국과수, 분석모델 개발

페이지 정보

작성자 이길중 작성일25-08-02 04:04 조회29회 댓글0건

본문

입시음악학원 #1. 제21대 대통령 선거 기간 중 특정 후보가 하지 않은 발언을 마치 실제 한 것처럼 조작된 영상이 온라인에 유포됐다. 국립과학수사연구원은 ‘AI 딥페이크 분석모델’을 통해 인물 음성의 미세한 비일치성을 즉각 탐지해 ‘딥페이크’라는 명확한 감정 결과를 신속히 수사기관에 제공했고, 이를 통해 유권자에게 큰 혼란을 줄 수 있는 상황을 조기에 차단했다.
#2. SNS에서 확보한 지인의 얼굴을 나체 이미지에 합성해 온라인 메신저에 유포한 사건이 발생했다. 국과수는 해당 유포물에 대해 정밀 분석한 후 합성된 얼굴의 경계면에서 나타나는 왜곡을 포착해 ‘딥페이크’임을 규명했다. 감정 결과는 허위 영상의 신속한 차단과 수사 착수를 위한 결정적 과학 증거로 활용됐다.
행정안전부와 국과수가 공동 개발한 AI 딥페이크 분석모델을 통해 딥페이크를 규명한 사례들이다. 딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다.
딥페이크 기술을 악용한 이미지와 영상 등이 온라인에 유포되면서 사회적 문제가 되고 있다. 방송통신심의위원회에 따르면 딥페이크 성범죄 영상물 시정 요구는 2022년 3574건, 2023년 7187건, 지난해 2만3107건 등으로 크게 늘었다.
행안부는 수사기관의 관련 증거물 분석 등 효과적인 대응을 위해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발해 지난 4월 검증을 마쳤다.
모델 개발 과정에서 공개 데이터 세트와 자체 제작 콘텐츠 등 딥페이크 데이터 약 231만건을 활용했다. 분석 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단한다. 특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석 능력을 갖췄다고 행안부는 설명했다.
모델은 경찰청 등 수사기관의 의뢰를 받아 지난 5∼6월 21대 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 범죄 15건에 대한 감정을 수행했고, 그 결과 딥페이크 감정을 성공적으로 수행했다고 행안부는 설명했다.
행안부는 이 분석 모델을 여성가족부, 방송통신위원회 등에도 단계적으로 제공해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 지원할 예정이다.
이봉우 국립과학수사연구원장은 “빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학 수사체계를 구축하겠다”고 말했다.
이용석 행안부 디지털 정부혁신실장은 “앞으로도 행안부는 AI와 데이터분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것”이라고 강조했다.
서울 중구가 관내 교회와 협의를 통해 종교시설 내 주중 유휴공간을 열린 공간으로 개방한다고 29일 밝혔다.
이번 사업은 접근성이 좋은 종교시설의 유휴공간을 발굴·공유해 지역 내 주민 활동을 위한 공간 부족 문제를 해소하고 종교시설이 지역에 기여할 수 있는 기반을 마련하기 위해 추진됐다.
구에 따르면 우선 장충단성결교회(장충동)·약수교회(약수동)·나눔의교회(다산동)·신일교회(청구동)·만리현교회(중림동)·예수마을교회(신당5동)·장충교회(장충동)·문화교회(동화동) 등 8개 교회가 올해 12월까지 시범운영에 참여한다. 이들 교회는 회의실과 교육실, 소모임 공간 등 총 33개 공간을 개방한다.
개방공간 중 일부는 구민을 위한 행정서비스 확대를 위한 구청 내 행사와 교육 장소 등으로 쓰일 예정이다. 주민 이용이 가능한 공간에서는 동아리 모임과 평생학습, 봉사활동 등 다양한 주민 주도 프로그램이 운영된다. 공간 사용 문의는 중구청 행정지원과(02-3396-4524)로 하면 된다.
중구는 지난해 10월 중구 교구협의회, 11월 중구 불교협의회, 올해 3월 중구 천주교협의회와 업무협약을 맺고 종교시설 유휴공간 개방 등에 대한 협력을 이어가고 있다.
김길성 구청장은 “관내 종교시설이 지역사회와 함께하는 열린 공간으로 거듭날 수 있는 계기가 되길 바란다”며 “앞으로도 관내 종교단체와 지속적인 협의를 통해 개방 가능한 공간을 확대해 나가겠다”고 말했다.
고용노동부가 31일부터 고용 사정이 급격히 악화할 우려가 있는 지역을 선제적으로 지정해 고용 유지지원금 등을 지원한다.
노동부는 이날 고용위기 선제대응지역 제도를 시행한다고 밝혔다. 노동부는 현재 고용위기지역 지정 제도를 운영하고 있지만, 지정 요건이 엄격하고 지정 절차가 길어 선제적 대응에 한계가 있다는 지적을 받았다.
이에 정부는 고용 사정이 악화할 사유가 발생하거나 발생할 우려가 있는 경우 고용 상황이 악화하기 전에도 선제적으로 지원할 수 있도록 근거를 마련했다. 지역 전체 사업장의 10% 이상에 예측하지 못한 휴업 등이 발생하거나, 주요 산업 고용보험 피보험자 수가 전년 동기 대비 3개월 연속 감소하거나, 300인 이상 주요 선도기업이 상시 근로자를 10% 이상 구조조정을 할 계획 등이 발생한 지역을 고용정책심의회 심의를 거쳐 고용위기 선제대응지역으로 지정할 수 있다.
고용위기 선제대응지역은 시·군·구 단위로 지정하되 지역 고용 여건 등에 따라 여러 개의 시·군·구를 묶어서 지정할 수 있다. 고용위기 선제대응지역으로 지정되면 최대 6개월간 고용유지지원금, 직업능력개발 지원 사업, 생활안정자금융자 등을 지원받는다.
이정한 고용정책실장은 “최근 미국의 고율 관세 정책, 국제 정세 불안, 내수 부진 등으로 경기 불확실성이 커지면서 지역 고용에 대한 우려가 커지고 있는 상황”이라며 “고용위기 선제대응지역 제도를 통해 지역 고용 상황이 악화하기 전에 선제적으로 대응하여 위기 극복의 마중물이 될 수 있도록 노력하겠다”라고 말했다.
이재명 대통령은 30일 “과도한 경제형벌로 기업 경영활동이 위축되지 않도록 정부 내 ‘경제형벌 합리화 태스크포스(TF)’를 곧바로 가동하도록 하겠다”고 말했다. 기업 경영을 위축시키고 외국인 투자를 주저하게 만드는 대표적인 형벌로 배임죄를 예로 들며 대폭 손질에 나서겠다는 의지도 밝혔다.
이 대통령은 이날 용산 대통령실에서 주재한 비상경제점검 TF 회의에서 “우리 국민주권정부는 실용적 시장주의 정부, 기업활동을 격려하고 지원하는 정부가 될 것”이라며 이같이 밝혔다.
비상경제점검 TF는 이 대통령 취임일인 지난달 4일 처음 회의가 열렸고, 추가경정예산안 편성 논의를 한 지난달 9일에 이어 이날이 세 번째 회의다.
이 대통령은 TF 활동과 관련해 “이번 정기국회에서부터 본격적인 정비를 해서 ‘1년 내 30% 정비’ 같은 명확한 목표를 설정해 추진하겠다”고 했다. 구체적으로는 배임죄 관련 법령의 처벌 기준을 완화하는 등 제도 개선 의지를 분명히 했다.
이 대통령은 “‘한국에서 기업 경영 활동하다가 잘못하면 감옥 간다’면서 국내 투자를 망설이는 경우가 있다고 한다”며 “배임죄가 남용되면서 기업 활동을 위축시키고 있는 점에 대해 제도적 개선을 모색해야 할 때”라고 말했다. 그는 “(배임죄 구성 요건인) 신뢰를 위반했다는 이유로 경제적·재정적 제재 외에 추가로 형사 제재까지 가하는 것이 국제적 표준에 과연 맞느냐는 의문이 제기되고 있다”고 했다.
경제형벌 합리화 TF는 이형일 기획재정부 1차관과 이진수 법무부 차관이 공동 단장을 맡기로 했다.
김용범 대통령실 정책실장은 회의를 마친 후 브리핑을 열고 “산업통상자원부와 국토교통부, 금융위원회, 공정거래위원회, 중소벤처기업부 등 각 부처가 소관하는 경제 활동을 규율하는 법률에는 위반 시 처벌 조항이 수백개가 있을 것”이라며 “처벌 조항을 전부 조사해 정비할 것이고 기준을 합리화하는 노력해 나갈 예정”이라고 말했다.
이 대통령은 또한 “행정 편의적인 규제, 과거형 규제, 불필요한 규제는 최대한 해소 또는 폐지하겠다”면서 “규제 합리화를 통해 기업들이 창의적 활동을 해나갈 수 있도록 신속하게 조치하겠다”고 말했다
아울러 이 대통령은 “국민과 기업이 함께 참여하는 100조원 이상 규모의 국민펀드 조성 방안을 조속하게 마련해 향후 20년을 이끌 미래전략산업에 투자하도록 하겠다”고 강조했다. 그는 “인공지능(AI)을 비롯한 첨단산업 분야에서 미래 먹거리가 창출될 수 있도록 할 것”이라며 “재생에너지 중심의 미래 산업과 AI 첨단 산업을 중심으로 대한민국의 경제 산업 생태계를 신속하게 전환해 나가야 할 것”이라고 했다.
이 대통령은 또한 “지역균형 발전은 대한민국 성장을 위한 불가피한 생존전략”이라면서 “지금까지 지역균형발전이 지방 또는 지역에 대한 배려 정도의 성격을 가졌다면, 이제는 대한민국이 생존하고 또 지속적으로 성장 발전하기 위해서 피할 수 없는 전략이 됐다”고 했다.
이날 회의는 새 정부 재정운용방향을 논의하는 국가재정전략회의를 겸해 개최됐다. 이 대통령은 회의에서 “성과가 낮은 예산이나 관행적으로 지출돼 온 예산에 대해서는 과감히 구조조정을 하라”고 지시했다고 김 실장은 전했다. 한 회의 참석자는 “2억원, 3억원 등 소규모 예산 사업이 수백개가 있는데 줄이려 했더니 ‘영원히 예산이 사라질 수 있다’며 우려해 삭감에 어려움이 많다”는 의견을 내자, 이 대통령은 “3억원 사업이 100개 모이면 300억원”이라며 “원칙적으로 꼼꼼히 살펴봐 달라”고 했다. 이 과정에서 이 대통령은 과거 지방자치단체장 재직 때 구청의 반대에도 가로등 예산을 상당폭 삭감했는데 아무런 문제가 없었다는 일화를 소개하기도 했다고 김 실장은 전했다.