AI로 24시간 금융 유튜브 감시… 넉달간 위법 의심 33개 적발

소셜네트워크서비스(SNS)에서 핀플루언서를 이용하거나 사칭한 범죄가 늘면서, 정부가 대책 마련에 속도를 내고 있다. 금융 당국은 생성형 인공지능(AI)을 활용해 하루에 최대 400건의 유튜브 영상을 감시하기 시작했다. 방송미디어통신위원회는 플랫폼 운영사가 불법 광고와 콘텐츠를 걸러내도록 자율 규제를 마련하는 방안을 추진하고 있다.

24일 금융 당국에 따르면 금융감독원은 올해 4월부터 생성형 AI를 활용한 ‘24시간 핀플루언서 감독 시스템’을 가동했다. 그 결과 4개월간 위법이 의심되는 유튜브 채널을 33개 적발해 수사기관에 넘겼다. 금감원은 현재 하루에 400여 개 영상을 감시하고 있다. 핀플루언서 영상 속 발언을 자동으로 텍스트로 바꾸고 특정 투자 상품을 강하게 추천하거나 다른 폐쇄형 소셜미디어로 유인하는 내용의 키워드가 나오면 알림을 받는다. 이 중 위험 키워드가 언급된 영상을 추려 금감원 담당 팀이 위법 소지를 판단한다. 위법한 영상으로 판단하면 경찰 등 수사기관에 통보한