AI 위협, 기계 반란 아닌 보안 결함[내 생각은/이승훈]

미국 정부는 6월 앤스로픽의 최신 인공지능(AI) 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접근을 일시 제한했다. 페이블5의 안전장치가 우회될 가능성을 우려한 것이다. 즉, AI 스스로 안전망을 무력화한 ‘자의적 반란’보다 안전망의 허점을 이용해 사이버 공격 등에 악용될 수 있다는 ‘보안 결함’에 대한 우려다. 해외 수출 통제도 앤스로픽이 미 정부와 보안 강화에 합의한 뒤 해제됐다. 주목해야 할 문제는 AI 모델의 보안 결함을 방치할 때 생기는 통제력 상실이다. 결국 새 모델 공개 전 안전성을 충분히 검증하고, 취약점이 발견되면 즉시 접근을 제한해 보완하는 체계를 갖춰야 한다.

AI의 위험에는 막연한 공포가 아니라 철저한 시스템 보안으로 대응해야 한다. ※ 동아일보는 독자투고를 받고 있습니다. 각 분야 현안에 대한 여러분의 의견을 이름, 소속, 주소, 휴대전화 번호 등 연락처와 함께 e메일(opinion@donga.com)이나 팩스(02-2020-1299)로 보내주십시오.