AI 에이전트 '월권' 막아라…IT서비스사, 통제체계 구축 속도
기업의 인공지능(AI) 에이전트 도입이 본격화하면서 에이전트가 부여된 범위를 벗어나 행동하는 '월권'이 새로운 보안 위험으로 떠올랐다. 업계에서는 이에 대응해 에이전트의 권한을 제한하고 중요 작업에는 사람의 승인을 거치며 판단·행동을 추적·감사하는 통제체계를 강화하고 있다.
19일 업계에 따르면 최근 삼성SDS는 'AI 에이전트를 위한 적응형 안전 기술'과 'AI 에이전트를 위한 보안기술 연구' 등의 연구개발 실적을 공개했다.
AI 에이전트 안
이 요약은 매체의 공개 피드에서 5News가 수집한 것입니다. 전체 맥락을 포함한 전체 기사는 www.etnews.com에 있습니다 — 콘텐츠 저작권은 Electronic Times (eTNews)에 있습니다.