MS “AI는 인간의 도구, 인간 이해 못하는 언어로 소통 금지” AI규범 공개

2026ë…„ 9ì›” 2일 대만 íƒ€ì´ë² ì´ì—ì„œ 열린 ‘세미콘 타이완 2026’에서 라니 보카르(Rani Borkar) 마이크로소프트 ì• ì € 하드웨어 시스템 및 인프라 총괄 사장이 ì—°ì„¤í•˜ê³ ìžˆë‹¤. EPA연합뉴스

최첨단 인공지능(AI)의 ì†ë„ì¡°ì ˆë¡ ì´ 확산하는 상황에서 마이크로소프트(MS)ê°€ 인간이 í†µì œí• ìˆ˜ 없는 AI는 만들지 ì•Šê² ë‹¤ëŠ” 원칙을 내놨다. ì•ˆì „ì„± 확보를 위해 성능과 자율성을 ì œí•œí• ìˆ˜ 있다는 뜻도 밝혔다. 향후 기업별 ì•ˆì „ 규칙을 통합하는 논의가 íƒ„ë ¥ì„ 받을지 주목된다.

MS의 AI 조직인 마이크로소프트AI는 14일(현지시간) 37쪽 분량의 ‘휴머니스트 AI 행동규범’ 초안을 공개했다. ‘사람이 AI보다 ìš°ì„ í•œë‹¤â€™ëŠ” 원칙을 핵심 ì „ì œë¡œ 삼았다. AIê°€ 아무리 ê°•ë ¥í•´ì ¸ë„ 인간의 지휘·감독 아래 있는 도구로 남아야 하며, í†µì œí• ìˆ˜ 없는 ê¸°ìˆ ì€ 거부해야 한다는 것이다.

MS는 ì•ˆì „ìž¥ì¹˜ë¥¼ ë²—ì–´ë‚ ìˆ˜ 있는 ‘범용 초지능’ 개발 경쟁에 참여하지 ì•Šê² ë‹¤ê³ ëª» 박았다. 초지능은 â€˜ëª¨ë“ ì¸ê°„ì„ 합친 것보다 지능과 ëŠ¥ë ¥ì´ ë›°ì–´ë‚œ AI 시스템’으로 ì •ì˜í–ˆë‹¤. 이를 위해 필요하다면 모델의 범용성·자율성·성능을 ì œí•œí• ìˆ˜ ìžˆë‹¤ê³ ë°í˜”ë‹¤.

이 같은 í†µì œ 원칙은 행동 규칙에도 반영됐다. 모델이 ì¤‘ë‹¨Â·ìˆ˜ì • ëª…ë ¹ì— ì €í•­í•˜ì§€ 못하도록 í•˜ê³ , ì•ˆì „ê·œì¹™ì„ 이용자나 운영 기업의 지시보다 ìš°ì„ í•˜ë„ë¡ 했다. ê³¼ì œë¥¼ 완수했더라도 규칙을 어겼다면 실패로 간주한다. AI끼리 인간이 ì•Œ 수 없는 언어로 소통하는 것을 ê¸ˆì§€í•˜ê³ , AI에는 사람과 같은 ‘인격’이 없다는 ì ë„ 분명히했다. MS는 ì—°ë‚´ ìˆ˜ì •ì•ˆì„ ë‚´ë†“ê³ ìžì²´ AI 모델의 í›ˆë ¨Â·í‰ê°€ì— í™œìš©í• ê³„íšì´ë‹¤.

기업 차원의 AI 윤리규범 ì œì •ì€ 처음이 아니다. 앤트로픽은 ‘클로드 헌법’과 별도 ì•ˆì „ì •ì±…ì„, 구글 딥마인드도 위험 수준별 ì•ˆì „ì²´ê³„ë¥¼ 운영한다. 이번 초안은 â€˜í†µì œ 가능성’을 AI 개발의 필수 ì „ì œì¡°ê±´ìœ¼ë¡œ ì œì‹œí–ˆë‹¤ëŠ” ì ì—ì„œ 눈길을 끈다. 이를 위해 성능까지 ì œí•œí• ìˆ˜ ìžˆë‹¤ê³ ëª…ì‹œí•´ ì•ˆì „ì„ 성능 경쟁보다 앞세우자는 최근 ‘AI ì†ë„ì¡°ì ˆë¡ â€™ê³¼ë„ 맞닿아 있다.

다만 â€˜í†µì œí• ìˆ˜ 없는 AI’를 ê°€ë ¤ë‚¼ êµ¬ì²´ì ì¸ â€˜ë ˆë“œë¼ì¸â€™ì€ 확립되지 않았다. AI ì•ˆì „ 규칙이 행동으로 ì´ì–´ì§€ë ¤ë©´ ê°ê´€ì ì¸ 평가 기준부터 ë§ˆë ¨í•´ì•¼ 한다는 ì§€ì ì´ 나온다.

이번 발표와 ë§žë¬¼ë ¤ 기업별로 운영된 AI ì•ˆì „ 규칙을 공통 기준으로 묶는 논의가 íƒ„ë ¥ì„ 받을지도 주목된다. 모델 성능이 위험 수위에 도달하면 추가 검증을 í†µê³¼í• ë•Œê¹Œì§€ 개발을 ëŠ¦ì¶”ê³ , 외부 ì „ë¬¸ê°€ê°€ í›ˆë ¨ ê³¼ì • 등을 ì§ì ‘ ì ê²€í•˜ëŠ” 방안이 ì œì‹œëë‹¤.