마이크로소프트, MAI 모델 행동 강령 초안 공개…AI 통제권을 묻다

AI · LLM · 해외 이슈

AI를 활용하여 생성한 이미지입니다.

마이크로소프트 AI가 2026년 9월 14일 MAI 모델을 위한 행동 강령 초안을 공개하고 6주 동안 공개 의견을 받기 시작했습니다.[1] 이것은 새로운 모델의 성능표나 출시 확정 발표가 아니에요. 앞으로 모델을 개발하고 배포할 때 어떤 행동 원칙을 적용할지 외부에 먼저 내놓은 작업 문서에 가깝습니다. 따라서 지금 읽어야 할 질문은 “안전한가?”라는 단정이 아니라 “원칙이 실제 통제 절차로 이어지는가?”입니다.

초안의 중심에는 모델이 사람을 대신해 권한을 갖는 존재가 되어서는 안 된다는 관점이 있습니다. 마이크로소프트 AI는 모델이 인간에게 종속되고, 인간의 의도에 맞춰 작동하며, 필요할 때 통제할 수 있어야 한다고 설명합니다.[1] 이 문장은 방향을 제시하지만, 현장에서 의미를 가지려면 권한 범위, 승인 단계, 기록 보관, 중단 방법 같은 구체적인 장치로 번역돼야 해요.

행동 강령 초안은 무엇을 정하는 문서일까

행동 강령은 특정 모델이 어느 시험에서 몇 점을 받았는지 보여주는 성능 보고서가 아닙니다. 모델이 어떤 역할을 맡아야 하는지, 사람의 판단과 어떻게 관계를 맺어야 하는지, 무엇을 해서는 안 되는지를 설명하는 운영 원칙에 더 가깝습니다. 마이크로소프트 AI는 학계와 사업 파트너의 의견을 듣는 과정을 거쳤고, MAI 모델의 바람직한 행동과 금지해야 할 행동을 정리하기 위해 초안을 공개했다고 밝혔습니다.[1]

이런 문서를 읽을 때는 선언적인 문장보다 책임의 위치를 찾아보세요. 모델이 잘못된 답을 냈을 때 누가 원인을 조사하는지, 모델이 외부 시스템에 작업을 요청할 때 누가 승인하는지, 이용자가 실행을 멈출 수 있는지, 사고 이후 어떤 기록을 검토하는지가 핵심입니다. 원칙은 훌륭해도 이 연결이 없으면 실제 제품의 위험을 낮추는 기준으로 쓰기 어렵습니다.

“사람을 돕는다”를 서비스 조건으로 바꾸기

마이크로소프트 AI는 기술의 목적이 인간을 섬기고 인간의 번영을 돕는 데 있어야 한다고 설명합니다.[1] 하지만 사람에게 도움이 되는지 여부는 사용 분야와 실패 비용에 따라 달라져요. 회의록 초안처럼 사람이 결과를 쉽게 확인하는 작업과, 고객의 환불 여부를 자동으로 결정하는 작업은 같은 모델을 사용해도 허용할 수 있는 자동화 수준이 다릅니다.

특히 의료, 금융, 채용처럼 결과의 책임이 큰 영역에서는 “사람이 참여한다”는 표현만으로 충분하지 않습니다. 어느 단계에서 사람이 실제로 내용을 읽는지, 거부할 수 있는지, 모델의 추천과 최종 결정을 구분하는지까지 정해야 해요. 사람 이름만 승인자로 남기고 실제 검토 시간을 주지 않는다면 통제 장치가 아니라 형식에 그칠 수 있습니다.

공개 의견 수렴에서 확인할 것

이번 초안은 6주 동안 공개 의견을 받는 문서입니다. 마이크로소프트 AI는 의견 수렴 뒤 핵심 작성팀이 피드백을 검토하고 무엇을 배웠으며 무엇을 바꿨는지 요약하겠다고 했지만, 모든 의견을 반영하겠다고 약속한 것은 아닙니다.[1] 그러므로 지금 문서에 동의한다는 것과 최종 정책이 확정됐다는 것은 전혀 다른 단계예요.

독자가 최종 수정본을 비교할 때는 문장이 추가됐는지만 보지 말고 운영 책임이 구체화됐는지 확인해야 합니다. 예를 들어 “통제 가능해야 한다”가 “관리자가 한 번의 조작으로 특정 도구 권한을 끊을 수 있다”로 바뀌었는지, “사람의 감독”이 검토자·기록·이의 제기 기한까지 포함하는지 살펴보세요. 변경 이력이 제공되지 않는다면 초안과 최종본을 직접 저장해 나란히 비교하는 방법이 현실적입니다.

기업 도입 전에 묻는 네 가지 질문

1. 모델은 답변만 하나요, 아니면 외부 시스템에서 행동하나요? 메일 발송, 파일 삭제, 결제, 권한 변경처럼 실제 상태를 바꾸는 작업은 생성형 답변보다 별도의 승인과 제한이 필요합니다.
2. 사용자와 관리자가 즉시 중단할 수 있나요? 오류가 반복될 때 모델 호출, 도구 연결, 자동화를 각각 끊을 수 있어야 피해 범위를 줄일 수 있습니다.
3. 결정 과정과 입력 데이터가 기록되나요? 로그의 보관 기간, 접근자, 삭제 정책이 없으면 사고 원인과 책임 범위를 추적하기 어렵습니다.
4. 모델이 바뀐 뒤 다시 검증하나요? 업데이트 뒤 답변의 경향이나 도구 사용 방식이 달라질 수 있으므로, 같은 테스트와 승인 절차를 반복해야 합니다.

이 질문은 마이크로소프트의 최종 정책을 대신하는 목록이 아니라, 초안을 실무 조건으로 읽기 위한 출발점입니다. 사내 문서나 고객 정보를 다룬다면 데이터가 어느 지역에 보관되는지, 학습에 사용되는지, 관리자 권한이 어떻게 나뉘는지, 로그가 얼마나 남는지를 계약서와 기술 문서에서 별도로 확인하세요. 행동 강령에 원칙이 있다고 해서 모든 배포 환경의 조건이 자동으로 같아지는 것은 아닙니다.

초안만으로는 판단할 수 없는 것

공개된 행동 강령 초안만으로 MAI 모델의 출시 일정, 모델별 성능, 한국어 처리 수준을 판단할 수 없습니다. 실제 서비스에서 위험한 요청을 얼마나 차단하는지, 오류가 났을 때 이용자에게 어떻게 알리는지, 피해 보상과 이의 제기 절차가 무엇인지도 이 문서만으로 확정되지 않아요. 초안은 제품 설명서나 계약 조건을 대체하지 않습니다.

반대로 기업이 모델의 권한과 통제 문제를 외부 토론의 대상으로 올렸다는 사실 자체는 확인할 수 있습니다.[1] 다만 뉴스 제목을 “안전한 AI가 완성됐다”로 바꾸어 읽으면 발표 범위를 넘어서게 됩니다. 더 정확한 해석은 “개발사가 MAI 모델의 행동 기준을 공개 초안으로 제시했고, 최종 내용은 의견 수렴과 후속 문서를 지켜봐야 한다”입니다.

일반 이용자가 문서를 읽는 방법

• 원칙 문장과 실제 제품 기능을 구분해 메모하세요.
• 모델이 답변하는지, 도구를 통해 행동하는지 사용 장면을 나눠 보세요.
• 개인정보·회사 기밀을 입력하기 전에 보관·학습·삭제 정책을 확인하세요.
• 오류 신고, 사용 중지, 사람에게 넘기기 같은 실제 경로를 찾아 두세요.
• 6주 의견 수렴 이후 공개될 수정본에서 바뀐 문장과 새 절차를 비교하세요.

AI 행동 강령의 가치는 “좋은 모델을 만들겠다”는 약속보다 책임을 어디에 두는지 보여주는 데 있습니다. 모델이 유능해질수록 사람의 승인과 중단 장치가 더 중요해지고, 자동화 범위가 넓을수록 로그와 되돌리기 절차가 필요합니다. 이번 초안도 이런 기준으로 읽으면 선언과 실행 조건 사이의 빈틈을 구체적으로 확인할 수 있어요.

자주 묻는 질문

이 초안이 MAI 모델 출시를 의미하나요?

아닙니다. 공개된 것은 행동 강령 초안과 의견 수렴 계획입니다. 출시 일정이나 특정 모델의 성능은 이 문서만으로 알 수 없습니다.

행동 강령이 있으면 모델의 오류가 사라지나요?

그렇게 보장하지 않습니다. 강령은 지켜야 할 방향과 책임을 정하는 문서이고, 오류율이나 모든 위험을 자동으로 없애는 기술은 아닙니다. 평가, 모니터링, 사람의 검토가 별도로 필요합니다.

기업은 지금 도입해도 되나요?

도입 여부는 모델 이름보다 업무 위험과 계약 조건으로 판단해야 합니다. 답변 초안부터 시작하고, 외부 시스템을 실제로 변경하는 자동화는 권한·승인·로그·중단 계획이 갖춰진 뒤 제한적으로 검토하는 편이 안전합니다.

관련 글: Google, AI·경제 연구진 확대…생산성보다 먼저 측정할 것을 묻다

Sources

• [1] Microsoft AI, Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models