생성형 AI에 개인정보를 넣어도 될까? 초보자용 입력 전 점검표

생성형 AI에 질문을 입력할 때, 주민등록번호나 비밀번호만 피하면 된다고 생각하기 쉽습니다. 하지만 회사 문서, 예약번호, 상담 내용처럼 이름이 없어도 특정 사람이나 조직을 알아볼 수 있는 정보도 조심해야 합니다.[1]

Google은 Gemini 앱의 서비스 개선 등의 목적으로 수집한 일부 데이터를 인적 검토자가 검토할 수 있다고 안내하며, 기밀 정보를 입력하지 말라고 명시합니다.[1] 이 글은 특정 서비스의 약관을 대신하는 설명이 아니라, AI 챗봇을 처음 쓰는 사람이 입력 전에 확인할 습관을 정리한 안내입니다.

먼저 결론: 비밀이 아니어도, 공개되면 곤란한 내용은 넣지 마세요

AI 챗봇 입력창을 메모장처럼 쓰지 않는 것이 가장 안전합니다.[1] 다음 정보는 원문 대신 가린 표현이나 가상의 예시로 바꾸세요.[1]

• 비밀번호, 인증번호, API 키, 복구 코드
• 주민등록번호, 여권번호, 운전면허번호, 계좌번호, 카드번호
• 환자 이름이 들어간 진료 기록이나 상담 내용
• 고객 이름과 연락처가 포함된 명단
• 회사 내부 문서, 계약서, 소스 코드, 아직 공개하지 않은 제품 정보
• 다른 사람의 사진, 음성, 메시지처럼 당사자의 동의가 필요한 자료

NIST는 생성형 AI에 고유한 위험이 있으며, 조직이 그 위험을 확인하고 목적에 맞는 대응 방법을 정하도록 안내합니다.[2] 개인이 AI를 사용할 때도 같은 순서가 도움이 됩니다. 무엇을 입력하는지 분류하고, 문제가 생겼을 때 되돌릴 수 있는지 확인하는 식입니다.

입력 전에 10초 동안 확인할 세 가지

1. 이 내용이 공개돼도 괜찮은가?

인터넷에 그대로 공개돼도 괜찮은 문장인지 생각해 보세요.[1] 공개되면 곤란하다면 입력하지 않거나, 먼저 개인정보를 지운 복사본을 만듭니다.[1]

2. 이름을 지워도 누군지 알아볼 수 있는가?

이름만 바꾸는 것으로 충분하지 않을 수 있습니다.[1][2] 회사명, 날짜, 직책, 지역, 사건의 순서를 합치면 한 사람이나 거래를 추측할 수 있습니다.[1] “김민수 과장”을 “직원 A”로 바꾸는 데서 멈추지 말고, 회사명과 정확한 날짜도 “회사 X”, “지난달”처럼 줄여 보세요.

3. AI가 꼭 원문을 봐야 하는가?

문장 다듬기에는 개인정보를 뺀 일부 문장만 필요합니다.[1] 표 계산을 부탁할 때도 실제 고객 명단 대신 열 이름과 가짜 행 몇 개로 충분한지 먼저 확인하세요.[1]

안전한 입력으로 바꾸는 방법

가상 정보로 바꾼 뒤에도 원문을 역으로 추측할 수 있다면 더 줄여야 합니다.[1][2] 특히 숫자는 실제 값과 비슷하게 만들지 말고, 필요하지 않으면 아예 빼세요.[1]

서비스 설정은 어디서 확인할까?

서비스마다 기록과 데이터 사용 방식이 다릅니다.[1] 사용 중인 서비스의 개인정보 보호 설정과 최신 도움말을 직접 확인하세요.[1]

Google의 Gemini 앱 개인정보 보호 허브에서는 Gemini 앱 활동에서 활동을 검토·삭제하고 자동 삭제 기간을 바꾸며, 데이터를 Google AI 개선에 사용할지 관리할 수 있다고 안내합니다.[1] 다만 설정을 바꿨다는 이유만으로 앞으로 입력할 기밀 정보가 안전해지는 것은 아닙니다.[1] 처음부터 기밀 정보를 입력하지 않는 원칙이 우선입니다.[1]

확인할 항목은 다음과 같습니다.

1. 채팅 기록이 저장되는지 확인합니다.[1]
2. 자동 삭제 기간과 수동 삭제 방법을 확인합니다.[1]
3. 대화가 제품 개선이나 모델 학습에 사용될 수 있는지 읽습니다.[1]
4. 사람의 검토가 가능한지 확인합니다.[1]
5. Gmail, Drive, 사진 같은 연결된 앱에 어떤 권한을 주는지 봅니다.[1]

약관이나 개인정보 보호 안내가 이해되지 않으면, 원문 자료를 넣지 않고 공개된 예시로 먼저 시험하세요.[1] 편리한 기능을 켜는 것보다 입력 범위를 줄이는 편이 실수했을 때 대응하기 쉽습니다.[1][2]

AI가 만든 답변에도 개인정보가 섞일 수 있습니다

AI는 입력을 안전하게 보관하는 금고가 아닙니다.[1] 입력한 문장에 다른 사람의 정보가 섞여 있거나, AI가 그 내용을 요약하는 과정에서 민감한 부분을 다시 보여 줄 수도 있습니다.[1]

다른 사람에게 전달할 답변을 만들었다면 다음을 확인하세요.

• 이름, 전화번호, 주소, 이메일이 남아 있지 않은가?
• 원문에 없던 개인정보를 AI가 추측해 덧붙이지 않았는가?
• 공개 게시물에 넣어도 되는 정보만 남았는가?
• 인용문과 첨부파일의 개인정보를 사람이 다시 확인했는가?

AI 답변을 그대로 복사해 메일이나 게시물에 붙여 넣지 마세요.[2] 입력 전과 출력 후에 사람이 한 번씩 확인하면 작은 실수를 줄일 수 있습니다.[2]

초보자용 입력 전 체크리스트

• [ ] 비밀번호, 인증번호, API 키를 지웠다.
• [ ] 주민등록번호, 계좌·카드번호, 연락처를 지웠다.
• [ ] 이름을 가렸고, 회사·지역·날짜 조합으로도 특정하기 어렵다.
• [ ] 회사 내부 문서와 공개 자료를 분리했다.
• [ ] 필요한 부분만 남기고 원문 전체를 넣지 않았다.
• [ ] 서비스의 기록·삭제·데이터 사용 설정을 확인했다.
• [ ] AI가 만든 답변을 사람이 읽고 개인정보와 사실관계를 확인했다.

자주 묻는 질문

이름만 지우면 안전한가요?

아닙니다. 회사명, 날짜, 직책, 사건 내용이 함께 있으면 누군지 추측할 수 있습니다.[1][2] 이름뿐 아니라 식별에 도움이 되는 조합을 함께 줄이세요.[1]

공개된 뉴스나 웹페이지는 AI에 넣어도 되나요?

누구나 볼 수 있는 자료라도, 질문에 개인적인 메모나 계정 정보가 붙어 있으면 별개입니다.[1] 공개 자료와 내부 메모를 분리하고, 필요한 문장만 사용하세요.[1]

채팅 기록을 삭제하면 이미 입력한 정보도 모두 사라지나요?

서비스마다 삭제와 보관 방식이 다릅니다. 삭제 버튼이 보인다는 사실만으로 모든 복사본과 검토 가능성이 즉시 사라진다고 단정하지 말고, 해당 서비스의 최신 개인정보 보호 안내를 확인하세요.[1]

개인정보를 빼면 AI를 제대로 활용할 수 없지 않나요?

많은 작업은 가상 이름과 일부 문장만으로도 테스트할 수 있습니다.[1][2] 실제 데이터를 꼭 써야 하는 업무라면 회사의 승인된 도구와 내부 지침을 먼저 확인하세요.[2] NIST도 생성형 AI를 사용할 때 위험을 확인하고 목적에 맞는 대응을 마련하는 접근을 제시합니다.

정리

생성형 AI를 편하게 쓰는 방법은 민감한 원문을 많이 넣는 것이 아닙니다.[1] 입력할 내용을 분류하고, 식별 정보를 가리고, 서비스 설정을 확인하고, 결과를 사람이 다시 읽는 순서가 기본입니다.[1][2]

특히 비밀번호와 인증번호는 어떤 AI 챗봇에도 입력하지 마세요.[1] 문서 작업이 필요하다면 가상의 예시로 먼저 테스트한 뒤, 실제 자료를 사용할 때는 조직의 승인 절차를 따르세요.[2]

출처

1. Google Gemini 앱 개인 정보 보호 허브
2. NIST AI Risk Management Framework