민감한 데이터 유출 없이 업무에서 AI를 사용하는 방법

2023년 봄, Samsung의 한 엔지니어가 문제 해결에 도움을 받으려고 내부 소스 코드를 ChatGPT에 업로드했습니다. 몇 주 안에 Samsung은 직원들의 생성형 AI 도구 사용을 금지했습니다. 누구도 정보를 유출하려 한 것은 아니었습니다. 누군가 일을 더 빨리 처리하려 했을 뿐입니다.

대부분의 AI 데이터 유출은 이렇게 발생합니다. 해커 때문이 아니라, 평범한 사람들이 올바른 도구에 잘못된 내용을 붙여 넣거나 잘못된 도구에 올바른 내용을 붙여 넣기 때문입니다.

저는 업무에서 AI를 사용하는 것에 큰 믿음이 있으며, 금지가 답이라고 생각하지 않습니다. 답은 데이터가 어디로 가는지 알고 유출 가능성을 낮추는 몇 가지 습관을 들이는 것입니다. 이 가이드에서 다룰 내용입니다. 법률 자문이 아닌 실용적인 지침이며, 회사에 이미 AI 정책이 있다면 그 정책이 우선입니다.

데이터는 실제로 어디로 갈까

AI 도구에 무언가를 입력하거나 업로드하면 데이터가 채팅창에서 보이는 것보다 더 멀리 전달될 수 있습니다. 생각해야 할 곳은 네 군데입니다.

제공업체의 서버

대화와 파일은 사용자가 기록을 볼 수 있고 제공업체가 악용 사례를 조사할 수 있도록 보통 적어도 일정 기간 제공업체에 저장됩니다. 보관 기간과 접근할 수 있는 사람은 제공업체와 이용 중인 요금제에 따라 다릅니다.

모델 학습

일부 서비스는 사용자가 거부하지 않으면 향후 모델을 개선하는 데 대화를 사용할 수 있습니다. 비즈니스 및 기업용 요금제는 일반적으로 고객 데이터로 기본적으로 학습하지 않겠다고 약속하지만, 개인 계정은 기본 설정이 다른 경우가 많습니다. 짐작하지 마세요. 로그인한 계정의 정확한 요금제에 적용되는 설정과 약관을 확인하세요.

공유 기능

공유 링크와 공개된 채팅은 의도한 것보다 훨씬 많은 정보를 드러낼 수 있습니다. 2025년 여름, 공유된 수천 개의 ChatGPT 대화가 Google 검색 결과에 나타난다는 사실이 알려졌습니다. 원인은 ‘이 채팅을 검색 가능하게 만들기’ 체크박스였는데, 많은 사용자가 의미를 모른 채 선택했습니다. OpenAI는 이 옵션을 제거했고, 최고정보보안책임자인 Dane Stuckey는 사람들이 의도하지 않은 내용을 실수로 공유할 기회를 너무 많이 만들었다고 말했습니다.

이 기능이 사라진 뒤에도 교훈은 남습니다. 공유 버튼은 이메일을 전달할 때만큼 신중하게 사용하세요.

연동, 확장 프로그램, 에이전트

가장 새로운 위험은 다른 도구에 연결된 AI에서 나옵니다. 이메일과 드라이브를 읽는 어시스턴트, 통화를 녹음하고 받아쓰는 회의 봇, 사용자가 여는 모든 페이지를 볼 수 있는 브라우저 확장 프로그램, 사용자를 대신해 행동할 수 있는 에이전트가 여기에 해당합니다. 연결할 때마다 AI가 볼 수 있는 범위와 문제가 생길 수 있는 범위가 넓어집니다.

데이터를 네 가지 범주로 분류하기

간단한 분류만으로도 대부분의 판단이 명확해집니다.

범주	예시	AI 도구에 입력해도 될까?
공개	게시된 블로그 글, 제품 페이지, 보도자료	어떤 도구에서든 가능
내부	회의 메모, 내부 프로세스, 민감한 세부 내용이 없는 초기 초안	회사가 승인한 도구에서만 가능
기밀	미공개 재무 정보, 전략, 소스 코드, 계약서, 가격, 거래 계획	승인된 도구에서만, 그리고 정책이 명시적으로 허용하는 경우에만 가능
제한	비밀번호, API 키, 고객 개인정보, 건강 또는 결제 정보, NDA나 규제의 적용을 받는 모든 정보	해당 목적을 위해 특별히 만들어진 승인 시스템이 아니라면 입력하지 않기

확신이 서지 않으면 정보를 생각보다 한 단계 더 민감한 범주로 취급하세요. 그렇게 해서 후회할 일은 거의 없습니다.

사용 중인 도구의 버전 확인하기

같은 제품이라도 어떤 계정으로 로그인했는지에 따라 데이터를 처리하는 방식이 크게 다를 수 있습니다. 무료 개인 계정과 회사가 관리하는 비즈니스 워크스페이스는 로고만 같고 그 외에는 공통점이 거의 없을 수 있습니다.

업무에 AI 도구를 사용하기 전에 다음을 알아보세요.

• 회사에서 승인한 버전인가요? 회사의 통합 로그인을 통해 업무 계정으로 로그인하는 것은 좋은 신호입니다. 업무에 개인 계정을 사용하는 것은 그렇지 않습니다.
• 내 데이터를 이용한 학습이 꺼져 있나요? 개인정보 보호 또는 데이터 제어 설정과 요금제 약관을 확인하세요.
• 대화는 얼마나 오래 보관되나요? 일부 도구에서는 보관 기간을 줄이거나 기록에 저장되지 않는 임시 채팅을 사용할 수 있습니다.
• 내가 만든 내용을 다른 누가 볼 수 있나요? 워크스페이스의 기본 공유 설정과 공유 링크를 열 수 있는 사람을 확인하세요.
• 데이터는 어디에서 처리되나요? 데이터를 저장할 수 있는 국가에 관한 회사 규칙이 있다면 중요합니다.

이 질문에 답할 수 없다면 공개 정보 이외의 용도로 도구를 사용하기 전에 IT 또는 보안팀에 문의하세요. 소규모 회사에서는 본인이 IT팀인 경우도 흔한데, 그렇다면 아무도 추측할 필요가 없도록 답을 한 번 적어 두세요.

대부분의 유출을 막는 습관

어느 것도 몇 초 이상 걸리지 않습니다.

1. 대체 이름을 사용하세요. 이름과 식별자를 ’고객 A’나 ‘프로젝트 X’ 같은 것으로 바꾸세요. 돌아오는 조언은 거의 언제나 똑같이 유용합니다.
2. 붙여 넣는 대신 설명하세요. ’가격 변경 후 고객 이탈률이 약 4%에서 6%로 올랐다’고 하면 원본 스프레드시트 없이도 모델에 필요한 정보를 줄 수 있습니다.
3. 최소한만 공유하세요. 계약서 전체가 아니라 중요한 단락을 붙여 넣으세요. 데이터베이스 전체가 아니라 예시 행 20개를 업로드하세요.
4. 비밀 정보를 절대 붙여 넣지 마세요. 비밀번호, API 키, 액세스 토큰은 프롬프트에 들어가서는 안 됩니다. 설정 파일에 관한 도움이 필요하다면 먼저 비밀 정보를 제거하세요.
5. 스크린샷을 보내기 전에 살펴보세요. 오류 메시지만 보이도록 잘랐다고 생각하면서도 사이드바의 고객 목록이나 상단의 탭 이름을 놓치기 쉽습니다.
6. 파일에 숨겨진 내용이 있는지 확인하세요. 문서에는 잊고 있던 댓글, 추적된 변경 사항, 숨겨진 시트, 메타데이터가 들어 있을 수 있습니다.
7. 채팅을 공유하기 전에 다시 생각하세요. 공유 링크가 어디든 전달될 수 있다고 생각하세요.

에이전트와 커넥터는 위험을 키운다

텍스트를 붙여 넣는 어시스턴트는 사용자가 제공한 것만 봅니다. 계정에 연결된 에이전트는 해당 계정이 볼 수 있는 모든 것을 볼 수 있으며, 읽은 내용에 따라 행동할 수도 있습니다.

이는 새로운 종류의 위험을 만듭니다. 에이전트는 이메일, 웹페이지, 공유 문서처럼 다른 사람이 작성한 콘텐츠를 읽습니다. 그중 일부에는 에이전트를 탈취하도록 설계된 숨겨진 지시가 들어 있을 수 있습니다. 이를 간접 프롬프트 인젝션이라고 하며, OWASP Gen AI Security Project는 대규모 언어 모델을 기반으로 만든 애플리케이션의 가장 큰 보안 위험으로 프롬프트 인젝션을 꼽습니다. 원칙적으로 악성 이메일 한 통만으로도 지나치게 신뢰받는 에이전트에 파일을 다른 곳으로 전달하라고 지시할 수 있습니다.

몇 가지 방어책만으로도 큰 도움이 됩니다.

• 필요한 최소한의 접근 권한만 부여하세요. 드라이브 전체가 아니라 폴더 하나를 연결하세요. 가능한 곳에서는 읽기 전용 접근을 사용하세요.
• 작업에 승인을 요구하세요. 전송, 공유, 삭제, 구매는 모두 확인을 기다리도록 해야 합니다.
• 실험은 중요한 계정과 분리하세요. 실험적인 에이전트와 주로 쓰는 받은편지함은 위험한 조합입니다.
• 연결 상태를 검토하세요. 몇 달마다 더 이상 사용하지 않는 연동과 브라우저 확장 프로그램을 제거하세요.

AI 에이전트란 무엇인가에 관한 설명에서는 에이전트의 작동 방식과 안전하게 사용해 보는 방법을 다룹니다.

붙여 넣지 말아야 할 내용을 이미 입력했다면

그럴 수 있습니다. 실수보다 그다음에 무엇을 하는지가 더 중요합니다.

1. 대화를 삭제하고 해당 대화의 공유 링크도 모두 삭제하세요. 모든 사본이 반드시 지워지는 것은 아니지만 추가 노출을 줄일 수 있습니다.
2. 노출된 인증 정보를 즉시 교체하세요. 붙여 넣은 비밀번호나 키는 유출된 것으로 간주하세요.
3. IT 또는 보안팀에 알리세요. 제공업체에 연락하거나 신고 의무를 이행해야 할 수 있으며, 일찍 알리면 그 과정이 훨씬 쉬워집니다.
4. 무슨 일이 있었는지 기록하세요. 기억이 생생할 때 무엇을, 어떤 도구에서, 어떤 계정으로, 언제 공유했는지 적어 두세요.

빨리 보고하세요. 회사를 운영하는 사람으로서 저는 몇 달 뒤에 발견하는 것보다 실수가 발생한 당일에 듣는 편이 훨씬 낫습니다.

소규모 팀을 위한 한 페이지 AI 정책

조직에 아직 정책이 없다면 짧은 정책이라도 없는 것보다 낫습니다. 다음 내용을 포함해야 합니다.

• 승인된 도구: 사용할 구체적인 요금제와 계정을 포함합니다.
• 데이터 규칙: 위의 네 가지 범주를 사용합니다.
• 사람의 검토: AI의 도움을 받아 만든 것 중 고객이나 대중에게 전달되는 모든 것을 검토합니다. 대부분의 팀에는 AI 답변의 사실을 확인하는 방법 가이드에 나온 것 같은 짧은 절차면 충분합니다.
• 연결과 에이전트: 누가 AI 도구를 회사 시스템에 연결할 수 있고 누가 승인해야 하는지 정합니다. 책임을 명확히 하는 것은 에이전트 프로젝트를 시범 단계를 넘어 진행하는 데도 도움이 됩니다.
• 사고: 문제가 생겼을 때 누구에게 얼마나 빨리 알려야 하는지 정합니다.

몇 달마다 다시 검토하세요. AI 도구는 대부분의 소프트웨어보다 기능을 더 빠르게 바꾸고, 때로는 기본 설정도 바꿉니다. 적절한 도구를 선택하는 것도 업무의 일부입니다. AI 모델 선택 방법 가이드에는 데이터가 어디로 갈 수 있는지에 관해 물어볼 질문이 담겨 있습니다.

출처

• Forbes Australia, Samsung bans ChatGPT among employees after sensitive code leak, 2023년 5월 2일
• Engadget, OpenAI is removing ChatGPT conversations from Google, 2025년 8월 1일
• OWASP Gen AI Security Project, LLM01:2025 Prompt Injection