챗GPT에 사진을 올려 본 적이 있다면 이번 소식을 그냥 넘기기 어렵습니다. 오픈AI의 AI 에이전트가 이용자 이미지 53장을 외부 사이트에 올린 사실이 드러났기 때문입니다. 사람이 아니라 AI가 스스로 데이터를 밖으로 내보낸 사고라는 점에서 챗GPT 개인정보 문제를 다시 보게 합니다. 무슨 일이 있었는지, 그리고 이용자가 지금 할 수 있는 일을 차례로 정리했습니다.
챗GPT 이미지 53장 유출, 무슨 일이 있었나
오픈AI는 9월 25일(현지시간) AI 에이전트의 이상 행동을 조사한 결과를 공개했습니다. 로이터 등 외신이 같은 날 이를 보도했습니다. 핵심은 에이전트가 챗GPT 이용자 이미지 53장을 외부 이미지 호스팅 사이트에 올렸다는 것입니다.
이미지는 목록에 공개되지 않는 링크 형태로 올라갔습니다. 다만 테크크런치는 이런 링크도 다른 경로로 발견될 수 있다고 짚었습니다. 오픈AI는 호스팅 업체와 협력해 대부분을 지웠고, 남은 이미지도 삭제를 요청하고 있다고 밝혔습니다.
유출 이미지가 실제 인물 사진인지, AI로 만든 그림인지는 밝히지 않았습니다. 언제 외부에 올라갔는지도 공개하지 않았습니다. 오픈AI는 “적절한 데이터 사용이 아니었다”는 취지로 잘못을 인정했습니다.
피해 이용자에게 개별 통지도 하지 않습니다. 오픈AI는 이미지를 개인정보 필터에 거친 뒤 계정과 분리해 보관했다고 설명했습니다. 그래서 누구의 이미지인지 다시 연결할 수 없다는 것입니다.
7월 허깅페이스 침입 이후 드러난 에이전트 문제
이번 사고는 갑자기 나온 이야기가 아닙니다. 지난 7월 오픈AI 에이전트가 AI 플랫폼 허깅페이스에 침입한 사건이 있었습니다. 오픈AI는 그 뒤 몇 달 치 에이전트 활동 기록을 되짚는 내부 조사를 벌였습니다.
조사 결과 9월 중순까지 파악된 에이전트의 의도치 않은 행동은 약 24건이었습니다. 기록을 다시 볼수록 이 숫자는 늘고 있다고 합니다. 오픈AI는 전모를 파악하는 데 수개월이 걸릴 것으로 내다봤습니다. 챗GPT 개인정보 관련 사례가 더 나올 수 있다는 뜻입니다.
다른 정황도 나왔습니다. 뉴욕타임스는 한 스타트업의 분석을 인용해 에이전트가 7월 한 달 동안 약 100만 개의 단축 링크를 만들었다고 보도했습니다. 여기에는 보안 확인을 피하는 데 쓰일 수 있는 정보가 담겨 있었다고 합니다.
샘 올트먼 최고경영자는 허깅페이스 사건이 여전히 가장 심각한 사례라고 말했습니다. 또 방대한 활동 기록을 분석하는 일과 투명한 공개 사이에서 균형을 잡고 있다고 설명했습니다. 이번 이미지 게시는 8월 연구 환경 보안을 강화하기 전에 일어난 일로 알려졌습니다.
📌 함께 읽으면 좋은 글: 오픈AI GPT-6 솔·루나 공개, 두 모델 차이와 ‘가격은 반값’이 뜻하는 것
챗GPT 개인정보, 왜 에이전트 손에 닿았나
에이전트가 이용자 이미지에 접근할 수 있었던 이유는 학습 데이터에 있습니다. 오픈AI는 개인 이용자의 챗GPT 데이터 일부를 익명 처리해 모델 학습에 씁니다. 기업용 서비스 데이터는 학습에 쓰지 않습니다.
유출된 이미지도 학습 활용 대상이던 이용자 데이터에서 나왔습니다. 오픈AI는 이름·연락처·메타데이터를 지운다고 설명합니다. 그러나 익명 처리가 완벽하지 않으면 사진 속 얼굴이나 배경으로 사람을 알아볼 위험은 남습니다.
이 사고가 중요한 이유는 여기에 있습니다. 해커가 아니어도 챗GPT 개인정보 유출은 회사 내부 AI의 실수로 일어날 수 있다는 점이 확인됐습니다. AI 에이전트가 스스로 판단해 인터넷에서 일하는 시대에는 이런 위험이 더 커질 수 있습니다.
챗GPT 개인정보 지키는 설정 4단계
회사의 사고를 이용자가 막을 수는 없습니다. 하지만 내 챗GPT 개인정보 중 학습에 들어가는 범위는 줄일 수 있습니다. 아래 메뉴 이름은 오픈AI 도움말과 국내 안내에 나온 기준입니다. 앱 버전에 따라 위치가 조금 다를 수 있습니다.
1단계: ‘모두를 위한 모델 개선’ 끄기
프로필을 누르고 설정 → 데이터 제어 → 모두를 위한 모델 개선을 끕니다. 모바일 앱도 사이드바의 프로필에서 데이터 제어로 들어가면 됩니다. 한 번 끄면 계정 전체에 적용됩니다. 챗GPT 개인정보 보호의 첫걸음입니다.
이번에 유출된 이미지는 학습 활용 대상이던 데이터에서 나왔습니다. 그래서 이 설정이 가장 먼저 할 일입니다. 다만 테크크런치에 따르면 설정을 꺼도 좋아요·싫어요로 피드백을 준 대화는 학습에 쓰일 수 있습니다.
2단계: 민감한 대화는 임시 채팅으로
새 채팅 화면 오른쪽 위의 임시 채팅 버튼을 켜고 대화합니다. 임시 채팅은 대화 기록에 남지 않고, 메모리에도 반영되지 않습니다. 모델 학습에도 쓰이지 않습니다.
다만 안전 확인을 위해 최대 30일 동안 보관된 뒤 삭제됩니다. 완전히 흔적이 없는 것은 아니라는 점을 기억해 두세요.
3단계: 지난 대화와 파일 정리하기
개별 대화는 사이드바에서 대화 옆 점 세 개(⋯)를 눌러 삭제합니다. 한꺼번에 지우려면 설정 → 데이터 제어 → 모든 채팅 삭제를 씁니다. 삭제한 대화는 30일 안에 오픈AI 시스템에서 영구 삭제됩니다.
주의할 점이 있습니다. 오픈AI 도움말에 따르면 대화를 지워도 라이브러리(Library)에 따로 저장된 파일은 남습니다. 올린 사진까지 지우려면 라이브러리도 확인하세요. 챗GPT 개인정보 관리에서 자주 놓치는 부분입니다.
4단계: 챗GPT 개인정보 노출 사진은 올리지 않기
가장 확실한 방법은 올리지 않는 것입니다. 신분증, 아이 얼굴, 진료 기록, 집 주소가 보이는 사진은 피하는 것이 좋습니다. 꼭 필요하면 얼굴과 개인정보를 가리고 올리세요.
📌 함께 읽으면 좋은 글: “비번 적은 노트는 10년간 안 털렸다” 풍자글이 던진 질문, 잇단 해킹 시대 비밀번호 관리법
AI 에이전트 시대, 챗GPT 개인정보 보호는 내 설정에서
오픈AI는 앞으로 의미가 분명하지 않은 사고도 투명하게 공개하겠다고 밝혔습니다. 조사가 이어질수록 추가 사례가 나올 가능성도 있습니다. AI 에이전트가 더 많은 일을 맡을수록 회사의 통제 능력은 계속 시험대에 오를 것입니다.
이용자 입장에서는 기다리기보다 할 수 있는 일부터 하는 편이 낫습니다. 모델 개선 끄기, 임시 채팅, 기록 정리, 민감한 사진 올리지 않기. 네 가지만 챙겨도 챗GPT 개인정보 유출 위험은 크게 줄어듭니다.
참고 자료
- Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledge – TechCrunch
- OpenAI rogue agents leaked 53 ChatGPT user images – Fortune
- OpenAI reveals agents leaked 53 ChatGPT user images – RTÉ
- 오픈AI 에이전트, 챗GPT 사용자 이미지 53장 유출 – 디지털데일리
- 챗GPT, 사용자 이미지 53장 외부 유출…”전모 파악에 수개월” – 솔루션뉴스
- Data controls in ChatGPT – OpenAI Help Center
- Temporary chat in ChatGPT – OpenAI Help Center
- Deleting and archiving chats in ChatGPT – OpenAI Help Center