1. 보고서 개요
홈카메라·로봇·IoT 센서가 결합된 스마트 물리보안 환경에서는 영상·LiDAR·오디오 등 이종 데이터가 모델 파라미터에 융합되어 텍스트 중심의 기존 머신 언러닝 기법으로는 특정 개인의 흔적만을 선택적으로 제거하기 어렵다는 점, 그리고 이러한 기술적 공백이 실제 보안사고(가정용 로봇·IoT 기기 침해)로 이어지며 잊힐 권리의 실질적 구현을 시급한 과제로 만들고 있다는 점이 이번 호의 핵심이다.
2. 최근 동향 분석
2.1 물리보안 IoT 기기의 데이터 침해 사례 증가
2026년 2월, 드론·로봇 제조사 DJI의 클라우드 인프라 취약점으로 인해 가정용 로봇에 탑재된 카메라·마이크·LiDAR 센서 데이터에 제3자가 접근할 수 있었던 사건이 확인되었다. 고해상도 카메라와 마이크, LiDAR 센서를 탑재한 기기는 집 안에서 사용자의 눈과 귀 역할을 하며, 이러한 센서에 대한 무단 접근은 일과 확인과 도청, 정확한 공간 정보 획득으로 이어질 수 있다. 특히 LiDAR가 만든 3차원 공간 지도는 가구 배치나 출입구 위치, 보안 사각지대까지 노출시켜 물리적 침입 계획에 악용될 위험이 있다는 점에서, 이번 사건은 영상정보 유출을 넘어 '공간정보'라는 새로운 유형의 개인정보 침해 가능성을 보여준다.
같은 시기 국내에서는 로봇청소기 등 카메라 탑재 IoT 기기에 대한 보안 점검이 강화되고 있다. 한국인터넷진흥원(KISA)은 소비자 디지털제품 취약점 관리 방안 고도화 연구를 통해 국내 유통 디지털제품의 취약점을 조사하고 제조사에 보안조치를 요청하는 작업을 진행 중이며, 앞서 실시된 실태조사에서는 로보락·에코백스·삼성·LG전자 등 로봇청소기 일부 제품이 외부에서 강제로 카메라를 작동시켜 촬영·전송할 수 있는 것으로 나타났다. 정부 조사 기준 한국은 미국·중국·일본에 이어 세계 네 번째로 많은 약 29억 개의 IoT 기기를 보유하고 있어, 관련 위협 관리가 지속적 과제로 지목된다.
2.2 사전예방형 규제로의 전환: PbD 인증제
이러한 흐름에 대응해 개인정보보호위원회는 사후 구제 중심에서 사전 예방 중심으로 정책 기조를 전환하고 있다. 개인정보보호위원회는 홈카메라·가정용 서비스로봇·로봇청소기 등 일상 스마트 기기에 '개인정보보호 중심 설계(Privacy by Design, PbD)' 인증을 부여하고 있으며, 이는 기획부터 제조, 폐기에 이르는 전 과정에서 개인정보 보호 요소를 반영해 침해를 사전에 예방하는 설계 개념이다. 정책 담당자는 급속히 확산되는 스마트 기기 환경에 대응하기 위해 보호 체계를 사후 조치에서 사전 예방 중심으로 전환하는 것이 중요하다고 밝히며, 향후 인증 대상을 보안솔루션·웹호스팅 도구 등 개인정보 처리 자동화 도구까지 확대하고 PbD 인증의 법제화를 추진할 계획이라고 언급했다.
2.3 멀티모달 머신 언러닝 연구의 본격화
학계에서도 텍스트 중심이었던 머신 언러닝 연구가 멀티모달 영역으로 빠르게 확장되고 있다. 2025년 발표된 MMUnlearner는 멀티모달 대규모언어모델(MLLM) 환경에서의 언러닝 문제를 재정의했고, MultiDelete는 비전-언어 모델에서 특정 이미지-텍스트 연관성만을 선택적으로 삭제하는 기법을, CLIPErase는 CLIP 모델 내 시각-텍스트 연관성을 효율적으로 제거하는 기법을 각각 제안했다. 의료 영상 분야에서도 계층 인식 기반 멀티모달 언러닝 연구가 진행되는 등, 영상·센서 융합 데이터에 특화된 언러닝 기법이 본격적으로 등장하는 단계에 와 있다.
3. 심층 분석
3.1 텍스트 언러닝과 물리보안 센서 언러닝의 근본적 차이
지난 호에서 다룬 SISA, DeltaGrad, Fisher Forgetting 등은 모두 정적이고 이산적인 텍스트·레코드 단위 데이터를 전제로 설계되었다. 반면 스마트 물리보안 환경의 데이터는 다음과 같은 점에서 본질적으로 다르다.
첫째, 시간 연속성이다. CCTV 영상이나 IMU(관성측정장치) 센서 스트림은 특정 시점의 '한 개인'을 분리하기 어려운 연속 신호이며, 한 사람의 동선이나 행동 패턴이 여러 프레임·여러 센서 채널에 걸쳐 비정형적으로 분산된다.
둘째, 모달리티 간 교차 인코딩이다. LiDAR로 만든 공간지도, 오디오 신호, 영상 임베딩이 동일 모델 내 잠재공간에서 cross-attention 등으로 융합되면, 한 모달리티에서만 특정 개인의 흔적을 지워도 다른 모달리티에 잔차 정보가 남는 '교차 모달 누출(cross-modal leakage)' 문제가 발생한다. 이는 텍스트 단일 모달 언러닝에서는 나타나지 않던 과제다.
셋째, 레이블의 불명확성이다. 텍스트 언러닝은 "이 문서/이 개념을 지워라"는 식의 비교적 명확한 삭제 단위가 존재하지만, 물리보안 센서 데이터에서는 '한 개인에게 귀속되는 데이터 범위'를 특정하는 것 자체가 기술적 난제다.(예: 가족 구성원이 함께 찍힌 CCTV 영상에서 한 사람만 분리 삭제 등)
3.2 교차 모달 누출(Cross-Modal Leakage) 문제와 최신 대응 기법
지난 절에서 언급한 '교차 모달 누출'은 최근 학계에서 본격적으로 다뤄지기 시작한 핵심 난제다. 2025년 발표된 Quantifying Cross-Modality Memorization 연구는 한 모달리티(예: 텍스트)에서 학습한 정보가 다른 모달리티(예: 이미지)를 통한 질의에서도 추출될 수 있음을 정량적으로 보였으며, 단순한 forget 데이터셋에 대한 gradient ascent 방식은 미세조정이 까다롭고 모델 성능을 크게 저하시킨다는 한계가 실험적으로 확인되었다. 이는 영상(카메라)·음성(마이크)·공간(LiDAR) 정보가 한 사람에 대해 상호 보강적으로 작동하는 물리보안 환경에서, 한 채널만 지워도 다른 채널을 통해 동일인이 재식별될 수 있음을 시사한다.
이 문제에 대응하는 최신 기법으로는 다음 두 가지가 주목할 만하다.
MIP-Editor (2025): 기존 뉴런 편집 기반 언러닝 기법은 멀티모달 대규모언어모델에 적용될 때 모달리티 간 정보 흐름을 포착하지 못해 망각이 모달리티별로 불균등하게 일어나는 문제와, 민감한 뉴런을 제거할 때 추론에 필요한 경로까지 손상되어 일반 성능이 저하되는 문제라는 두 가지 근본적 한계에 부딪힌다. 이를 해결하기 위해 모달리티별 귀속 점수(modality-specific attribution score)를 도입해 forget 대상 지식을 인코딩하는 영향력 있는 뉴런 경로를 식별하고, 이 경로를 표현 오도 방식으로 편집함으로써 여러 모달리티에 걸쳐 일관되게 망각이 일어나도록 한다.
CAGUL (2025): 비전-언어모델에서 cross-attention상 중요도가 낮은 시각 토큰에 망각 정보를 인코딩하는 경량 프레임워크로, 모델 파라미터를 직접 수정하거나 재학습하지 않고도 정보 누출을 막으면서 원래 모델의 동작은 유지하는 결과를 보였다. 재학습 비용 없이 동작한다는 점에서, 실시간성이 중요한 물리보안 환경에 상대적으로 적합한 접근으로 평가할 수 있다.
다만 두 기법 모두 텍스트-이미지 쌍 데이터를 전제로 검증되었을 뿐, LiDAR 포인트클라우드나 IMU 시계열처럼 비정형·연속 신호가 포함된 환경에서는 아직 검증되지 않았다는 한계가 있다. 이는 물리보안 특화 언러닝 연구가 메워야 할 공백이다.
3.3 물리보안 특화 언러닝 접근 방향
위 문제에 대응하기 위해 현재 논의되는 방향은 크게 세 가지로 정리할 수 있다.
모달리티별 분리 처리 후 재결합: 지난 호에서 다룬 IBM SPUNGE의 Split-Unlearn-Merge 구조를 멀티모달로 확장해, 영상·오디오·센서 채널별로 독립적인 언러닝을 수행한 뒤 결합하는 접근. 다만 교차 모달 누출 문제 해결에는 한계가 있다.
임베딩 단위 격리: MultiDelete·CLIPErase 계열처럼 특정 개인에 대응하는 잠재 임베딩 벡터를 식별·무력화하는 방식. 모델 구조를 재학습하지 않고도 특정 인물의 표현만 선택적으로 제거할 수 있다는 점에서 실시간성에 유리하지만, 임베딩 식별의 정확도가 관건이다.
설계 단계의 사전 격리: SISA의 Sharding 개념을 물리적 공간(가구별, 구역별) 또는 사용자 계정 단위로 적용해, 애초에 한 사용자의 센서 데이터가 다른 사용자 데이터와 같은 샤드에서 학습되지 않도록 구조화하는 방식. 국내 PbD 인증제가 요구하는 '설계 단계부터의 개인정보 보호'와 기술적으로 맞닿아 있다.
3.4 엣지·연합학습(Federated Learning) 환경에서의 언러닝 과제
스마트 물리보안 기기는 대부분 클라우드가 아닌 기기 자체 또는 홈 게이트웨이에서 연산을 수행하는 엣지·연합학습 구조를 채택하는 추세다. 이는 원본 영상·음성을 외부로 전송하지 않는다는 점에서 프라이버시에 유리하지만, 삭제 요청 처리 관점에서는 새로운 난제를 낳는다. 연합학습은 원본 데이터를 공유하지 않고 분산 학습을 가능하게 하지만, 잊힐 권리 등 규제가 점차 요구하는 데이터 삭제 요청을 본질적으로 지원하지는 않는다. 이 때문에 개별 클라이언트(가정·기기 단위)의 기여도를 전역 모델에서 제거하는 '연합 언러닝(Federated Unlearning, FUL)'이 별도 연구 분야로 부상하고 있다.
연합 언러닝의 핵심 평가 기준 중 하나가 바로 '인증 가능한 제거'다. 이는 연합학습 모델의 파라미터와 출력이 삭제 대상 데이터로부터 독립적임을 형식적 증명이나 경험적 테스트로 입증하는 것을 의미하며, 지난 호에서 다룬 Certified Removal 개념이 분산 환경으로 확장된 형태로 볼 수 있다. 다만 가정용 기기처럼 연산 자원이 제한적인 환경에서는 이러한 검증 절차 자체가 추가적인 연산 부담으로 작용해, 검증의 엄밀성과 기기 성능 사이의 트레이드오프가 실무적 과제로 남는다.
요컨대 물리보안 환경의 언러닝은 ① 모달리티 내부(영상·음성·LiDAR 각각)의 삭제, ② 모달리티 간 교차 누출 차단, ③ 기기·가정 단위의 연합 학습 기여도 제거라는 세 층위가 중첩되어 있으며, 기존의 텍스트 중심 SISA·DeltaGrad 류 기법은 ①에 머물러 있어 ②, ③ 층위로의 확장이 향후 연구의 핵심 방향이 될 것으로 보인다.
4. 산업적 영향 및 시사점
4.1 PbD 인증 체계와 모델 차원 검증의 결합 필요성
국내 PbD 인증제가 보안솔루션·자동화 도구 영역까지 확대되고 법제화가 추진되는 흐름을 고려하면, 향후 홈카메라·서비스로봇 제조사는 접근 제어·암호화 같은 전통적 보안 조치를 넘어 '모델 내부에서 특정 개인의 영향력이 실제로 제거되었는가'에 대한 증빙까지 요구받을 가능성이 크다. 3.4절에서 다룬 연합 언러닝의 '인증 가능한 제거' 개념이 PbD 인증 항목에 통합되는 방향으로 정책이 진화할 것으로 전망되며, 이 경우 인증 심사 기준 자체에 모달리티별 삭제 검증 절차(영상·음성·공간정보 각각에 대한 재식별 테스트 등)가 포함될 수 있다.
4.2 모달리티별 차등 대응 전략의 필요성
3.2절에서 살펴본 MIP-Editor·CAGUL 등은 아직 텍스트-이미지 쌍을 전제로 검증된 기법이라, LiDAR·IMU 같은 비정형 센서 신호에는 그대로 적용하기 어렵다. 따라서 업계는 모든 모달리티를 동일한 수준으로 처리하기보다, 위험도와 기술 성숙도에 따라 단계적으로 대응하는 전략을 취할 가능성이 높다. 예컨대 얼굴이 직접 노출되는 영상 데이터는 CAGUL류의 임베딩 단위 격리 기법을 우선 도입하고, LiDAR 공간정보처럼 아직 전용 언러닝 기법이 부재한 영역은 SISA식 사전 격리(샤딩) 설계로 보완하는 이원화 전략이 현실적이다.
4.3 실시간성과 검증 비용의 트레이드오프
물리보안 시스템은 침입 탐지·이상행동 인식 등 즉각적 반응이 핵심 가치인 반면, 정밀한 멀티모달 언러닝과 그 검증 절차는 연산 비용이 높다. 특히 엣지·홈 게이트웨이처럼 자원이 제한된 환경에서는 3.4절에서 지적한 '검증 엄밀성과 기기 성능 간 트레이드오프'가 실무적 병목이 된다. 따라서 실시간 추론에는 경량 모델을, 주기적 재학습·감사·인증 갱신 시점에는 정밀한 언러닝 및 인증 가능한 제거 절차를 적용하는 이원화된 파이프라인 설계가 산업적으로 요구될 것으로 보인다.
4.4 규모의 문제와 '언러닝 애즈 어 서비스'의 물리보안 확장
국내에서만 약 29억 개에 달하는 IoT 기기가 운용되는 상황에서, 개별 가정·기기 단위의 삭제 요청을 모두 수용하려면 단순한 클라우드 삭제 기능을 넘어, 연합 언러닝 인프라를 포함한 '언러닝 애즈 어 서비스'가 물리보안 영역으로 확장될 필요가 있다. 이는 지난 호에서 제시한 산업 패러다임 전환 전망이, 모달리티 융합과 분산 학습 구조가 결합된 물리보안 영역에서 한층 복합적인 형태로 요구됨을 보여준다.
5. 참고 문헌
[1] L. Bourtoule, V. Chandrasekaran, C. Choquette-Choo, H. Jia, A. Travers, B. Zhang, D. Lie, and N. Papernot, "Machine unlearning," in Proc. IEEE Symp. Security and Privacy (SP), 2021, pp. 141–159.
[2] Mix Vale, "DJI 서버의 심각한 침해로 인해 가정용 로봇 카메라가 노출되고 개인 정보 보호 전문가에게 경고," Mix Vale, Feb. 23, 2026.
[3] Y. Yeo, "개인정보위, 삼성·LG 로봇 등 3종 '개인정보보호 중심 설계' 인증," 보안뉴스, Dec. 18, 2025.
[4] J. Huo, Y. Yan, X. Zheng, Y. Lyu, X. Zou, Z. Wei, and X. Hu, "MMUnlearner: Reformulating multimodal machine unlearning in the era of multimodal large language models," arXiv preprintarXiv:2502.11051, 2025.
[5] T. Yang, L. Dai, X. Wang, M. Cheng, Y. Tian, and X. Zhang, "CLIPErase: Efficient unlearning of visual-textual associations in CLIP," arXiv preprintarXiv:2410.23330, 2024.
[6] K. Li, W. Li, D. Wu, L. Yang, J. Bai, J. Jia, and J. Xue, "Cross-modal unlearning via influential neuron path editing in multimodal large language models," arXiv preprintarXiv:2511.06793, 2025.
[7] K. Bhaila et al., "Cross-modal attention guided unlearning in vision-language models," arXiv preprintarXiv:2510.07567, 2025.
[8] Y. Wen, Y. Huang, T. Goldstein, R. Kumar, B. Ghazi, and C. Zhang, "Quantifying cross-modality memorization in vision-language models," arXiv preprintarXiv:2506.05198, 2025.
[9] J. S. Ng, W. Daluwatta, S. Edirimannage, C. Elvitigala, A. K. K. Don, I. Khalil, H. Zhang, and D. Niyato, "Federated unlearning in edge networks: A survey of fundamentals, challenges, practical applications and future directions," arXiv preprintarXiv:2601.09978, 2026.