강유진 (AI 박사과정)     김은선 (AI 석사과정)

AI대학원 박사과정 강유진 학생과 석사과정 김은선 학생의 논문 Can Personal Health Information Be Secured in LLM? Privacy Attack and Defense in the Medical Domain이 보안 분야 세계 3대 학회 중 하나인 ACM SIGSAC Computer and Communications Security (CCS) 2025에 게재 승인되었다. 또한, 강유진 박사과정생은 연구의 우수성을 인정받아 Student Conference Grant를 수상하여 학회 등록 및 경비를 지원받는다.

본 연구는 의료 데이터를 기반으로 학습된 LLM이 실제로 환자 정보를 유출할 가능성이 있는지를 체계적으로 분석하고, 프롬프트 기반 공격을 통해 민감한 정보가 모델 응답에 포함되는 사례를 실증하였다. 이를 바탕으로, 악의적 질의에 대한 모델의 방어력을 높이기 위한 Red teaming 기반 방어 기법을 제안하고, 의료 분야에 특화된 1,000개 규모의 공격 시나리오 데이터셋인 MediRed를 구축 및 공개하였다. 해당 데이터셋을 활용한 방어 전략은 기존 모델 대비 최대 56% 향상된 개인정보 보호 성능을 달성하였으며, 리뷰어들로부터 높은 평가를 받았다.본 논문은 올해 10월, 대만에서 개최되는 CCS 2025에서 발표될 예정이다.

본 연구는 중앙대학교 인공지능대학원 지원사업을 통해 진행되었다.