PI-AE-RF 경량 하이브리드 IDS의 Zero_Day 공격 탐지 성능 향상 연구
A Study on Zero_Day Attack Detection Performance of PI-AE-RF Lightweight Hybrid IDS
- 주제(키워드) 침입탐지시스템(IDS) , Random Forest , AutoEncoder , Permutation Importance , Zero-Day Attack , 경량화 , 엣지 컴퓨팅
- 주제(DDC) 005.8
- 발행기관 아주대학교 일반대학원
- 지도교수 김기형
- 발행년도 2026
- 학위수여년월 2026. 2
- 학위명 석사
- 학과 및 전공 일반대학원 사이버보안학과
- 실제URI http://www.dcollection.net/handler/ajou/000000035729
- 본문언어 한국어
- 저작권 아주대학교 논문은 저작권에 의해 보호받습니다.
초록/요약
본 연구는 제한된 연산 자원을 가진 환경(예: IoT 엣지 디바이스, 군 집 드론 네트워크)에서 실시간 침입 탐지를 수행하기 위한 경량 하이브 리드 IDS(침입탐지시스템) 구조를 제안한다. 기존 Random Forest(RF) 기반 IDS는 고성능 서버 기반 환경에서는 뛰어난 정확도를 보이나, 훈련 데이터에 존재하지 않는 Zero-Day 공격에 대한 탐지 성능이 크게 저하 되는 취약점이 존재한다. 이를 보완하기 위해 본 연구에서는 Permutation Importance(PI)를 활용한 피처 축소와 AutoEncoder(AE) 기 반 잠재 표현 학습 및 재구성 오차 활용, 그리고 Random Forest 분류기 의 결합(PI→AE→RF) 으로 구성된 하이브리드 탐지 모델을 제안한다. CICIDS2017 데이터셋을 기반으로 7가지 모델 구성을 비교한 결과, 제 안 기법은 대규모 데이터 환경에서는 PI 기반 RF 단독과 유사한 정확도 를 유지하면서도 연산 시간과 메모리 요구량을 감소시켰으며, Zero-Day 공격 실험에서는 RF 단독이 Unknown 공격을 100% 정상으로 오인한 반면 제안 기법은 오탐 비율을 47.2% → 13.5% 수준으로 감소시키는 성 능 향상을 보였다. 또한 OR-rule 기반 후처리를 적용하여 Zero-Day 탐 지 능력을 보완하고 다양한 조건을 실험하여 탐지율과 오탐률의 균형점 을 확인하였다. 본 연구는 AE 기반 특징 재구성과 PI 기반 피처 선택을 활용한 경량 하이브리드 IDS 설계의 가능성을 제시하며, 향후 엣지 환경의 지속 학습 (Continual Learning), 자가 적응 기반 IDS 확장 연구로 이어질 수 있다. 주요어: 침입탐지시스템(IDS), Random Forest, AutoEncoder, Permutation Importance, Zero-Day Attack, 경량화, 엣지 컴퓨팅
more목차
제 1 장 서 론 1
제 1 절 연구 배경 및 필요성 1
제 2 절 문제 정의 3
제 3 절 연구 목적 5
제 4 절 연구 범위 및 구성 7
제 2 장 관련 연구 9
제 1 절 침입탐지시스템(IDS)의 분류 9
제 2 절 Random Forest 기반 IDS 연구 11
제 3 절 AutoEncoder 기반 이상 탐지 연구 12
제 4 절 Zero-Day 및 Concept Drift 대응연구 13
제 5 절 하이브리드 IDS 구조 연구 14
제 6 절 본 연구의 차별성과 기여 15
제 3 장 제안기법 16
제 1 절 전체 시스템 구조 개요 16
제 2 절 PermutationImportance기반 피처선택과정 18
제 3 절 AutoEncoder 기반 잠재 표현 학습 19
제 4 절 Reconstruction Error 의 활용 방법 20
제 5 절 Random Forest 기반 분류 21
제 6 절 OR-rule 기반 후처리 개선 기법 22
제 7 절 제안 모델의 특징 및 기대 효과 23
제 4 장 실험 환경 및 데이터 구성 24
제 1 절 CICIDS2017 데이터셋 소개 24
제 2 절 데이터 전처리 과정 25
1. 라벨 정규화(Label Normalization) 25
2. 데이터 타입 정규화 25
3. 정규화(Standard Scaling) 25
4. 클래스 불균형 처리 25
제 3 절 학습-검증 데이터 구성 26
제 4 절 평가지표 27
제 5 절 실험구성 29
제 5 장 실험 결과 및 분석 30
제 1 절 전체 성능 비교 30
제 2 절 연산 시간 비교 및 메모리 성능 31
제 3 절 Zero-Day Unknown 공격 탐지 실험 33
제 4 절 OR-rule 튜닝 실험 결과 34
제 5 절 Encoder Dimension Sensitivity 실험 36
제 6 절 결과 종합 분석 37
제 6 장 결론 38
제 1 절 연구 요약 38
제 2 절 제안 기법의 주요 시사점 39
제 3 절 한계점 및 개선 방향 40
제 4 절 향후 연구 41
참고문헌 42
