생성형 인공지능을 활용한 네트워크 보안 침해 시뮬레이션 및 대응 전략 연구
A Study on the Simulation and Response Strategy of Network Security Infringement Using Generative Artificial Intelligence
- 주제(키워드) 네트워크보안 , 강화학습 , ai
- 주제(DDC) 384
- 발행기관 아주대학교 정보통신대학원
- 지도교수 노병희
- 발행년도 2026
- 학위수여년월 2026. 8
- 학위명 석사
- 학과 및 전공 정보통신대학원 정보통신
- 실제URI http://www.dcollection.net/handler/ajou/000000036597
- 본문언어 한국어
- 저작권 아주대학교 논문은 저작권에 의해 보호받습니다.
초록/요약
사이버 공격은 날로 정교해지고 있으며, 특히 SQL 인젝션 공격은 웹 애플리케이션 보안에서 가장 빈번하고 치명적인 위협 중 하나로 남아 있다. 기존의 규칙 기반 방어 시스템은 알려진 공격 패턴에 대해서는 효과적으로 대응할 수 있으나, 공격 입력이 변형 되거나 사전에 정의되지 않은 형태로 나타나는 경우에는 유동적으로 대응하기 어렵다는 한계가 있다. 최근에는 이러한 한계를 극복하기 위해 AI를 활용한 보안 연구가 활발히 진행되고 있다. 그러나 제한된 유형의 공격 데이터로 학습된 방어 모델은 입력 분포 변화에 대한 대응능력이충분하지않을수있으며, 학습데이터셋의다양성이부족할경우특정공격 패턴에 과적합되어 탐지 성능이 저하될 가능성이 있다. 이에 본 논문에서는 생성형 AI를 활용하여 기존 SQL 인젝션 공격 패턴을 기반으로 한 변형 공격 후보 페이로드를 구성하고, 이를 PPO 강화학습 기반 방어 정책의 학습 및 평가환경에통합하는프레임워크를제안한다. 제안한구조에서는입력페이로드를특징 벡터로 변환하고, PPO 에이전트가 각 입력에 대해 허용 또는 차단 행동을 선택하도록 설계하였다. 이를 통해 본 논문은 생성형 AI 기반 변형 공격 후보를 활용하여 방어 정책의 평가 범위를 확장하고, PPO 기반 방어 에이전트가 기존 공격 패턴 및 그 유사 변형 입력에 대해 어느 정도 안정적인 차단 성능을 보일 수 있는지 검증한다. 나아가 향후 더 다양한 공격 데이터셋과 생성 모델 파인튜닝을 통해 학습 기반 방어 정책의 성능을 점진적으로 개선할 수 있는 연구 방향을 제시한다.
more초록/요약
Cyber attacks are becoming increasingly sophisticated, and SQL injection attacks in particular remain one of the most frequent and critical threats in web application security. While conventional rule-based defense systems can effectively respond to known attack patterns, they have inherent limitations in adapting flexibly when attack inputs are modified or appear in previously undefined forms. Recently, AI-driven security research has been actively pursued to overcome these limitations. However, defense models trained on a limited range of attack data may lack sufficient capability to respond to shifts in input distribution, and when the diversity of training datasets is insufficient, there is a risk of overfitting to specific attack patterns, which can lead to degraded detection performance. To address this, this paper proposes a framework that leverages generative AI to construct mutated attack candidate payloads based on existing SQL injection attack patterns and integrates them into the training and evaluation environment of a PPO-based reinforcement learning defense policy. In the proposed architecture, input payloads are converted into feature vectors, and a PPO agent is designed to select either an allow or block action for each input. Through this approach, the paper expands the evaluation scope of the defense policy by utilizing generative AI-based mutated attack candidates and verifies the extent to which a PPO-based defense agent can demonstrate reasonably stable blocking performance against both existing attack patterns and their similar variants. Furthermore, it presents future research directions for progressively improving the performance of learning-based defense policies through more diverse attack datasets and fine-tuning of generative models.
more목차
I. 서 론 1
II. 관 련 연 구 4
2.1 SQL Injection 개요 및 공격 유형 4
2.2 기존 방어 기법 7
2.2.1 서명/패턴 기반 방어（WAF） 7
2.2.2 지도학습 기반 탐지（분류） 개요 및 한계 9
2.3 생성형 AI 및 LLM 기반 공격 변화 10
2.3.1 생성형 AI와 LLM의 사이버보안 활용 동향 10
2.3.2 LLM agent 기반 웹 취약점 탐색 및 공격 자동화 11
2.3.3 본 논문에서의 GPT-2 기반 변형 공격 후보 데이터셋 활용 범위 13
2.4 강화학습 및 PPO 개요 15
2.4.1 강화학습 기반 의사결정 문제 정의 15
2.4.2 PPO 핵심 아이디어 17
2.5 기존 연구의 한계 18
III. 제 안 방 법 20
3.1 제안방법의 핵심 개념 20
3.2 기존 연구 대비 차별성 21
3.3 제안 프레임워크 구성 23
3.4 PPO 기반 allow/block 방어 정책 설계 25
3.5 GPT-2 기반 변형 공격 후보 데이터셋 활용 방법 28
3.6 result type 기반 응답 분석 방법 30
IV. 실험 및 결과 34
4.1 실험 환경 및 베이스라인（룰 기반 프록시） 34
4.1.1 실험 환경 구성 34
4.1.2 데이터 수집 및 라벨링 파이프라인 35
4.1.3 정규식 기반 프록시 방어 설계 및 구현 40
4.1.4 정규식 기반 베이스라인 프록시 평가 설계 44
4.2 PPO 기반 방어 정책 및 생성형 공격 기반 비교평가 46
4.2.1 PPO 기반 방어 정책의 실험 적용 46
4.2.2 PPO 학습 및 평가 모듈 구현 51
4.2.3 GPT-2 기반 변형 공격 후보 데이터셋 구성 55
4.2.4 방어 방식별 성능 평가 설계 59
4.2.5 실험 결과 및 분석 63
V. 결론 70
참 고 문 헌 75
Abstract 78
