2-1. OWASP LLM Top 10 2025 | AI 고급 실무

01

OWASP LLM Top 10이란?

AI 보안의 표준 참조 프레임워크

OWASP(Open Worldwide Application Security Project)는 웹 애플리케이션 보안 분야의 글로벌 표준 조직입니다. LLM Top 10은 대규모 언어 모델 애플리케이션의 가장 중요한 보안 취약점 10가지를 정의합니다.

⚠️ 2025년 버전의 특징

2025년 버전에서는 시스템 프롬프트 유출, 벡터/임베딩 취약점 등 새로운 위협 범주가 추가되었으며, AI 공급망 보안 위협에 대한 내용이 크게 강화되었습니다.

📌 왜 중요한가?

표준 참조 — 기업 보안 정책, 감사, 규제 준수의 기준점
체계적 접근 — 보안 위협을 우선순위화하여 효율적 대응
업계 합의 — 500+ 보안 전문가가 참여한 커뮤니티 기반 프로젝트

02

가장 위험한 Top 3

즉시 대응이 필요한 핵심 취약점

🚨 Critical Vulnerabilities

#1

LLM01: Prompt Injection

사용자 입력이나 외부 데이터를 통해 LLM의 동작을 조작하는 공격. 시스템 프롬프트 우회, 권한 상승, 데이터 유출 가능.

업데이트

#2

LLM02: Sensitive Information Disclosure

LLM 응답을 통해 민감한 정보(개인정보, 기업 비밀, 시스템 정보)가 유출되는 취약점.

업데이트

#3

LLM03: Supply Chain Vulnerabilities

서드파티 모델, 데이터셋, 플러그인, 라이브러리의 취약점. 2024년 악성 모델 6.5배 증가.

강화

🚨 프롬프트 인젝션의 심각성

프롬프트 인젝션은 "구조적 문제"입니다. LLM이 데이터와 지시를 완벽하게 구분할 수 없는 한, 근본적인 해결이 불가능합니다. 다계층 방어만이 현실적 대안입니다.

03

OWASP LLM Top 10 2025 전체 목록

10대 취약점 상세

#1

Prompt Injection

Direct/Indirect 프롬프트 인젝션을 통한 LLM 동작 조작

#2

Sensitive Information Disclosure

LLM 응답을 통한 민감 정보 유출

#3

Supply Chain Vulnerabilities

서드파티 구성 요소(모델, 데이터, 플러그인)의 취약점

#4

Data and Model Poisoning

학습 데이터 또는 파인튜닝 데이터 오염을 통한 모델 무결성 훼손

#5

Improper Output Handling

LLM 출력을 검증 없이 다운스트림 시스템에 전달하여 발생하는 취약점

#6

Excessive Agency

LLM에 과도한 권한(파일 삭제, API 호출 등) 부여로 인한 위험

#7

System Prompt Leakage

시스템 프롬프트의 내용이 사용자에게 노출되는 취약점

신규

#8

Vector and Embedding Weaknesses

벡터 DB, 임베딩 생성 과정의 취약점 (RAG 시스템)

신규

#9

Misinformation

LLM이 생성하는 잘못되거나 오해를 유발하는 정보 (환각)

#10

Unbounded Consumption

과도한 리소스 사용으로 인한 서비스 거부(DoS) 또는 비용 폭증

04

공급망 보안 위협의 급증

2024년 Hugging Face 악성 모델 6.5배 증가

6.5x

2024년 Hugging Face 악성 모델 증가율

1M+

2024년 신규 등록 모델 수

📌 공급망 위협 유형

악성 사전학습 모델 — 백도어, 트로이목마가 내장된 모델
오염된 데이터셋 — 편향 또는 악의적 콘텐츠가 포함된 학습 데이터
취약한 플러그인 — 검증되지 않은 서드파티 도구 및 확장
의존성 취약점 — 라이브러리, 프레임워크의 보안 결함

💡 방어 전략

SBOM(Software Bill of Materials)을 유지하고, 모델 출처를 검증하며, 정기적인 의존성 스캔을 수행하세요. 신뢰할 수 있는 소스(공식 허브, 검증된 조직)에서만 모델을 다운로드하세요.

SUMMARY

핵심 요약

OWASP LLM Top 10은 LLM 애플리케이션 보안의 표준 참조 프레임워크
#1 프롬프트 인젝션은 구조적 문제로, 다계층 방어만이 현실적 대안
2025년 신규 추가: 시스템 프롬프트 유출(#7), 벡터/임베딩 취약점(#8)
공급망 위협 급증: 2024년 악성 모델 6.5배 증가

SOURCES

참고 자료

OWASP GenAI - 공식 LLM Top 10 페이지
LLM01: Prompt Injection - 상세 문서