반응형
1. NIST AI RMF (Risk Management Framework)
- 개념: AI 시스템의 신뢰성 확보를 위한 위험 식별 및 관리 표준 프레임워크 인공지능 생애주기 전반에서 발생할 수 있는 부정적 영향을 최소화하기 위해 NIST가 제시한 자발적 가이드라인으로, 조직의 위험 관리 역량 강화를 목적으로 합니다.
- 핵심 키워드: Govern(거버넌스), Map(파악), Measure(측정), Manage(관리), 신뢰성 특성(안전, 보안, 공정 등), 프로파일, Context-Specific.
2. 프로젝트 위험관리
- 개념: 프로젝트 목표에 영향을 주는 불확실성을 식별하고 대응하는 체계적 활동 위험 식별, 분석(정량/정성), 대응 계획 수립 및 감시를 통해 긍정적 기회는 극대화하고 부정적 위협은 최소화하는 PMBOK 지식 영역의 핵심 프로세스입니다.
- 핵심 키워드: 리스크 식별, 정성적/정량적 분석, 위험 대응 전략(회피, 전가, 완화, 수용), 위험 등록부(Risk Register), 잔여 위험, 예비비(Contingency Reserve).
3. ISO/IEC 42001:2023
- 개념: AI 시스템의 전사적 관리를 위한 세계 최초의 인공지능 경영시스템(AIMS) 국제 표준 조직이 AI 기술을 책임감 있게 개발하고 사용하도록 요구사항을 정의한 표준으로, PDCA 순환 구조를 통해 AI 거버넌스와 리스크 관리를 통합 수행합니다.
- 핵심 키워드: AIMS(AI Management System), HLS(고수준 구조), AI 영향 평가, Annex A(통제 항목), 투명성/설명가능성, PDCA, 인증 제도.
4. 베이즈 정리
- 개념: 새로운 증거를 바탕으로 가설의 확률을 갱신하는 조건부 확률 이론 사전 확률과 추가된 정보를 결합하여 사후 확률을 도출하는 수식으로, 스팸 필터링, 질병 진단 등 현대 머신러닝의 추론 기반이 되는 정리입니다.
- 핵심 키워드: 사전 확률(Prior), 사후 확률(Posterior), 조건부 확률, 우도(Likelihood), 베이지안 추론, 갱신(Update), 나이브 베이즈 분류기.
5. 안면인식 결제 서비스
- 개념: 바이오 정보를 활용하여 사용자의 얼굴 특징점으로 결제를 승인하는 비대면 인증 기술 카메라를 통해 입력된 안면 데이터를 기존 등록된 데이터와 대조하여 본인 여부를 판별하고 실시간 금융 결제를 처리하는 핀테크 서비스입니다.
- 핵심 키워드: 생체 인식(Biometrics), 특징점 추출, 딥러닝(CNN), 위조 방지(Liveness Detection), FIDO, 개인정보 비식별화, 보안 토큰.
6. 소프트웨어 개발방법론 테일러링(Tailoring)
- 개념: 프로젝트의 규모와 특성에 맞춰 표준 방법론을 최적화하여 조정하는 프로세스 조직의 표준 소프트웨어 생명주기(SDLC)를 기반으로 특정 프로젝트의 제약 조건이나 환경에 따라 절차, 기법, 산출물을 가감하여 맞춤화하는 활동입니다.
- 핵심 키워드: 표준 프로세스, 가감승제(Add/Drop/Modify), 내부적/외부적 기준, PAL(Process Asset Library), 형상 관리, 의사결정 체계.
7. 자기회귀(AR) 및 이동평균(MA) 모형
- 개념: 과거의 시계열 데이터 변동성을 기반으로 미래 수치를 예측하는 통계적 모델 AR은 과거의 관측값과 현재값의 상관관계를, MA는 과거 예측 오차값의 가중 평균을 이용하여 시계열 데이터의 추세와 변동을 분석합니다.
- 핵심 키워드: 시계열 분석, 정상성(Stationarity), AR(자기회귀), MA(이동평균), ARIMA, 시차(Lag), 백색잡음(White Noise).
8. 데이터 관측가능성(Data Observability)
- 개념: 데이터 파이프라인 전 구간의 상태를 모니터링하여 데이터 품질을 보장하는 기술 데이터의 신선도, 분포, 스키마 변화 등을 실시간으로 추적하여 비정상 데이터 발생 시 즉각적으로 감지하고 원인을 파악할 수 있는 시스템적 역량입니다.
- 핵심 키워드: 데이터 품질, 파이프라인 모니터링, 신선도(Freshness), 리니지(Lineage), 스키마 변화, 이상 탐지, 데이터 드리프트.
9. 참조 무결성 (Referential Integrity)
- 개념: 외래 키 값을 통해 데이터베이스 내 릴레이션 간의 일관성을 유지하는 제약 조건 외래 키 값은 참조되는 기본 키 값과 동일하거나 NULL이어야 하며, 데이터의 삽입/수정/삭제 시 관계된 테이블 간의 불일치가 발생하지 않도록 방지합니다.
- 핵심 키워드: 기본 키(PK), 외래 키(FK), 개체 무결성, Cascade(연쇄 삭제/수정), Restricted, 데이터 일관성, 관계 대수.
10. TTPs (Tactics, Techniques and Procedures)
- 개념: 사이버 공격자의 전략, 기술 및 절차를 체계적으로 분석한 위협 인텔리전스 공격자의 목표 달성 전략(전술), 구체적 수단(기술), 반복적 수행 단계(절차)를 프로파일링하여 선제적 방어 및 탐지 능력을 향상시키는 체계입니다.
- 핵심 키워드: MITRE ATT&CK, 사이버 킬 체인, 위협 인텔리전스, 전술(Tactics), 기술(Techniques), 절차(Procedures), 지능형 지속 위협(APT).
11. 은행가 알고리즘 (Banker's Algorithm)
- 개념: 교착상태(Deadlock)를 회피하기 위해 자원 할당 가능성을 사전에 검토하는 기법 프로세스가 요구하는 최대 자원량을 파악하여, 자원 할당 후에도 시스템이 안정 상태(Safe State)를 유지할 수 있는 경우에만 자원을 할당하는 알고리즘입니다.
- 핵심 키워드: 교착상태 회피(Avoidance), 안정 상태(Safe State), 불안정 상태, 최대 자원 요구량, 가용 자원, 운영체제 스케줄링.
12. 프롬프트 인젝션 (Prompt Injection)
- 개념: 악의적인 입력을 통해 LLM의 가이드라인을 무력화하고 비정상 동작을 유도하는 공격 사용자가 질문 창에 특정 명령어를 삽입하여 모델의 시스템 프롬프트를 조작함으로써 보안 검사 우회나 개인정보 유출을 시도하는 보안 위협입니다.
- 핵심 키워드: LLM 보안, 탈옥(Jailbreak), 시스템 지침 우회, 간접 인젝션, 적대적 입력, 데이터 유출, 보안 필터링.
13. 모델 전도 공격 (Model Inversion Attack)
- 개념: AI 모델의 출력 결과값을 역추적하여 학습에 사용된 민감 정보를 복원하는 공격 공격자가 모델의 신뢰도 점수나 결과값을 반복적으로 분석하여, 학습 데이터(예: 안면 이미지, 개인 식별 정보)의 특징을 재구성해내는 프라이버시 침해 기술입니다.
- 핵심 키워드: 데이터 복원, 프라이버시 침해, 화이트박스/블랙박스 공격, 차분 프라이버시(DP), 적대적 학습, 학습 데이터 유출.
[참고 자료 및 리포트 링크]
- NIST AI RMF: NIST 공식 문서(AI 100-1)
- ISO/IEC 42001: NIA(한국지능정보사회진흥원) - AI 경영시스템 해설서
- SW 테일러링: KISA - 소프트웨어 개발 보안 가이드(테일러링 기준)
- TTPs: TTA(한국정보통신기술협회) - 사이버 위협 정보 공유 표준
반응형
댓글