기사 입력 : 2024-06-25 11:35

가트너가 발표한 ‘2024년 주요 전략기술 동향(Top Strategic Technology Trends 2024)’에서 가장 많이 언급된 단어가 AI와 플랫폼이다. 이는 사이버 보안 위협 측면에서도 공통된 사항이다. AI를 노리는 공격이 점차 활발해지고 있으며, 파급력을 높이기 위해 플랫폼을 타깃으로 공격하는 추세인 것.

금융보안원 침해위협분석팀 유영목 팀장 ‘2024 사이버보안 콘퍼런스 발표에서

AI를 Target으로 한 사이버위협 사례는

 

1) AI 모델 공유 플랫폼 공격 

   - AI 모델을 제공하는 공유 플랫폼을 악용하여 악성코드 유포

2) AI 취약점 공격 

   - AI 시스템 취약점 악용해 악성코드 실행 공격 방법 

3) 데이터 오염

   - 검색증강생성(RAG)과 같이 AI 모델이 참조하는 데이터 오염을 통해 악성행위 유발

사이버위협 사례

1) 신분위장 : 딥페이크 기술 이용하거나 개인정보 수집을 통해 신분 위장

2) 피싱 콘텐츠 제작 : 생성형 AI를 이용 스피어피싱 이메일 문구 생성하여 이용자 피싱사이트유도

3) 악성코드 제작 : ChatGPT를 이용 랜섬웨어 제작 사례 

기사출처 :  AI 노리는 대표적 공격 3가지는? AI 모델 공유 플랫폼, AI 취약점, 데이터 오염 (boannews.com)