인공지능 리포지터리 공격, 깃허브랑 비슷하지 않아요?

언론사 : 보안뉴스

뉴스 제목 : 공급망 공격이 인공지능과 만난다면? 인공지능 리포지터리 비상

게시일 : 2024-03-19

URL : https://m.boannews.com/html/detail.html?idx=127895

공급망 공격이 인공지능과 만난다면? 인공지능 리포지터리 비상

---

[ 기사 요약 ]

머신러닝 모델들의 활발한 개발과 공유를 위해 리포지터리 플랫폼들이 하나 둘 활성화되고 있으며, 앞으로는 더 많은 플랫폼들이 활성화 될 가능성이 높다. 여기서 문제는 코드 리포지터리나 컨테이너 이미지 허브 등 IT 공유 플랫폼들을 노리는 데 도가 튼 공격자들이 인공지능 플랫폼들까지 넘기보 시작했다는 것이다.

이러한 머신러닝 모델 공유 플랫폼 자체에도 보안 장치들이 적용되어있어, 민감한 정보나 기밀, 악성 코드나 취약점이 있으면 최대한 걸러낸다. 다만 플랫폼의 보안 장치만 믿어서는 반드시 뚫린다는 것을 기억해야 한다.

드롭박스(Dropbox)는 머신러닝 플랫폼을 통해 멀웨어를 확산시키는 방법을 선보였다. 기존 오픈소스 리포지터리들을 공격하는 것과 본질적으로 크게 다르지 않으며, 그렇기에 의지만 있으면 충분히 막을 수 있다고 말하였다.

머신러닝 플랫폼에 효과적으로 사용될 수 있는 공격방식

1. 유명 브랜드 사칭

→ 공격자가 유명 브랜드를 사칭해 이름 공간을 미리 등록하거나 확보해둔 뒤, 모델을 업로드하면 사용자 대부분은 공격자가 유명브랜드인 줄 알고 크게 확인하지 않고 사용한다.

2. 타이포스쿼팅

→ 정상적인 모델의 이름을 본따 악성 모델을 만든 뒤, 그 이름을 약간만 바꾸는 것

→ 해당 모델을 검색햇을 때 오타를 내면 공격자의 악성 모델이 검색되도록 유도

3. 인공지능 모델에 멀웨어 포함

→ 특정 인공지능 모델들을 다운로드 받아 실행시키면 멀웨어가 로딩되도록 제작

→ '보안 업체 제이프로그(JFrog)'에서는 피해자의 시스템을 장악하는 기능을 가진 악성 코드를 발견하였었음 : 파이썬 코드가 실행되도록 하는 파이선 기반 멀웨어

 

[ 개인 의견 ]

예전에 깃허브에서 공격자들이 행하는 공격행위들과 비슷하다는 생각을 해보면서 글을 읽은 것 같다. 그러다보니 머신러닝 모델을 공유하는 것이나 코드를 공유하는 것이나 어쨋든 무언가를 공유하고 사용자는 그 것을 공유받아 사용한다는 큰 틀이 같기에 공격의 행동을 같을 것이라고 판단하였다.

새로운 것이라고 새로운 보안 방법만을 생각하는 것이 아닌 이와 비슷한 상황, 문제점을 찾아 대입해보거나 그것을 이용하여 응용하는 보안 방법을 찾는 것도 좋을 듯 하다.

https://positive-index.tistory.com/403

개발자들! 깃허브 악성 프로젝트 조심!

---

[ 용어 정리 ]

 

타이포스쿼팅

- URL 하이재킹이라고 불리는 사회공학적 기법 중 하나

- 유명 사이트와 유사한 도메인을 미리 선점해 광고 사이트로 만들어두고, 인터넷 사용자의 실수를 유발하여 해당 사이트로 이동하게 만드는 수법

 ex. naver.com(정상) → never.com(공격자)

(https://m.blog.naver.com/pentamkt/222380915754)