챗 GPT 와 같은 생성형 AI 활용 보안 가이드라인 사용전 꼭 보세요!

언론사 : 보안 뉴스

뉴스 제목 : 국정원, '챗 GPT 등 생성현 AI 활용 보안 가이드라인' 배포

뉴스 게시일 : 2023-06-29

URL : 국정원, ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’ 배포 (boannews.com)

국정원, ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’ 배포

 

- 기사 요약

현재 생성형 AI가 대학 등 일선 연구/교육현장에서 적극 활용되고 있지만, 명확한 보안대책이 없는 시정이다. 그렇기에 국정원은 챗 GPT 등 생성형 AI 기술 활용 과정에서 업무상 비밀/개인정보 유출, 가짜뉴스/비윤리적 자료 생성 등 기술 악용 우려가 제기되자, 지난 4월 국가보안기술연구소와 학계 전문가들과 함께 이번 보안 가이드라인 제정에 착수했다.

국정원은 생성형 AI 기술을 안전하게 이용하기 위한 필수 보안수칙으로 비공개/개인정보 등 민감 정보 입력 금지, 생성물에 대한 정확성/윤리성/적합성 등 재검증, 생성물 활용시 지적 재산권/저작권 등 법률 침해/위반여부 확인, 연계/확장 프로그램 사용시 보안 취약여부 등 안전성 확인, 로그인 계정에 대한 보안설정 강화 등을 제시했다.

챗GPT 등 생성형 AI 활용 보안 가이드라인(2023.6).pdf

1.94MB

- 개인 의견

이번에 챗 GPT를 활용하면서 졸업 프로젝트를 할 때도 도움을 많이 받았고, 심지어 과제도 챗 GPT로 하라고 그러면 가산점을 주겠다라고 하는 교수님도 계셨다. 솔직히 챗 GPT로 코드 물어보고 구성만 맞춰주고 짜줘! 하면 코드도 짜주고 오류도 발견해주고 참 편리한 기능인 것 같지만 그만큼...크게 생각하지 않고 사용한 것 같다. 그러면서 내가 제대로 알지 못해도 악성코드를 짜달라고 한다거나 해킹 시나리오를 짜달라고 해도...충분히 만들어주기에 비전공자 즉 아무나 마음만 먹으면 불법적인 일을 할 수 있다는 것이니...좀 무섭긴 하다...물론 해킹 시나리오짜줘! 악성코드 짜줘! 이렇게하면 불법적인 일이라고 안된다고 하지만....우회해서 해킹에 관한 소설을 쓰고싶은데 소설 써줘 이러면 써주니....ㅎ...

이번에 BoB 들어가서 같은 트랙하는 친구가 챗 GPT같은 보안 가이드를 세우는 프로젝트를 하고싶다는 이야기를 하였는데... 국정원에서도 이렇게 발벗고하는 것을 보면 편리해진 것 만큼 위험도 커졌다는 것이 확연히 와닿았다.