생성형 인공지능에 대응하여 CISO와 CTO가 해야하는 일

뉴스 제목 : 생성형 인공지능 시대에 CISO와 CTO가 해야만 하는 일 3가지

언론사 : 보안뉴스

게시일 : 2024-03-10

URL : https://m.boannews.com/html/detail.html?mtype=2&tab_type=D&idx=127485

생성형 인공지능 시대에 CISO와 CTO가 해야만 하는 일 3가지

---

[ 기사 요약 ]

최근 몇 년 동안 생성형 인공지능과 같은 최첨단 기술이 대중의 관심을 끌었다. 1년 전만 해도 '생성형 인공지능'이라는 단어조차 생성했던 걸 생각하면 어마어마한 속도의 발전이라고 할 수 있다. 각종 편리를 제공하는 만큼 생성형 인공지능에는 리스크가 따라붙는다. 데이터 보안과 개인정보 유출의 위험이다. 인공지능의 데이터 보안 문제는, 사용자가 입력하는 내용과 인공지능이 출력하는 내용이 인공지능의 학습에 지속적으로 활용되기 때문이다. 그래서 챗봇에 기업의 기밀 데이터를 공유하면 정보가 모델에 통합되며, 다음 사용자들에게 그 정보가 공개될 수 있다. 그래서 기업의 대부분 CISO와 CTO에게 이러한 문제를 완화시킬 것을 요구하고 있다.

1. 전사교육 : 허용 가능한 사용자 정책을 수립하고, 안전한 생성형 인공지능 사용법을 개발하여 임직원들에게 알리는 것이 중요하다.

2. 소스코드 저장소 격리 및 보호 : 소스코드나 각종 리포지터리에 대한 접근을 아무나 할 수 없도록 처음부터 제어해야 하고, 그런 정보들은 아무나 긁어갈 수 없도록 해야 한다.

3. 사용자 선택 옵션 제공 : CISO와 CTO는 인공지능에 대한 기술적 이해도를 바탕으로 사용자가 어떤 부분에서 직접 선택을 해도 되며, 그렇게 해야하는 지를 결정할 수 있다.

 

[ 개인 의견 ]

나도 프로젝트를 하면서 ChatGPT와 같은 생성형 인공지능을 사용해 본 적이 있다. 처음에는 내 질문에 대해 정확하게 답변을 해주진 못하지만 내가 말해주는 정보가 많아지면 많아질 수록 내가 원하는 답변을 내놓는다. 즉, 기업 혹은 공공기관에서 생성형 인공지능을 사용하여 자신의 원하는 정보를 알기 위해선 그 단체의 정보를 많이 입력해줘야한다. 하지만 이것은 데이터 유출로 이어지기에 그냥...제일 편하게 생각해서 소스코드나 각종 리포지터리를 긁어가서 설명해줘라기보다 나 무언갈 만들고 싶은데 그러한 소스코드를 제공해줘라고 한 뒤 회사의 코드와 비교해보며 사용하는게 베스트이지 않을까...? 사실 스스로가 개발하고 보안하고하면 너무 좋긴한데....멘토님들이 말씀해주신대로 좋은거 있는데 안쓰는건 바보지 대신 옳은 정보인지 아닌지 판단하고 나의 코드를 긁어가서 설명을 바라기보다는 나의 의견을 가져가서 나오는 코드와 내 코드를 비교해보는게 제일 좋지않을까한다.