설명 가능한 인공지능 '캐주얼 인공지능'

언론사 : 보안 뉴스

뉴스 제목 : [주말판] 어쩌면 많은 불만감을 해소시켜 줄 ‘캐주얼 인공지능’

게시일 : 2024-03-23

URL : https://m.boannews.com/html/detail.html?mtype=2&tab_type=D&idx=127484

[주말판] 어쩌면 많은 불만감을 해소시켜 줄 ‘캐주얼 인공지능’

---

[ 기사 요약 ]

인고지능 분야에서의 지금 '성배' 취급 받는 것이 하나 있으니 바로 '설명 가능한 인공지능'이다. 인공지능이 발전하면서 인공지능이 어떤 결과물을 냈을 때, 그 결과물을 어떤 논리의 과정을 거쳐 냈느냐에 대한 궁금증이 커지고있다. 이러한 요구로 인해 '캐주얼 인공지능(Casual AI)'가 주목받고 있다. 캐주얼 인공지능은 인공지능이 왜 그런 결론에 도달했는지를 설명할 수 있는 유일한 인공지능 모델이다. 대형 언어 모델의 강점이 인간이 이해 가능한 언어를 사용하는 것이라면 캐주얼 인공지능의 강점은 인간의 이해력으로 이해한다는 것이다.

인공지능의 '사고 과정'을 알 수 없기에 결론에 이르는 과정을 전혀 평가하거나 감사할 수 없다라는 점은 아직 인공지능을 온전히 신뢰할 수 없다는 평가가 나오는 이유이며, 이러한 특성을 '블랙박스'라고 말한다. 이러한 '블랙박스' 특성을 극복하기 위해선 인과 추론 이론을 접목시킨 기술과 각종 그래픽 모델을 활용해서 각종 변수와의 관계를 가시적인 조직도로 그려낼 수 있어야 한다. 즉 매우 복잡한 일이며, 한 가지 변수가 변했을 때 다른 변수에 어떤 영향이 있을 수 있는지 설명하며 예측할 수 있는 모델이 만들어져야한다고 한다.

현재 인공지능은 사건의 이유나 전개 상황, 앞 뒤 맥락과 미래에 발생할 가능성 높은 것들을 고려하고 예측하지 못한다면, 인공지능을 통해 얻어낸 답은 과거를 지향할 수 밖에 없다. 이러한 부분에서 발생하는 한계를 극복하기 위해 고안된 것이 캐주얼 인공지능이다. 그렇기에 캐주얼 인공지능 모델을 사용할 때 인간의 개입이 많아질 수 밖에 없다는게 필드의 설명이다. 하지만 캐주얼 인공지능은 아직 초창기에서도 초창기에 있는 기술이다. 인간에게 자신의 논리를 설명할 수 있는 인공지능이 현장에 나타나려면 몇 년은 더 걸릴 수 밖에없다.

"생성형 인공지능처럼 혁신처럼 활용 사례가 나타난다면 캐주얼 인공지능도 갑작스럽게 대중화 될 있다. 설명 가능한 인공지능을 접하는 게 대단히 먼 미래의 일만은 아닐 것이다." - 인텔리버스의 창립자 '에드 와탈' -