생성형 인공지능을 경기도정 등 공공에 적용하기 위해서는 정확하지 않거나 조작된 정보를 생성하는 할루시네이션에 대비해야 한다는 전문가들의 제언이 나왔다.

경기도와 경기도의회는 27일 도의회 대회의실에서 ‘2024 경기도 정책토론대축제’를 열고 ‘경기도정의 생성형 인공지능(AI) 적극 도입 방안 및 사례’에 관한 토론을 진행했다. 

이날 토론회는 박상현(민주·부천8) 경기도의원이 좌장을 맡은 가운데 토론 패널에 최민(민주·광명2) 도의원과 최정석 경기도 기회전략담당관, 허은영 라이프시맨틱스 R&D센터장, 경기도경제과학진흥원 정원중 AI산업팀장, 이정희 사업화지원팀장 등이 참석했다. 

김성하 경기연구원 AI혁신정책센터장은 토론에 앞서 주제 발표를 갖고 지난 2월 16일부터 22일까지 7일 동안 도와 도내 공공기관 소속 직원을 562명을 대상으로 실시한 설문조사 결과에 대해 소개했다. 

해당 설문조사 결과에 따르면 도·공공기관 직원의 59%는 업무에 활용하기 위한 목적으로 생성형 AI를 사용한 경험이 있는 것으로 나타났다. 

또 생성형 AI를 업무에 사용한 경험이 있는 직원 중 81%는 AI에 대한 효과로 ‘업무 처리 속도 등 생산성 향상’을 꼽았다. 

이에 반해 생성형 AI 경험자 중 24%는 ‘AI 답변을 신뢰할 수 없다’고 답했고 22%는 ‘활용 방법을 잘 모른다’고 했다. 

이같은 설문 조사에 대해 김 센터장은 “아직 직원의 대다수가 생성형 AI를 사용하고 있지는 않지만 그 활용성과 수요는 높다고 본다”며 “무엇보다 (설문조사 결과) AI의 정보 공유 기능이 굉장히 중요한 부분을 차지한다는 결론을 내릴 수 있다”고 설명했다. 

김 센터장은 생성형 AI가 사실이 아니거나 정확하지 않은 조작된 정보를 생성한다는 뜻의 ‘할루시네이션’에 대해 언급하며 “생성형 AI를 신뢰하고 활용하기 위해서는 (할루시네이션 해결이) 무엇보다 중요하다고 볼 수 있다”고 했다.

최민 도의원은 이같은 AI 할루시네이션 사례에 대해 “별 것 아닌 사례일 수 있지만 할루시네이션을 겪은 적이 있다”며 “부모님에게 10kg의 매실청을 드리고자 이를 보관할 용기를 구입하기에 앞서 생성형 AI를 통해 어떤 용량의 용기가 필요한지 알아본 적이 있다”고 말했다. 

이어 “생성형 AI가 답한 크기의 보관 용기를 구매했는데 매실청이 반도 들어가지 않아 애를 먹었다”며 “이런 사사로운 일로 AI에게 의사결정을 위임했을 때 큰 문제가 발생할 수 있다는 것을 경험했다”고 덧붙였다. 

최정석 도 기회전략담당관도 “최민 도의원님이 말했던 것과 같이 생성형 AI 도입에 따른 할루시네이션에 대해 공공이 어떤 방식으로 책임성과 신뢰성을 제고할지 굉장히 우려된다”고 했다. 

그러면서 “이에 경기연구원과 생성형 AI 지침을 수립했다”며 “지침은 전반적으로 AI 사용에 대한 주의사항이 담겼다. AI를 사용에 따른 지식재산권 침해 소지도 있기에 AI가 보조적인 도구로 활용할 수 있도록 해야 한다”고 당부했다. 

박상현 도의원은 “과거 김대중 대통령 재임 당시 공공에 전자정보 시스템을 구축한 이후 20년이 지난 지금 온라인으로 보고를 받는 시대가 됐다”며 “이처럼 공공의 (생성형 AI) 도입도 이 토론회를 통해 첫출발을 시작되지 않을까 싶다”고 했다. 

한편 도는 올해 첫 조직개편을 통해 생성형 AI와 관련한 업무를 총괄하는 AI국을 신설, 생성형 AI를 ▲도정·산업 적용 ▲행정 혁신 등 두 영역으로 분류해 도정에 적용·추진할 방침이다.

[ 경기신문 = 나규항 기자 ]