공공부문 AI 챗봇의 책임은 무한하다

정부와 지자체를 포함한 공공부문 AI 챗봇이 제공하는 정보와 답변의 정확성과 다양성을 아무리 강조해도 부족하지 않다. AI 챗봇이 거짓말쟁이가 되거나 듣기 좋은 답변만 해대는 ‘아첨꾼’이 되어서는 안된다. 정보의 편향성에 대한 검증 없이 밑도 끝도 없는 편견과 오해를 불러일으키는 불안한 폭탄이 되어서도 안된다. 기업이나 민간에서 활용하는 AI 챗봇의 위험성도 문제지만, 공공부문 AI 챗봇의 실패는 더 치명적인 사회적 손상을 초래한다.

 

2023년 10월, 미국 뉴욕시(New York City)가 운영에 들어간 ‘MyCity’ 챗봇의 사례를 보자. 에릭 애덤스(Eric Adams) 뉴욕시장은 뉴욕시의 AI 전략에 포함된 40여 개의 실행계획 중 하나로 ‘마이시티’ 챗봇을 내놓았다. 뉴욕시의 중소기업이나 사업자에게 빠르고 신뢰할 수 있는 정보를 제공해 이들의 의사결정이나 협력 관계 구축에 도움을 주겠다는 취지였다. 또 시민들에게는 주택, 병원, 식당, 학교, 공공서비스, 취·창업, 법률 등 일상생활에 필요한 중요 정보들을 제공해 생활 편의성을 제고하고자 했다.

 

하지만 기대를 받았던 ‘마이시티’는 이내 곧 의심과 비판의 대상이 되었다. 잘못된 정보를 제공하거나 사업자들의 중요한 질문에 반복적으로 부정확한 답변을 내놓으며 원성을 샀다. 심지어 불법 행위를 옹호하거나 조장하는 답변까지 내놓았다. 시민들의 비판 목소리가 높아지자 “베타 제품 챗봇이니 부정확하거나 불완전한 답변을 제공할 수 있다”는 안내문을 내거는 수법으로 책임을 회피했을 뿐만 아니라 “챗봇의 답변을 법률 또는 전문적인 조언으로 사용하거나 챗봇에 민감한 정보를 제공하지 말라"며 챗봇의 존재 자체를 스스로 부정하기까지 했다. 에릭 애덤스 뉴욕시장이 “한 세대에 한 번 나올까 말까 한 서비스”로 추켜세웠던 챗봇은 기본적인 질문에도 답을 못하거나 일관성 없는 전혀 다른 대답을 내놓기도 했다.

 

이제 공공이든 민간이든 너나 할 것 없이 AI 챗봇을 개발·활용하고 있다. 이용자들의 기대치를 높이고 성능을 과시하는 경쟁이 치열해진다. 이젠 챗봇에서 대답을 구하고 타인과의 대화보다 AI 챗봇과 대화하는 것을 더 편하게 느끼는 시대가 되었다. AI 챗봇은 단순한 기술이나 서비스가 아니라 사람보다 뛰어난 사람이자 다른 사람들보다 더 다정한 친구라고 느끼는 사람들이 늘어나고 있다. 갈수록 AI 챗봇에 대한 의존도와 믿음은 커질 것이다. 인간을 닮는 것에 머무르지 않고 인간을 뛰어넘고자 하는 AI 챗봇은 수없이 많은 오류와 실수, 편견과 차별, 편향성과 극단성, 조작과 범죄 확장성을 내재하고 있음에도 불구하고 이를 망각하거나 인간보다 완전한 존재라는 믿음이 퍼져나간다.

 

공공부문에서부터 AI 챗봇의 문제점들을 숨기지 말고 공개해야 할 때이다. AI 챗봇의 운영 실태와 직면하고 있는 문제들을 평가하고 대책들을 찾아야 한다. 공공부문 AI 챗봇이 노출하고 있는 문제들을 쉬쉬하거나 방치했을 때, 공공부문에 대한 시민들의 신뢰와 기대에 비례해 피해 또한 커질 수 밖에 없다. AI 챗봇에 대한 공개적인 평가와 감시, 문제점들에 대한 지속적인 공론장의 형성은 정부가 우선해야 할 과제이다. 강조하건대, 공공부문 AI 챗봇의 책임은 무한하다.