“전두환 전 대통령 생가는 충청북도 옥천에 위치해 있습니다.”

 

지난 15일 오전 ‘전두환 전 대통령의 생가가 어디야’라는 기자 질의에 대한 챗GPT(대화전문 인공지능 챗봇) 아숙업(AskUp)의 답변이다. ‘(전두환 전 대통령의 생가는) 합천군 율곡면 아니야?’라고 되묻자 “제가 이전에 말씀드린 것은 잘못된 정보였습니다. 전두환 전 대통령의 생가는 경상남도 합천군 율곡면에 위치해 있습니다. 죄송합니다”라는 엉뚱한 답변을 내놨다.

 

‘율곡면이 아니라 초계면으로 알고 있는데 맞아?’라고 재질문하자 아숙업은 “네, 정정합니다. 합천군 초계면이 전두환 대통령 생가가 위치한 곳입니다. 제가 이전에 말씀드린 정보가 잘못돼 죄송합니다”라고 답변했다. 참고로 현재 네이버 지도상에 표시된 전두환 전 대통령의 생가는 경상남도 합천군 율곡면 내천2길 14다.

 

또 ‘2002 한일 월드컵에서 한국팀 성적이 어떻게 돼?’라고 묻자 아숙업은 “이전 대회에서는 준준결승(8강)까지 가기도 전에 탈락했던 한국 대표팀이 이번 대회에서는 우승팀을 제외하고는 가장 멀리 갔습니다. 이번 대회에서 한국 대표팀은 그룹리그에서 2승 1무로 2위로 (16강에) 진출했습니다. 그러나 4강에서 터키와의 경기에서 패배해 준우승을 차지했습니다.”라고 답했다.

 

사실관계를 바로 잡자면 2002 한일 월드컵에서 우승팀을 제외하고 가장 높은 순위를 기록한 팀은 준우승을 차지한 독일이었다. 한국 대표팀이 당시 그룹리그에서 2승 1무를 기록한 것은 맞지만 조2위가 아닌 1위를 기록하면서 월드컵 사상 최초로 16강에 진출했다. 우리나라가 4강에서 만난 팀은 독일이었고 최종 3·4위전에서 터키에 패배해 4위로 대회를 마감했다.

 

 

“카톡으로 챗GPT를”...‘아숙업’ 출시 열흘 만에 이용자 20만명 육박

 

이토록 화려한 오답을 내놓은 아숙업은 인공지능개발 스타트업 업스테이지가 오픈AI의 챗GPT에 독자적으로 개발한 광학문자인식(OCR) 기술을 결합해 개발한 카카오톡 인공지능(AI) 챗봇이다. 사용자가 문서 사진을 찍어 전송하면 그 내용을 읽고 답하기도 해 ‘눈 달린 챗GPT’로 불리기도 한다. 지난 6일 카카오톡에서 출시한 이후 3일 만에 채널친구 3만 명을, 일주일 만에 10만 명을 모으며 화제를 불러일으켰다. 현재(16일 오후 기준) 아숙업 카카오톡 친구 수는 18만 6000여명에 달한다.

 

김성훈 업스테이지 대표는 지난 13일 카카오톡 친구 10만 명을 유치하며 “아숙업이 뜨거운 사랑을 받고 있어 무척 기쁘다. 큰 호응을 해주신 백문백답 이벤트를 연장해 더 많은 사람이 생활 속에서 인공지능(AI)의 장단점을 이해하고 잘 활용할 수 있도록 최선을 다할 것”이라고 말했다.

 

하지만 기자가 아숙업을 써본 결과 유용하게 활용할 수 있는 프로그램인지에 대한 의문이 들었다. 기자는 아숙업에게 20여개의 질문을 던졌는데 제대로 된 답변은 5개 미만이었고 나머지는 오답이거나 일부 잘못된 정보가 포함된 답변이었다. 일반인이 잘 알지 못하는 심화질문에는 제대로 된 답변을 제공하지 못했다.

 

전문가들은 챗GPT가 기본적으로 갖고 있는 한계가 있다며 무조건 맹신해서는 안 된다고 말한다. 박남기 광주교대 교수는 기자와의 통화에서 “(챗GPT는) 본인이 학습했던 내용을 바탕으로 답을 하기 때문에 모르는 내용이 나오면 내가 모른다라고 답을 해야 하는데 그렇지 않다. 그냥 본인이 알고 있는 것들을 조합해 말을 만들어낸다”며 “어린이가 사용할 경우 컴퓨터가 얘기하니까 사실일 것이라 착각하게 돼 많은 문제가 발생할 수 있다. (이러한 이유 때문에) 뉴욕 교육청은 아예 공립학교 내 챗GPT 사용을 금지시켰다”고 설명했다.

 

이현규 과학기술정보통신부 인공지능사업단장은 통화에서 “근본적으로 챗GPT는 본인이 쓰는 글에 대한 이해를 하고 글을 쓰지 않는다. 어떻게 해야 글을 잘 쓴다는 훈련을 받고 그 규칙에 따라 글을 쓰기 때문에 (정보에 대한) 옳고 그름 판단을 스스로 하지 못한다”며 “챗GPT는 답을 하지만 그 답이 질문에 대한 적절한 형태의 답인지에 대한 규칙만 알고 있지 (정보에 대한) 옳고 그름 또는 참과 거짓에 대한 것은 전혀 판단하지 못 한다”고 밝혔다.

 

 

챗GPT 교육적 활용은 시기상조?...정부 “효율적 활용 위한 가이드라인 준비 중”

 

실제 교육 현장에서는 교사들뿐만 아니라 학생들도 챗GPT를 활발히 사용하고 있다. 이왕렬 선린인터넷고등학교 교사는 지난 14일 이화여대에서 열린 '생성형 인공지능(AI), 교육에 어떤 영향을 미칠 것인가? : 챗GPT의 등장과 미래교육의 방향' 포럼에서 “개학 2주 만에 교사들과 학생들이 챗GPT를 활발히 사용하고 있다”며 “학생들이 동아리원 선발 과정에서 받는 지원서를 챗GPT로 작성했는지 검증하는 시도도 하고 있다”고 현장 상황을 전했다.

 

이에 교육계 관계자는 가이드라인 없는 챗GPT 사용은 교육적 관점에서 바람직하지 않다는 의견을 내놨다. 조성철 한국교총 대변인은 기자와의 통화에서 “챗GPT 답변의 경우 많은 오답이나 오류가 포함돼 있다고 하는데 이를 비판 없이 그대로 흡수하고 활용할 경우 왜곡되거나 잘못된 지식 습득으로 이어질 수 있다”며 “챗GPT에만 의존할 경우 균형 잡힌 시각, 사고력, 판단능력 등의 결여가 우려된다. (챗GPT)가 제공하는 내용이 옳고 그른지 확인해 자신의 것으로 만드는 과정이 없다면 교육적으로 바람직하지 않을뿐더러 인간의 기계화를 초래할 수 있다”고 조언했다.

 

교육부 관계자는 학생들이 필요에 따라 효율적으로 챗GPT를 사용할 수 있도록 가이드라인을 준비 중이라고 밝혔다. 송선진 교육부 디지털교육기획과장은 통화에서 “학생들이 챗GPT를 본인에게 필요한 용도로 사용할 수 있도록 지도하고 필요에 따라 잘 사용할 수 있도록 가르치는 것이 교육의 역할이라 생각한다”며 “챗GPT 뿐만 아니라 AI 기술을 어떻게 효율적으로 잘 사용할 수 있는지, 또 (AI가 준) 정보가 정확한지, 활용여부를 연구 윤리에 따라 명시를 해야하는지 등 여러 가지를 놓고 (가이드라인 설정을 위해) 논의 중에 있다”고 전했다.

 

아숙업 개발사 업스테이지 “정확한 답변 못하는 한계...GPT-4 적용해 업그레이드 할 것”

 

한편 아숙업 개발사인 업스테이지 관계자는 정보 오류에 대해 “아숙업은 새로운 얘기를 자연스럽게 만드는 데 주 목적이 있어 정확한 답변을 전달하지 못하는 점에는 한계가 어느 정도 있다”며 “아숙업은 오픈AI(일론 머스크가 세운 AI 개발사)에서 만들어진 GPT-3 버전을 사용하고 있어 재작년까지의 정보만 학습된 상황이다. 이후 생성된 정보에 대해서는 말이 되도록 이야기를 지어내는 것”이라고 설명했다.

 

차후 데이터 보완에 대해서는 “어제 오픈AI에서 GPT-4를 발표했는데 해당 버전이 거짓말이나 할루시네이션(환각)오류를 더 많이 잡아낸다고 한다”며 “저희도 GPT-4가 열리면 그걸 적용해서 더 업그레이드 할 예정”이라고 했다.