"때론 걸음마를 떼기 전에 뛰어야 할 때가 있는 거야."

영화 '아이언맨'의 주인공이 첫 비행의 실패를 걱정하는 인공지능(AI) 비서 '자비스'를 안심시킬 때 한 말이다. 감정이 없을 것 같은 AI가 인간과 친구처럼 소통하는 미래를 꿈꾸게 만든 명장면이다.

이 영화가 개봉한 뒤 15년이 지나서야 '챗GPT'의 등장으로 진정한 AI 시대의 막이 올랐다. 예상보다 오래 걸린 데 반해 확산 속도는 따라가지 못할 정도로 빨라 저작권 침해와 윤리 이슈 등 부작용이 쏟아져 나오고 있다.

이에 지난 8일 이성엽 AI윤리법제포럼 회장을 만나 AI가 우리 사회에 안착할 수 있는 해법을 물어봤다. 그는 지금의 AI가 향후 인간 고유의 영역까지 넘볼 수 있다고 경고했다.

챗GPT 일상화, 대학 과제까지

고려대 기술경영전문대학원 교수로 재직 중인 이성엽 회장은 챗GPT가 퍼진 캠퍼스를 보면 격세지감을 느낀다. 도서관을 정신없이 뒤지던 과거와 달리 학생들이 챗GPT로부터 얻은 답변을 속속 보고서에 인용하고 있어서다. 홈페이지에 들어가 간단한 정보만 입력해 가입하면, 친구와 채팅하듯 챗GPT에게 궁금한 것을 물어볼 수 있다.

이 회장은 "실제 저작권자가 누구인지도 모르는데, 챗GPT가 검색해 조합한 내용을 무단으로 인용하는 것은 표절에 해당할 수 있다"며 "각주에 질문한 내용과 접속 일시 등 정보를 표시하도록 하고, 팩트체크가 필요한 부분은 기사로 보완하도록 교육하고 있다"고 말했다.

이처럼 챗GPT를 학업에 활용하는 사례가 많아지면서 고려대는 국내 대학 최초로 생성형 AI 가이드라인까지 제정했다. 변화의 흐름에 맞춰 챗GPT와 가까워질 것을 권고하면서도 수업 성격에 따라 교수가 허용 여부를 결정하도록 했다.

이 회장도 생성형 AI의 필요성에는 적극 공감하고 있다.

오픈AI의 챗GPT는 출시 2개월 만에 월간 활성 이용자 수(MAU) 1억명을 달성하며 파란을 일으켰다.

이에 우리나라에서는 네이버와 카카오 등 플랫폼을 비롯해 이동통신 3사까지 추격의 고삐를 바짝 당겼다. 절대 놓치면 안 되는 미래 먹거리라는 점은 분명하다.

심지어 주도권을 잡은 오픈AI는 이달 중순 한층 더 진화한 '챗GPT 플러스'를 내놓으며 격차를 벌렸다. 처리할 수 있는 단어는 챗GPT보다 8배가량 늘었고, 미국 변호사 시험에서 상위 10%에 해당하는 점수를 따내는 압도적인 성능을 과시했다.

이 회장은 "자연어 생성 모델로 주어진 텍스트의 다음 단어를 예측하며 사람이 쓴 것과 같은 의미 있는 문장을 생성한다는 점이 큰 충격"이라며 "기존에는 검색 결과를 정리한 후 지식화하는 것에 머물렀다면, 이제는 지식을 직접 제공하고 있다는 점이 놀랍다"고 말했다.

저작권·데이터 안전 부작용 살펴봐야

하지만 국내 데이터·AI 분야에서 다양한 정책을 제안하며 시야를 넓혀온 그가 보기에 생성형 AI의 이면에는 풀어야 할 과제가 무수히 쌓여있다.

저작권 문제가 대표적이다. 미국 최대 이미지 플랫폼 게티이미지는 자사 소유 이미지를 무단으로 학습시켰다고 주장하며 이미지 생성 AI 개발사를 상대로 저작권 침해 소송을 제기하기도 했다. 그나마 이미지는 도용 여부를 금방 입증할 수 있지만 텍스트는 다르다. 

이 회장은 "AI가 대규모 데이터를 학습하다 저작권이 설정된 자료를 사용할 수도 있다"며 "원칙적으로는 저작권 침해가 될 수 있지만 너무 엄격한 법적 잣대를 대면 생성형 AI 개발 자체가 불가능하게 된다"고 말했다.

또 "우리나라는 저작권법에 AI 학습을 위한 저작물 복제·전송 규정을 넣는 방안을 논의 중"이라며 "AI가 사람의 1차원적인 도구가 아닌 창작적 기여를 하면 저작권 주체성을 인정할 수 있을지 고려할 수 있지만 아직은 시기상조"라고 했다.

저작권자의 정당한 이익을 보호하기 위해 생성형 AI 운영으로 발생한 이익을 배분하는 방법도 고민해 봐야 한다는 설명이다.

이처럼 AI가 단순노동을 넘어 창작이 가능한 수준으로 발전하면 인간의 삶이 윤택해지는 결과로 이어질 수 있지만 본질적인 문제에 직면할 수 있다는 우려도 조심스럽게 내놨다.

이 회장은 "간단한 정신노동이 챗GPT로 대체될 수 있다. 초반에는 사람이 검증·보완하는 절차를 거치겠지만 업무 효율성이 높아질 것"이라면서도 "인간의 창의성과 학습 능력이 저하될 가능성이 있고 신기술을 습득하는 환경에 따라 교육 격차가 발생할 수 있다"고 말했다.

저작권과 별개로 개인정보 보호 이슈에도 대비해야 한다.

AI가 대량의 데이터를 학습하는 과정에서 개인정보가 포함될 수 있다. 답변에 이것이 노출되면 개인정보 침해 사고로 이어진다.

다만 이성엽 회장은 "AI가 타깃 마케팅이나 식별을 목적으로 쓰는 게 아니라면 개인정보 보호 위험에 대한 책임을 면제하는 방안도 검토해야 한다. 양면성이 존재할 수밖에 없다"고 말했다.
 

"옳은 AI는 설명 가능한 AI"

다행히 AI 윤리 수준은 여성·장애인 비하 발언 등으로 시끄러웠던 챗봇 '이루다'의 사례 등을 거치며 성숙 단계에 진입했다는 평가다.

이 회장은 "AI 기술 자체는 선과 악을 내포하고 있지 않다. 옳은 AI는 공정하고 신뢰할 수 있는 설명 가능한 AI"라며 "작동 규칙인 알고리즘을 만드는 것도 결국 사람"이라고 했다.

이어 그는 "AI가 객관적이며 중립적일 것이라는 믿음은 허상"이라며 "법·윤리·공공성과 같은 사회적으로 합의된 가치 안에서 다양한 AI가 경쟁하게 될 텐데, 충분한 정보에 기반을 두고 비판적으로 평가·선택할 수 있는 소비자의 역량이 중요하다"고 말했다.

AI 개발자는 물론 제조자와 운용자, 이용자 모두 AI를 인간에게 유용하게 활용하려는 윤리의식을 가져야 한다고도 덧붙였다.

이렇듯 가능성만큼이나 셀 수 없는 불확실성이 존재하는 생성형 AI의 건강한 성장을 위해 출범한 것이 AI윤리법제포럼이다. 추상적인 논의가 아닌 현실적인 보호 장치를 마련하는 것이 목표다.

이 회장은 "정부에는 AI를 비롯한 디지털 전환 담당 대통령실 비서관도 없는 상황"이라며 "대통령이 의장이 되는 위원회처럼 강력한 실행력을 담보한 컨트롤타워가 절실하다"고 강조했다.

 
민관 파트너십으로 추격 발판

글로벌 빅테크를 추격하는 입장에 놓인 국내 기업들은 연합전선을 구축해 경쟁력을 확보해야 한다는 분석이다.

이 회장은 "세계 최고의 메모리 반도체 경쟁력을 토대로 AI 반도체 기술을 선점하고, 고성능·저전력 클라우드 데이터센터를 고도화하는 것이 우리가 앞서갈 수 있는 선택"이라며 "자본·기술·인력이 부족한 상황에서 기업 간 파트너십이 부족한 것은 아쉽다"고 했다. 정부·기업·학계가 모인 원팀을 하루빨리 구성해야 한다는 주문이다.

마지막으로 이 회장은 "구글이 전 세계 검색 시장을 독점하고 있는 상황에서 한국이 자국 검색 플랫폼을 가지고 있으면서 해외 진출을 모색하고 있는 것처럼, AI 분야에서도 독자적인 생태계가 구축되기를 기대한다"고 말했다.