[뉴스웍스=채윤정 기자] 세계적인 열풍을 몰고 온 대화형 인공지능(AI) '챗GPT'가 등장하면서, 생성형 인공지능(AI) 개발이 본격화하고 있다.

무엇보다 세계적인 빅테크들이 AI 생태계 선점을 위한 경쟁을 시작했다. 

마이크로소프트(MS)는 챗 GPT 개발사인 오픈AI에 100억달러를 투자했으며, 검색엔진과 브라우저에 잇따라 생성형 AI를 탑재하고 나섰다. MS는 더 나아가 사무용 서비스에도 AI를 탑재해 생성형 AI 시장 선점을 서두르고 있다. 구글 역시 '구글 워크스페이스 앱'을 위한 생성형 AI를 발표하는 등, 생성형 AI를 활용한 서비스 경쟁이 뜨겁다. 

구글·메타 등 빅테크와 국내 대표 IT 기업들은 AI 언어모델의 API(응용프로그램 인터페이스)를 이용하는 방식으로 AI 사업 전략을 짜고 있다. API는 소프트웨어, 애플리케이션을 개발하는 프로그래머들을 위한 프로그램 인터페이스라고 볼 수 있다. 

국내 대표 포털인 네이버는 생성형 AI 기술을 활용한 본격적인 수익 창출에 나서고 있다. 생성형 AI를 적용한 B2B(기업 간 거래) 사업에 초점을 맞추고, 기업용 솔루션인 '클로바 스튜디오'와 '뉴로클라우드 포 하이퍼클로바X'를 공개했다. 

하지만, 생성형 AI의 확산으로 전에 볼 수 없었던 새로운 유형의 문제를 우리 사회가 맞닥뜨리게 된 것도 사실이다. 이에 각국 정부는 AI 산업을 어떻게 규제할지 고심하고 있다.

물론 대응 방향은 저마다 상이하다. 유럽은 AI에 대해 규제성을 강화하는 반면, 미국은 자국의 빅테크 움직임을 고려해 기업 자율성에 무게를 두는 흐름이었다. 그러나 유럽연합이 지난 6월 AI 법을 통과시키자, 미국 역시 규제의 필요성을 인지하면서 조 바이든 미국 대통령이 지난달 AI 개발 및 사용에 대한 행정명령에 서명했다. 

우리나라도 'AI 기본법'을 마련했지만, 아직 입법화되지 않아 시행은 요원한 상황이다. 

우리나라의 AI 기술 평가에서 AI 산업 수준은 62개국 중 종합 6위를 기록하는 것으로 평가되고 있다. 하지만, 관련 업계 전문가들은 AI 기본법이 조속히 통과·시행되어야만, 우리나라의 AI 기술이 더 발전할 수 있다고 목소리를 내고 있다.

뉴스웍스는 전창배 국제인공지능윤리협회 이사장을 만나, 국내 AI 산업의 현황과 문제점을 짚고 이에 대한 해결 방안을 물었다.

-생성형 AI의 대표적 문제로 단연 '할루시네이션(환각) 답변'이 꼽힌다. 현재 어느 정도 개선됐는가.

"할루시네이션 답변 문제는 개선 중이지만, 근본적인 해결은 아직 멀었다. GPT3.5에 비해 GPT4는 할루시네이션 문제가 40% 개선됐지만, 아직도 완벽하게 해결되지 않았다. 생성형 AI의 알고리즘 맹점이라 개선이 쉽지 않다. 알고리즘의 특성상 AI가 정확하게 답을 몰라도 사용자가 요청하면 지어내서라도 말을 해야 하므로 완벽한 해결이 힘든 게 사실이다. 

GPT3.5에 '신사임당'을 검색해 보니 '독립운동을 지원했다'라는 문구가 뜨더라. 역사를 공부한 사람들은 잘못된 사실로 알고 체크할 수 있지만, 역사를 전혀 모르는 청소년 등 학생들은 진짜인 것처럼 정보를 습득하고 잘못된 정보를 얻게 된다. 생성형 AI가 알려준 정보를 무조건 믿어서는 안 되며, 마지막에 꼭 팩트 체크를 해야 한다. 검색엔진을 통해 확인하는 게 매우 중요하다."

-저작권 문제도 중요한 것 같다. AI가 만든 음악·미술 작품의 저작권 인정 여부는 아직도 논란 아닌가

"미국에서 한 이용자가 AI 도구를 이용해 '새벽의 자리야'라는 만화를 그렸다. 이 이용자가 만화에 대해 저작권 등록을 하려 미국 저작권청에 신청하니, 저작권청은 해당 작품에 대해 '저작권을 부여하지 않겠다'는 입장을 밝혔다. 

AI 기반 이미지 생성기가 만든 저작권을 보호 대상으로 볼 수 없다는 것이다. 이는 전 세계가 똑같다. 아직까지는 저작권이 보호되는 주체는 사람이나 자연인, 법인의 콘텐츠만 보호하고 있다. AI가 만든 작품은 저작권법의 보호를 받을 수 없다. 우리나라에서도 특허청에서 이 문제를 연구하고 있다. 

그러나 AI가 만든 콘텐츠에 대해 어느 정도 저작권이나 특허를 인정해 줘야 한다고 생각한다. 한 이용자가 귀여운 고양이 그림을 구스타프 클림트 스타일에 16대 4의 비율로 그려줄 것을 AI에 주문했다고 생각해 보자. 각각의 항목을 아주 디테일하게 지정해 준 뒤에 AI 작업을 수십 번 반복하면서 작품을 만들었고, 그 과정에서 창의적 노력이 들어갔다면 저작권을 인정할 필요가 있다고 본다."

-생성형 AI를 범죄에 이용하거나, 명예훼손을 하는 경우도 많다고 한다. 악용 사례는 어떤 것이 있나

"생성형 AI는 학습을 위해 개인 블로그나 신문 기사, 전문서적, 대학 논문 등을 무작위로 수집해 학습시키게 된다. 대부분 원 저작자의 허락을 받지 않고 학습한 것으로 이 문제 때문에 소송이 발생하고 있다. 

최근에는 미국에서 한 이용자가 MS, 마이크로소프트, 오픈AI에 챗GPT 등이 소프트웨어를 개발하는 데 다른 사람들이 만든 코드를 불법적으로 사용했다'며 지적 재산 소송을 제기해 그 결과에 관심이 쏠리고 있다.

국내에서는 신문협회가 생성형 AI의 뉴스를 학습 데이터로 사용하는 것과 관련, 네이버·카카오·구글코리아·마이크로소프트 등 대형 IT 기업에 뉴스 이용에 대한 정당한 대가를 지급하고 보상 체계를 마련하라는 입장을 밝히기도 했다. 이는 AI 학습용 데이터로 기사를 활용하려면 언론사와 계약을 맺어야 한다는 입장으로, 앞으로 이런 소송 사례는 계속 늘어날 것이다.

최근 생성형 AI를 정치적으로 악용한 사례도 많아지고 있다. 2018년 멕시코 대통령이 선고를 앞두고 현 대통령으로부터 뇌물을 받았다는 가짜 딥페이크 음성이 유포됐고, 지난해에는 우크라이나 젤렌스키 대통령이 '항복한다'는 내용의 가짜 딥페이크 영상이 SNS에 유포되기도 했다.

또 올해 초 딥페이크를 이용한 사기 사례로 튀르키예 지진 때 SNS에 AI로 만든 가짜뉴스를 올려 기부금을 모집한 사기가 있었고, 지난 5월에는 미국 펜타곤에서 불길이 치솟는 AI로 만든 가짜뉴스를 올려 미국 S&P지수 주가가 0.5% 폭락한 사태가 발생하기도 했다."

-AI 활용의 확대로 AI 윤리가 필요하다는 목소리가 커지고 있다

"우리나라에서 지난 8월 40대 남성이 생성형 AI로 아동 성 착취물을 제작해 구속된 사건이 일어났다. 이 사건은 단순히 생성형 AI로 콘텐츠를 만들어도 범죄 행위가 될 수 있음을 알려준 중요한 사건이었다.

또 최근에 증가하고 있는 사례 중 생성형 AI로 딥페이크를 만들어 보이스피싱 사기 범죄에 악용하는 사례들이 증가하고 있다. 지난 4월 중국에서 사기꾼이 AI로 만든 딥페이크 영상통화로 한 기업 대표에게 8억여 원을 사기 친 사건이 발생했다.

이들 사례처럼 AI 기술이 대중화되고 누구나 활용할 수 있게 되면서 마음만 먹으면 AI를 사기나 성범죄에 악용할 수 있게 됐다. 따라서 AI 윤리는 더 이상 미룰 수 없는 상황이다. 하루속히 서둘러 AI 윤리가 반영된 제도와 정책을 만들어야 한다."

-정부가 지원하는 민간 AI 신뢰성 인증이 12월 국내 처음 도입된다고 한다. 제도 도입 시 AI 산업에 미치는 영향이 궁금하다

"AI의 신뢰성이 확보되면 소비자들이 신뢰성을 확보한 기업을 선택하는 기준이 될 수 있다. 소비자들 입장에서는 안전한 AI 제품과 서비스를 이용할 수 있게 되고, 기업들 입장에서는 소비자에게 선택받는 효과를 거두게 된다. 

하지만 고위험 AI 기술과 중저위험 AI 기술을 담당하는 주체를 달리할 필요가 있다. 고위험은 위험 요소가 큰 만큼 국가에서 담당하는 게 맞다. 국가가 철저하게 관리해야 한다. 중저위험은 위험도가 떨어지기 때문에 민간에서 맡는 기회를 줘야 한다고 생각한다."

-미국·EU·영국 등 세계 각국에서 AI 규제가 이뤄지고 있다. 우리는 어떤 정책을, 어떻게 추진하고 있나

"우리나라는 미국과 유럽의 중간으로 가는 방식을 택했다. 미국은 자율적으로 기업에 AI를 맡기려 하고, 유럽은 규제 중심으로 가고 있다. 우리나라에서 제정한 'AI 기본법(인공지능산업 진흥 및 신뢰 기반 조성 등에 관한 법률)'은 규제와 진흥을 조화롭게 섞어 만들어졌다. 바로 유럽의 법규와 미국의 AI 정책을 벤치마킹해 장점만을 따온 것이다.

이런 AI 기본법이 빨리 통과되어야 AI 정책을 제대로 이끌 건데, 아직 법이 통과되지 못하고 있다. 언제 이 법이 통과될지도 요원하다. 올해도 통과되지 못할 것 같은데, 정부 관계자들이 AI의 정책과 법, AI 산업이 나아가야 할 방향을 고민해 준다면 이 법이 빠르게 통과될 수 있을 것이다."

-정부가 초·중·고 AI 교육을 추진하고 있는데, AI를 가르칠 수 있는 선생님이 부족하다고 들었다.  AI 교육 현장의 문제점은 무엇인가 

"최근 유네스코에서 발간한 '전 세계 교육 분야에서의 기술' 보고서를 보면, 학생 대부분은 학교에서 디지털 기술을 훈련할 기회가 많지 않으며, 세계에서 가장 부유한 국가도 15세 학생 중 약 10% 만이 일주일에 한 시간 이상 수학과 과학에서 디지털 기기를 사용했다고 조사됐다.

또한 전 세계 많은 교사가 기술을 활용한 교육에 준비되어 있지 않거나, 자신감이 부족한 상태라고 한다. 실제로 교사의 ICT 역량 개발을 위한 기준을 마련한 국가는 전 세계의 절반에 불과하다.

이것은 우리나라에도 그대로 적용돼 2019년도부터 본격적으로 각 시도의 교육청에서 AI 교과서도 만들고 AI 수업도 진행하고 있으나, 실제 수업시간은 국·영·수 등 주요 과목 대비 매우 적은 시간만 할애돼 있는 형편이다. 

소프트정책연구소(SPRi)에 따르면 AI 교육이 포함된 한국의 초등학교 정보교육 시간은 17시간에 불과하다. 미국(캘리포니아주)은 100시간, 영국 204시간, 호주는 256시간에 달한다. 중학교의 경우에도 한국은 34시간에 불과한데, 영국 102시간, 이스라엘 110시간, 미국 135시간 등 100시간 이상을 쏟아붓고 있다. 우리보다 AI 기술력이 낮다고 여겨지는 일본도 55시간을 가르치고 있다.

AI 교육은 최소한 과학 과목과 같은 수준으로 격상시켜야 한다. 따라서 AI 과목을 독립된 교과목으로 격상시켜 수업 시수를 대폭 확대해야 한다.  수능에서도 선택과목으로 시험에서 선택할 수 있게 해야 하고, AI 과목을 선택한 학생들은 컴퓨터공학과나 AI 학과, 전자공학과 등 관련학과 입시에 가산점을 주는 방안도 필요하다.

AI 교과목을 하나의 독립된 교과목으로 구성하고 실제 교육의 비중을 강화한다면 AI 전문 교사의 양성과 채용에도 더욱 명분이 생길 것이며, 자연스럽게 AI 교과목을 전담하는 교사의 풀도 더 늘어날 것이다."