지난 17일 전 세계 인공지능(AI) 업계에 충격적인 소식이 들려왔다. 챗GPT를 개발한 오픈AI의 창업자이자 최고경영자(CEO)인 샘 알트먼이 오픈AI 이사회에 의해서 해고됐다. 

그리고 3일 뒤 샘 알트먼이 마이크로소프트사로 이직한다는 소식이 전해졌다. 그리고 지난 22일 결국 샘 알트먼은 다시 오픈AI에 복귀했다. 불과 5일 동안 AI 업계에 큰 충격을 준 해프닝이다.

당초 오픈AI가 샘 알트먼을 해고한 이유로는 ‘AI 윤리·안전성’에 대해 이사회와 샘 알트먼의 의견 차이가 지목됐다. 오픈AI에서는 해고 직후 블로그를 통해 “인류를 해치거나 권력을 과도하게 집중시키는 AI 또는 AGI(일반인공지능)를 활성화하는 것을 피하고, AGI를 안전하게 만드는 데 필요한 연구를 수행해야 한다”고 언급했다. 

샘 알트먼이 ‘AI 윤리·안전성’보다는 AI의 급격한 개발과 상업화를 추구한다는 점을 우회적으로 비판한 것이다.

물론 정확한 진실은 알 수 없으나, 현재 세계에서 제일 잘나가는 AI 기업인 오픈AI 내에서도 AI 윤리와 안전성에 대한 논란이 일어나고 있음이 드러났다. 이렇게 최근 들어 AI 윤리에 관한 이슈와 논의의 목소리가 더욱 커진 원인은 바로 '생성형 AI'의 발전 때문이다.

작년 말부터 '챗GPT' 등 생성형 AI 시대가 본격적으로 열리면서, 이제 AI는 개발자들의 전유물이 아니라 일반 대중들도 삶에 친숙히 사용할 수 있는 도구가 됐다. 하지만 사용자가 늘어남과 동시에 AI를 범죄에 악용하거나 저작권, 개인정보가 침해되는 등 윤리적, 법적 이슈도 함께 증가하고 있다.

지난 5월 22일 한 소셜미디어 서비스에 미국 국방부 건물에서 화염이 치솟는 사진 한 장이 게재되면서 전 세계에 급속히 확산됐다. 일부 해외 방송사에서는 제 2의 9.11테러가 미국에서 일어났다면서 긴급 속보로 타전했고, 미국 S&P500 주가지수가 하락하기도 했다. 하지만, 이 사진은 AI로 만든 가짜사진이었고 범인은 아직도 오리무중이다.

지난 4월에는 중국에서 한 업체 대표가 친구의 영상과 음성을 AI로 변조해 만든 가짜 영상통화에 속아서 8억여 원을 사기당한 사건이 일어났다. ‘AI 피싱’이라는 신종 범죄가 현실화한 것이다.  

생성형 AI 시대가 열리면서 이제 누구나 AI를 이용해 내 삶의 편의성과 생산성을 높일 수 있게 됐지만, 누구나 손쉽게 AI를 악용, 오용할 수 있는 여지도 커졌다. 생성형 AI 시대에 AI 기술 발달의 혜택은 누리면서 그 부작용과 윤리 문제들을 최소화하기 위해서는 어떻게 해야할까.

결론부터 말하면 결국 우리 모두의 중지를 모아야 한다. 한마디로 집단지성을 발휘해서 모두 함께 답을 찾아야 한다. 우리 인류는 AI라는 인간에게 막대한 영향을 미치는 신기술을 처음으로 경험하고 있고, 그 이면의 부작용, 역기능도 처음 겪고 있다. 현재는 AI를 어떻게 개발해야 할지, 어떻게 사용해야 할지에 대한 명확한 ‘정답’이 없는 상황이다.

그렇다면 우리 모두가, 인류 모두가 그 ‘정답’을 같이 찾아가야 한다. 그 출발점은 바로 문제 인식에서부터이며, 정확한 문제 인식을 위해서는 ‘교육’이 선행돼야 한다. AI 교육에는 AI 기술, AI 활용, AI 윤리 교육이 모두 병행돼야 한다, AI 기술과 윤리를 위한 새로운 법과 제도도 만들어야 한다.

"AI 기술이 맞다", "AI 윤리가 맞다"라는 2지선다가 아니라 우리 모두가 관심을 갖고 논의하고 합의해 정답을 찾아나가는 것이 맞다. 

◆전창배 이사장 프로필

(사)국제인공지능윤리협회 이사장

WECON PTE. LTD. 대표

한국지능정보사회진흥원(NIA) 디지털포용포럼 위원

저서: 인공지능 윤리 개론(2021) 공저