[뉴스웍스=채윤정 기자] 지난 12월 초 국회 정치개혁특별위원회는 여야 합의로 인공지능(AI)를 이용한 '딥페이크 선거운동‘을 금지하는 법안을 처리했다. 선거 90일 전부터는 AI 딥페이크 영상을 이용한 선거운동을 전면 금지하는 것이 골자다. 또 선거 90일 전이라도 딥페이크 영상을 선거운동에 활용할 때에는 반드시 AI로 만든 가상 정보라는 점을 유권자들이 명확히 알 수 있도록 표기하도록 했다.

최근 생성형 AI 기술이 급속히 발달하면서 AI를 통해 누구나 손쉽게 만들어 낼 수 있는 '가짜뉴스', '허위정보'가 사회적 문제가 되고 있는데, 내년 총선을 앞두고 여야가 정치 분야에서도 선제적으로 대응하기로 한 것이다.

지난 4월 세계적인 석학인 유발하라리 히브리대 교수는 국내 한 언론사와의 인터뷰에서 이렇게 말했다. "소설미디어 알고리즘이 사회를 양극화하고 분노·증오·공포를 퍼뜨리는데 우리는 그걸 규제할 시점을 놓쳤다. 소셜미디어보다 훨씬 강력한 AI는 인간의 언어를 사용하기 때문에 아이들과도 친밀한 관계를 맺을 수 있고, 친밀함을 통해 물건을 사게 할 수도, 정치적·종교적 관점을 갖게 할 수도 있다"고 경고했다.

우리는 이미 각종 소셜미디어 알고리즘에 의해 원하든 원하지 않든 제품을 추천받고, 콘텐츠에 노출되고, 정보를 주입받는다. 그러한 과정 속에서 나도 모르게 물건을 사게 되고, 대상에 대한 호불호가 생기고, 특정 신념이나 가치관이 생기게 된다. 이른바 '필터버블(Filter Bubble)'이라는 개념인데, 소셜미디어 알고리즘이 나도 모르는 사이 인간의 행동과 사고를 조종한다는 것이다.

하지만 AI는 여기에 그치지 않고 '친밀함'을 무기로 인간과 '직접' 소통하면서 인간의 행동과 사고를 더욱 자연스럽고 자발적으로 조종할 수 있다. 이것이 우리가 정치와 선거 분야에서 AI의 사용과 활용을 더욱 유의해야 하는 이유다.

지난 12월 1일 브라질의 도시 포르투 알레그레에서는 한 의원이 한 달 전부터 시행되고 있는 조례가 챗GPT에 의해 만들어진 조례라고 밝혀 논란이 된 바 있다. 문제는 해당 의원이 챗GPT가 제시해 준 답변을 전혀 변경하지 않은 채로 안건을 통과시켜 시행되고 있다는 사실이다.

조례는 시민들의 삶, 곧 인간의 삶에 큰 영향을 미치는 정책인데, 이러한 중요한 정책을 인간이 아닌 AI가 만들어 그대로 적용하고 실행한다는 점은 분명 문제가 있다. 이렇게 되면 인간에 의해 정치가 이루어지는 것이 아니라, AI에 의해 정치가 이루어지게 된다.

정치는 반드시 '인간'이 해야 하고 '인간'에 의해 이루어져야 한다. 비단 정치만이 아니라, 인간의 생명·신체·정신·재산 등 인간 삶에 큰 영향을 미칠 수 있는 분야에서는 모두 ’인간‘만이 의사결정의 주체가 되어야 한다.

물론 AI의 도움으로 정책안·연설문·판결문·채점표·생활기록부 등의 초안은 얼마든지 만들 수는 있다. 하지만 이러한 분야에서의 AI는 보조적인 도구로써 이용해야지, 최종적인 결과물은 반드시 인간의 책임으로 자신의 글과 의견과 평가가 담긴 결과물로써 완성하고 시행해야 한다.

AI는 절대 인간을 조종하고 통제해서는 안 된다. 인간이 AI를 통제하고 이용해야 한다. AI는 인간이 필요에 의해 만들어 낸 인간의 편익과 행복을 위한 도구에 불과하다는 점을 다시금 되새길 필요가 있다.