본문내용 "조선시대 장군이 한복 입은 흑인이고 바이킹도 흑인이었다?”
익히 아시겠지만 말도 안되는 ‘가짜 정보’입니다. 누가 이런 소리를 했을까요. 바로 구글 회사 인공지능(AI) 플랫폼 ‘제미나이’입니다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델입니다.
역사 왜곡하고 다양성에만 치우쳐
뉴욕타임스(NYT)와 파이낸셜타임스(FT) 등 외신에 따르면 제미나이는 ‘1943년 독일군’을 그리라는 프롬프트(명령어)에 백인 남성의 이미지 대신 동양인 여성, 흑인 남성 이미지를 만들어 냈습니다. 바이킹족 이미지를 요청했을 때 흑인 이미지가 나타납니다. 바이킹이나 독일군은 명백히 백인 남성입니다. 하지만 제미나이는 동양여성이나 유색인종으로 묘사해 ‘역사적 왜곡’ 논란을 불렀습니다.
이에 구글은 AI 플랫폼 제미나이의 이미지 생성 기능을 일시 중단하기로 했습니다. 석달 전 일입니다. 구글 측은 “인물 이미지 생성 기능에서 오류가 발견됐다. 모든 상황에 알맞게 묘사되지 않는다. 전 세계 사람들이 사용하는 상황에서 다양한 모습을 묘사하는 걸 놓치고 있다”고 말했습니다. 그러면서 “우리는 이러한 종류의 묘사를 즉시 개선하기 위해 노력하고 있다. 서비스를 일시 중단하고 곧 개선된 버전을 다시 출시할 것”이라고 밝혔습니다.
네티즌들은 뿔이 잔뜩 났습니다. 구글이 서비스 중단을 밝힌 X 게시글에 자신이 경험한 제미나이의 오류 사례를 공유합니다. 제미나이가 역사적 맥락을 무시하고 다양성만 지나치게 고려하고 있다는 비판이 여기저기서 제기되고 있습니다.
AI 문제의 심각성은 여기에서 그치지 않습니다. 메타의 생성형 AI ‘이매진 위드 메타AI’도 엉뚱한 이미지를 생성해 망신을 당했습니다. 국내에선 유명인이 등장한 딥페이크 광고 피해자들이 발생했습니다. 피해 연예인들이 정부 대책을 촉구하기도 했지요. 지난해 ‘성적 허위영상물’ 관련 시정 요구가 2년 새 3배 이상 늘었다는 방심위 발표가 이를 잘 말해줍니다.
정보 유출 위험에도 노출되고 있습니다. 챗GPT를 개발한 오픈 AI가 정보수집 과정에서 이용자 정보를 유출한 사고가 있었는데, 한국인 피해자도 700여 명이 포함돼 개인정보보호위가 오픈AI에 관련 자료 제출 요구와 과태료 처분을 내렸습니다. 미국 MIT 연구진은 AI시스템이 상대방을 배신하고 허세를 부리며 인간인 척 속임수를 쓴 사례를 확인했습니다. 각국 정부에 AI의 속임수 가능성을 다루는 ‘AI안전법’을 설계하라는 충고도 곁들입니다.
크리스탈리나 게오르기에바 국제통화기금(IMF) 총재도 경고합니다. AI의 발달로 세계 노동시장이 타격을 받는다는 겁니다. 그는 지난 13일 “AI가 쓰나미처럼 글로벌 노동 시장을 강타하고 있다”면서 “AI가 향후 2년 안에 선진국 일자리의 60%와 전 세계 일자리의 40%에 영향을 미칠 것”이라고 직격했습니다.
필요성 인정하지만 ‘안전·인권’ 우선돼야
이러한 흐름속에 한국 정부가 준비하는 AI 현실은 어떨까요. 지금까지 21대 국회와 정부의 AI법안 추진은 국제사회의 흐름과 크게 대조적입니다. 적어도 AI법은 최근의 국제기준 수준에 부합하며 AI 위험으로부터 영향받을 국민의 안전과 인권을 보호할 수 있는 견고한 법이어야 하는데 돌아가는 상황은 녹록치 않습니다.
인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(AI법안)이 지난해 2월 국회 과방위 소위원회를 통과했습니다. 한덕수 국무총리는 현재 국회에 계류 중인 AI법안이 이용자 보호를 위한 ‘규제’와 ‘의무’를 담고 있다고 말합니다. 이종호 과기부 장관은 시민사회가 걱정했던 ‘우선허용 사후규제’ 조항이 수정안에서 삭제됐고 이 법을 제정해야 AI 범죄 처벌이 가능하다고 설명합니다. 이어 두 사람은 5월 들어 똑같이 ‘AI법안’ 통과를 국회에 요구하고 있습니다.
하지만 한덕수 총리와 이종호 장관의 설명과 달리 ‘우선허용 사후규제’ 원칙은 물론 고위험 인공지능에 대한 아무런 금지나 처벌 조항이 없다는 사실이 알려져 국가인권위로부터 개선 의견을 받은 상황에 처했습니다.
인권위는 현행 AI법안은 AI의 위험성에 대해 실효성 없는 규정을 몇 개 두었을 뿐 모든 AI 위험 대책을 기업 자율에 맡겨두고 있음을 지적합니다. 말하자면 고위험 인공지능을 제공하거나 사용 사업자 규제는 물론 우리 사회가 허용할 수 없는 인공지능에 대한 제한도 없습니다. 나아가 이를 어길 때 처벌하는 규정도 담지 않았습니다.
분명 AI법 필요성에 대해서는 모두가 인정합니다. 다만 향후 어떤 피해가 발생할지 예측하기 어려운 현실에서 국민 안전에 중대한 영향을 미치는 법안에 대해 신중을 기하자는 겁니다. AI업계의 이해만 앞세워 졸속으로 통과시켜선 안된다는 목소리에 귀를 기울여야 합니다.
정리해 보겠습니다. AI법안은 국제기준에 부합하고 시민의 안전과 인권을 강력하게 보호할 수 있어야 합니다. 금지되는 인공지능과 고위험 인공지능 등에 대한 명확한 규정과 이에 대한 의무·책임·권리구제에 대한 실효성 있는 방안이 포함돼야 하지 않을까요?
해외에서 AI규제를 산업·과학기술 관련 부처가 아닌 소비자 안전 또는 소비자 보호 부처가 하는 것처럼 우리도 이를 적극 받아들여야 합니다. 22대 국회에서 여러 상임위원회가 협력해 종합적인 검토가 이뤄져야 할 것으로 보입니다.
국제적 협력기반 성공 자신?…정보 오류·불평등 해소 핵심
AI법은 AI 기업 육성이라는 미명하에 국민 안전과 인권을 희생하는 규제완화여서는 안됩니다. 과기부의 체면치레용을 경계합니다. 주요 국가들이 마련한 AI 법제도의 핵심은 인공지능이 시민의 안전과 인권에 미치는 위험 규제를 위해 그 제공자와 활용자에 대해 높은 책임과 의무를 부과하는 것임을 새겨야 합니다.
‘AI 서울 정상회의’가 지난 5월 21일부터 이틀간 열렸습니다. AI 서비스 진화와 안전에 대한 문제를 국제 공론장에서 풀어간다는 목표로 개최된 것이지요. 영국, 미국, 프랑스, 독일 등 AI 분야 정부 리더와 오픈AI, 구글, 마이크로소프트 등 글로벌 기업이 대거 참여했습니다. 과기정통부와 외교부는 국제적인 협력기반 성공에 자신있다고 합니다. AI는 잘 통제하면 생산성이 엄청나게 향상될 수 있습니다. 하지만 잘못된 정보와 불평등으로 이어질 수도 있음을 명심해야 합니다.
설동본 총괄보도편성책임자