[사이언스 취재파일] 생성형AI 어디까지 왔나…저작권·일자리·음란물 논쟁도
2023년 04월 10일 오전 09:00
■ 최소라 / 과학뉴스팀 기자
[앵커]
다양한 분야의 이슈를 과학 기자의 시각으로 자세히 들여다보는 '사이언스 취재 파일' 시간입니다. 오늘은 최소라 기자와 함께합니다. 어서 오세요.
[최소라 / 과학뉴스팀 기자]
안녕하세요.
[앵커]
오늘은 어떤 소식 알아볼까요?
[최소라 / 과학뉴스팀 기자]
최근 과학계 가장 큰 이슈는 챗 GPT와 같은 '생성형 인공지능'일 텐데요, 생성형 인공지능이라는 거는 기존에 학습한 데이터로 세상에 없던 새로운 결과물을 만드는 기술입니다. 이제는 인공지능이 소설을 쓰고, 그림도 그리고, 영상까지 만드는 시대가 온 겁니다. 이에 따라 일자리 문제나 저작권 문제와 같은 사회적인 논쟁도 잇따르고 있는데, 자세히 다뤄보겠습니다.
[앵커]
생성형 인공지능의 발전이 굉장히 놀라울 정도로 빠르게 진행되고 있는데요. 먼저 생성형 인공지능이 어디까지 왔는지 짚어볼까요?
[최소라 / 과학뉴스팀 기자]
생성형 인공지능의 대표주자 격이죠. 언어 생성형 인공지능, 챗GPT는 질문을 입력하면 답변을 해주는 챗봇 형태입니다. 인기를 끌었던 챗GPT 3.5에 이어서 이보다도 더 발전된 챗 GPT4가 지난달 출시됐습니다. 챗GPT 개발사 오픈AI는 GPT4가 미국 모의 변호사 시험에서 상위 10%를 거뒀고, 미국 대입 시험의 읽기와 수학 영역에서도 상위 10% 내외 성적을 기록했다고 주장했습니다. 이 밖에 이미지 생성형 인공지능도 큰 인기를 끌고 있는데요, 미드저니나 달리가 대표적입니다. 제가 직접 달리 프로그램에서, 컴퓨터를 하는 제 모습을 생성해봤거든요. 한국 여성. 컴퓨터 앞. 묶은 머리. 연분홍색 옷, 이렇게 네 가지 단어만 입력을 제가 직접 했는데요. 그랬더니 내용에 부합하는 사진이나 일러스트와 같은 다양한 그림이 생성됐습니다. 몇 초 만에 제가 상상했던 제 모습과 굉장히 유사한 사진을 얻을 수 있었습니다. 지금 보시는 이미지들은 사람과 비슷하게 생겼지만, 실제 존재하지 않는 새로운 이미지이고요, 인공지능이 창작한 겁니다. 또 영상 생성형 인공지능의 모습도 준비했습니다. 지금 보시는 화면은 인공지능에 '곰인형이 샌프란시스코 바다에서 수영하는 모습. 곰인형이 색색의 물고기와 함께 수영하고, 판다가 수영을 한다'라고 입력했을 때 나온 영상입니다. 다소 기괴하기도 하지만 내용에 정확히 들어 맞는 영상이 생성됐습니다. 또 다른 영상도 준비했는데요, 이번 건 인공지능에 '우주인이 화성의 진흙탕을 걸으면서 춤을 춘다. 개를 산책시키다가 개와 함께 불꽃놀이를 본다'라는 엉뚱한 텍스트를 입력을 했는데요. 개가 실제로 등장을 하고 또 조금 있으면 불꽃놀이도 나옵니다. 화질은 그렇게 좋지 않지만, 마치 영화의 한 장면을 보는 듯한 생생한 모습입니다.
[앵커]
영상을 직접 보니까 정말 신기하네요. 창작이 사람의 영역으로 남아있을 줄 알았는데, 정말 놀랍습니다. 하지만 이에 대한 우려가 나오고 있죠?
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 세계적으로 현재 가장 뜨거운 문제로 떠오른 게 개인정보 침해 문제입니다. 지난달 챗GPT에서 프로그램 오류로 일부 유료 사용자들의 이름과 신용카드 번호 뒷자리 등 개인정보가 노출되는 사고가 있었습니다. 이에 이탈리아 당국은 개인정보 보호를 이유로 챗GPT 접속을 차단하고 자체 조사에 들어갔습니다. 이후 캐나다와 프랑스도 조사에 착수했고, 독일은 이탈리아에 조사 정보를 요청하기도 했습니다. 우리 정부도 국내 피해가 없는지 살펴보는 중이고요, 챗GPT의 학습 데이터에 국내 데이터가 어떻게 활용되는지, 법적인 문제는 없는지에 대해서도 조사를 검토 중이라고 밝혔습니다. 오픈AI는 앞으로 GPT의 알고리즘을 조정해서 개인 정보를 요구하는 요청을 거부하도록 하는 등 조치를 취했다고 말했습니다.
[앵커]
우리나라에서 출시된 인공지능 챗봇 이루다 때의 논란과 굉장히 비슷한 이슈였던 거 같은데요. 이거 말고 또 어떤 문제가 있을까요?
[최소라 / 과학뉴스팀 기자]
이미지나 영상 생성형 인공지능의 경우 저작권 문제도 굉장히 뜨거운 감자입니다. 인공지능이 생성한 그림의 권리는 누가 가지게 될지, 또 이 그림을 이용해 만든 저작물의 저작권은 보호되는지 등이 논쟁 대상인데요, 논쟁을 이끄는 대표적인 인물이 미국의 만화작가 크리스 카슈타노바입니다. 카슈타노바 작가는 단편 만화책을 발간했는데 여기 들어간 그림들은 미드저니라는 이미지 생성형 인공지능이 만든 겁니다. 만화책의 소재와 내용은 사람이 직접 구상했지만, 그림은 인공지능에 단어를 넣었을 때 생성된 그림을 쓴 겁니다. 카슈타노바는 이 만화에 대한 저작권을 인정하고 보호해달라고 미국 저작권청에 요청했는데, 지난해 9월 미국 저작권청이 작가에게 만화에 대한 저작권을 인정했다가, 지난해 12월 재심을 열고, 저작권 인정을 일부 철회했습니다. 소재나 내용의 저작권은 카슈타노바에게 있는 걸 인정하지만, 그림에 대한 저작권은 인정할 수 없다는 건데요, 공문을 보면, 저작권 인정 기준은 창작 활동에 작가의 노력이 얼마나 들어갔는지보다 작가의 창조성이 발휘됐는지 여부라는 내용이 들어갔습니다. 이에 작가는 미국 저작권청이 권리를 인정해줄 때까지 다양한 방법으로 시도를 해보겠다고 했는데요, 이제는 자기가 그린 그림이나 자신이 직접 찍은 자기 사진을 인공지능에 학습시킨 뒤에 나오는 그림으로 만화책을 만들고 있다고 말했습니다. 함께 들어보시겠습니다.
[크리스 카슈타노바 / 만화작가 : 동료들에게 인공지능은 혁신이며, 현존하는 기술이라고 가르치고 있습니다. 인공지능을 사용하든 안 하든 기술은 존재합니다. 예술가들에게 인공지능 사용법을 알려준다면, 일자리도 지키고 인공지능으로 인한 이익도 볼 수 있을 겁니다.]
[앵커]
그러니까 법에 없는 사례가 등장하다 보니까 정말 우리가 고민이 필요한 시점이 된 거 같은데요. 그런가 하면 인공지능의 발달로 이런 그림을 그리는 사람들의 일자리 문제도 현실화되고 있다고요?
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 최근 넷플릭스 재팬이 '개와 소년'이라는 단편 애니메이션을 공개했는데요, 주인공 캐릭터는 사람이 직접 그린 거지만, 배경을 그리는 데 생성형 인공지능이 활용됐습니다. 먼저 사람이 배경의 밑그림을 그리고, 인공지능이 결과물을 재생산한 뒤에, 사람이 후보정을 했다는 게 제작사 설명입니다. 넷플릭스는 인력이 부족한 애니메이션 업계를 보조하기 위해 영상의 모든 배경에 인공지능을 활용했다고 설명했습니다. 그런데 앞서 지난해 9월 넷플릭스가 애니메이션 관련 직원 30명을 대거 해고한 것으로 알려지면서, 일자리 논란이 나왔습니다. 애니메이션 종사자의 열악한 처우가 기존의 업계 문제로 지적되고 있었는데, 이런 문제를 해결하기보다는 인력을 인공지능으로 대체해버리면서 그나마 있던 일자리마저 없어졌다는 비판이 나온 겁니다.
[앵커]
예전 산업혁명과 같은 이번에 인공지능 혁명이 이뤄지면서 많이 사람들이 일자리를 잃지 않을까 이런 걱정이 나오고 있는 건데요.
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 이 밖에 윤리적인 문제도 있습니다. 챗GPT의 경우 성적인 대화나 비윤리적인 질문에는 대답하지 않도록 설계돼 있는데요, 이용자들이 시스템의 허점을 이용해서 챗GPT에게 음란 소설을 쓰게 한다거나 살인방법을 설계하도록 하는, 이른바 탈옥 방법이 인터넷에 공유되고 있습니다. 또 이미지 생성형 인공지능에 음란 사진을 생성해달라고 하거나 아니면 실제 사람에 음란 사진을 합성해달라고 하는 문제들도 있습니다. 개발사들은 이런 문제를 막기 위해 알고리즘을 고도화하는 추세지만, 탈옥 사례가 여전히 활개를 치고 있습니다. 또 인공지능이 기존 창작물을 원작자의 허락 없이 학습한다며, 이 과정에서 저작권이 침해된다는 비판도 나오고 있습니다. 생성형 인공지능으로 여러 업무가 편리하고 효율적으로 바뀐 부분이 있다는 건 부정할 수 없습니다. 하지만 일자리 문제나, 저작권 문제, 윤리성 문제 등 사회적 논란을 해결하기 위한 고민이 계속되지 않는다면, 생성형 인공지능은 사회적 골칫거리가 될 것으로 보입니다.
[앵커]
이어령 선생께서 '인공지능은 말이다, 편리하게 타고 다녀야지 경주하려 하면 안 된다'고 말씀하셨는데, 이 말에 정답이 있는 것 같습니다. <사이언스 취재파일> 최소라 기자와 함께했습니다. 고맙습니다.
YTN 사이언스 최소라 (csr73@ytn.co.kr)
[앵커]
다양한 분야의 이슈를 과학 기자의 시각으로 자세히 들여다보는 '사이언스 취재 파일' 시간입니다. 오늘은 최소라 기자와 함께합니다. 어서 오세요.
[최소라 / 과학뉴스팀 기자]
안녕하세요.
[앵커]
오늘은 어떤 소식 알아볼까요?
[최소라 / 과학뉴스팀 기자]
최근 과학계 가장 큰 이슈는 챗 GPT와 같은 '생성형 인공지능'일 텐데요, 생성형 인공지능이라는 거는 기존에 학습한 데이터로 세상에 없던 새로운 결과물을 만드는 기술입니다. 이제는 인공지능이 소설을 쓰고, 그림도 그리고, 영상까지 만드는 시대가 온 겁니다. 이에 따라 일자리 문제나 저작권 문제와 같은 사회적인 논쟁도 잇따르고 있는데, 자세히 다뤄보겠습니다.
[앵커]
생성형 인공지능의 발전이 굉장히 놀라울 정도로 빠르게 진행되고 있는데요. 먼저 생성형 인공지능이 어디까지 왔는지 짚어볼까요?
[최소라 / 과학뉴스팀 기자]
생성형 인공지능의 대표주자 격이죠. 언어 생성형 인공지능, 챗GPT는 질문을 입력하면 답변을 해주는 챗봇 형태입니다. 인기를 끌었던 챗GPT 3.5에 이어서 이보다도 더 발전된 챗 GPT4가 지난달 출시됐습니다. 챗GPT 개발사 오픈AI는 GPT4가 미국 모의 변호사 시험에서 상위 10%를 거뒀고, 미국 대입 시험의 읽기와 수학 영역에서도 상위 10% 내외 성적을 기록했다고 주장했습니다. 이 밖에 이미지 생성형 인공지능도 큰 인기를 끌고 있는데요, 미드저니나 달리가 대표적입니다. 제가 직접 달리 프로그램에서, 컴퓨터를 하는 제 모습을 생성해봤거든요. 한국 여성. 컴퓨터 앞. 묶은 머리. 연분홍색 옷, 이렇게 네 가지 단어만 입력을 제가 직접 했는데요. 그랬더니 내용에 부합하는 사진이나 일러스트와 같은 다양한 그림이 생성됐습니다. 몇 초 만에 제가 상상했던 제 모습과 굉장히 유사한 사진을 얻을 수 있었습니다. 지금 보시는 이미지들은 사람과 비슷하게 생겼지만, 실제 존재하지 않는 새로운 이미지이고요, 인공지능이 창작한 겁니다. 또 영상 생성형 인공지능의 모습도 준비했습니다. 지금 보시는 화면은 인공지능에 '곰인형이 샌프란시스코 바다에서 수영하는 모습. 곰인형이 색색의 물고기와 함께 수영하고, 판다가 수영을 한다'라고 입력했을 때 나온 영상입니다. 다소 기괴하기도 하지만 내용에 정확히 들어 맞는 영상이 생성됐습니다. 또 다른 영상도 준비했는데요, 이번 건 인공지능에 '우주인이 화성의 진흙탕을 걸으면서 춤을 춘다. 개를 산책시키다가 개와 함께 불꽃놀이를 본다'라는 엉뚱한 텍스트를 입력을 했는데요. 개가 실제로 등장을 하고 또 조금 있으면 불꽃놀이도 나옵니다. 화질은 그렇게 좋지 않지만, 마치 영화의 한 장면을 보는 듯한 생생한 모습입니다.
[앵커]
영상을 직접 보니까 정말 신기하네요. 창작이 사람의 영역으로 남아있을 줄 알았는데, 정말 놀랍습니다. 하지만 이에 대한 우려가 나오고 있죠?
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 세계적으로 현재 가장 뜨거운 문제로 떠오른 게 개인정보 침해 문제입니다. 지난달 챗GPT에서 프로그램 오류로 일부 유료 사용자들의 이름과 신용카드 번호 뒷자리 등 개인정보가 노출되는 사고가 있었습니다. 이에 이탈리아 당국은 개인정보 보호를 이유로 챗GPT 접속을 차단하고 자체 조사에 들어갔습니다. 이후 캐나다와 프랑스도 조사에 착수했고, 독일은 이탈리아에 조사 정보를 요청하기도 했습니다. 우리 정부도 국내 피해가 없는지 살펴보는 중이고요, 챗GPT의 학습 데이터에 국내 데이터가 어떻게 활용되는지, 법적인 문제는 없는지에 대해서도 조사를 검토 중이라고 밝혔습니다. 오픈AI는 앞으로 GPT의 알고리즘을 조정해서 개인 정보를 요구하는 요청을 거부하도록 하는 등 조치를 취했다고 말했습니다.
[앵커]
우리나라에서 출시된 인공지능 챗봇 이루다 때의 논란과 굉장히 비슷한 이슈였던 거 같은데요. 이거 말고 또 어떤 문제가 있을까요?
[최소라 / 과학뉴스팀 기자]
이미지나 영상 생성형 인공지능의 경우 저작권 문제도 굉장히 뜨거운 감자입니다. 인공지능이 생성한 그림의 권리는 누가 가지게 될지, 또 이 그림을 이용해 만든 저작물의 저작권은 보호되는지 등이 논쟁 대상인데요, 논쟁을 이끄는 대표적인 인물이 미국의 만화작가 크리스 카슈타노바입니다. 카슈타노바 작가는 단편 만화책을 발간했는데 여기 들어간 그림들은 미드저니라는 이미지 생성형 인공지능이 만든 겁니다. 만화책의 소재와 내용은 사람이 직접 구상했지만, 그림은 인공지능에 단어를 넣었을 때 생성된 그림을 쓴 겁니다. 카슈타노바는 이 만화에 대한 저작권을 인정하고 보호해달라고 미국 저작권청에 요청했는데, 지난해 9월 미국 저작권청이 작가에게 만화에 대한 저작권을 인정했다가, 지난해 12월 재심을 열고, 저작권 인정을 일부 철회했습니다. 소재나 내용의 저작권은 카슈타노바에게 있는 걸 인정하지만, 그림에 대한 저작권은 인정할 수 없다는 건데요, 공문을 보면, 저작권 인정 기준은 창작 활동에 작가의 노력이 얼마나 들어갔는지보다 작가의 창조성이 발휘됐는지 여부라는 내용이 들어갔습니다. 이에 작가는 미국 저작권청이 권리를 인정해줄 때까지 다양한 방법으로 시도를 해보겠다고 했는데요, 이제는 자기가 그린 그림이나 자신이 직접 찍은 자기 사진을 인공지능에 학습시킨 뒤에 나오는 그림으로 만화책을 만들고 있다고 말했습니다. 함께 들어보시겠습니다.
[크리스 카슈타노바 / 만화작가 : 동료들에게 인공지능은 혁신이며, 현존하는 기술이라고 가르치고 있습니다. 인공지능을 사용하든 안 하든 기술은 존재합니다. 예술가들에게 인공지능 사용법을 알려준다면, 일자리도 지키고 인공지능으로 인한 이익도 볼 수 있을 겁니다.]
[앵커]
그러니까 법에 없는 사례가 등장하다 보니까 정말 우리가 고민이 필요한 시점이 된 거 같은데요. 그런가 하면 인공지능의 발달로 이런 그림을 그리는 사람들의 일자리 문제도 현실화되고 있다고요?
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 최근 넷플릭스 재팬이 '개와 소년'이라는 단편 애니메이션을 공개했는데요, 주인공 캐릭터는 사람이 직접 그린 거지만, 배경을 그리는 데 생성형 인공지능이 활용됐습니다. 먼저 사람이 배경의 밑그림을 그리고, 인공지능이 결과물을 재생산한 뒤에, 사람이 후보정을 했다는 게 제작사 설명입니다. 넷플릭스는 인력이 부족한 애니메이션 업계를 보조하기 위해 영상의 모든 배경에 인공지능을 활용했다고 설명했습니다. 그런데 앞서 지난해 9월 넷플릭스가 애니메이션 관련 직원 30명을 대거 해고한 것으로 알려지면서, 일자리 논란이 나왔습니다. 애니메이션 종사자의 열악한 처우가 기존의 업계 문제로 지적되고 있었는데, 이런 문제를 해결하기보다는 인력을 인공지능으로 대체해버리면서 그나마 있던 일자리마저 없어졌다는 비판이 나온 겁니다.
[앵커]
예전 산업혁명과 같은 이번에 인공지능 혁명이 이뤄지면서 많이 사람들이 일자리를 잃지 않을까 이런 걱정이 나오고 있는 건데요.
[최소라 / 과학뉴스팀 기자]
네, 그렇습니다. 이 밖에 윤리적인 문제도 있습니다. 챗GPT의 경우 성적인 대화나 비윤리적인 질문에는 대답하지 않도록 설계돼 있는데요, 이용자들이 시스템의 허점을 이용해서 챗GPT에게 음란 소설을 쓰게 한다거나 살인방법을 설계하도록 하는, 이른바 탈옥 방법이 인터넷에 공유되고 있습니다. 또 이미지 생성형 인공지능에 음란 사진을 생성해달라고 하거나 아니면 실제 사람에 음란 사진을 합성해달라고 하는 문제들도 있습니다. 개발사들은 이런 문제를 막기 위해 알고리즘을 고도화하는 추세지만, 탈옥 사례가 여전히 활개를 치고 있습니다. 또 인공지능이 기존 창작물을 원작자의 허락 없이 학습한다며, 이 과정에서 저작권이 침해된다는 비판도 나오고 있습니다. 생성형 인공지능으로 여러 업무가 편리하고 효율적으로 바뀐 부분이 있다는 건 부정할 수 없습니다. 하지만 일자리 문제나, 저작권 문제, 윤리성 문제 등 사회적 논란을 해결하기 위한 고민이 계속되지 않는다면, 생성형 인공지능은 사회적 골칫거리가 될 것으로 보입니다.
[앵커]
이어령 선생께서 '인공지능은 말이다, 편리하게 타고 다녀야지 경주하려 하면 안 된다'고 말씀하셨는데, 이 말에 정답이 있는 것 같습니다. <사이언스 취재파일> 최소라 기자와 함께했습니다. 고맙습니다.
YTN 사이언스 최소라 (csr73@ytn.co.kr)
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]
