‘지브리 스타일’ AI 짤에 동의할 수 없는 이유.

[박권일 칼럼] 프롬프트 한 줄로 만드는 동의 없는 지식 강탈… 공유 자산이라고 공짜여서는 안 된다. (⏳4분)

오픈AI가 며칠 전 GPT-4o 기능을 업데이트하면서 갑자기 ‘지브리 스타일’ 이미지가 범람하고 있다. 나도 유행을 따라 잠깐 변환한 이미지를 페이스북에 올렸는데 조금 있다 삭제했다. 다음과 같은 이유에서다.

그동안 이들의 행태를 보면, 당연히 스튜디오 지브리의 동의도 없이 진행됐을 가능성이 크다.

스튜디오 지브리는 특별히 입장을 밝히지 않았지만 일본의 NHK는 “오픈AI가 이미지 생성 도구를 훈련시키기 위해 저작권이 있는 저작물을 무단으로 스크랩했을 수 있다는 우려가 있다”고 보도했다.

1년 3개월이 걸린 4초짜리 영상을.

다음은 관련한 논쟁을 정리한 것이다.

포브스는 “오픈AI가 판도라의 상자를 열었다”고 보도했다.
스튜디오 지브리 창업자인 미야자키 하야오는 일찌감치 2016년 인공지능 변환 이미지를 두고 “정말 역겹다”면서 “삶 자체에 대한 모욕이라고 강하게 느낀다”고 강한 거부감을 드러낸 바 있다. 오픈AI는 하야오의 의견이나 동의를 구하지 않았다.

샘 올트먼(오픈AI CEO)이 이런 글을 남겼다. “10년 동안 슈퍼 인공지능을 개발해 암을 치료하거나 다른 여러 가지 시도를 했는데 처음 7년 반은 아무도 관심을 두지 않았고 나머지 2년 반은 나를 미워했다. 그런데 어느 날 수백 개의 메시지가 쏟아지기 시작했다. ‘내가 너를 지브리 스타일로 만들었어’.”
404미디어는 “하야오가 오픈AI의 밈으로 전락했다”고 평가했다.

보그는 좀 더 심각한 지점을 짚었다. 스튜디오 지브리가 ‘바람이 분다’의 4초짜리 영상을 만드는 데 1년 3개월이 걸렸다. ‘원령 공주(모모노케 히메)’를 만들 때는 제작사가 135분을 90분으로 줄여달라고 요구했지만 거절했다. 결국 이 애니메이션은 134분으로 공개됐다.

보그는 “이 애니메이터의 끈질긴 완벽 추구는 ‘이키가이(소명을 찾아 끊임없이 실천한다)’와 ‘카이젠(큰 성과를 위해 작은 단계를 밟는다)’이라는 두 가지 철학과 연결될 수밖에 없다”면서 “우리 대부분은 야마모리(‘바람이 분다’ 감독)가 그 장면을 애니메이션으로 만드는 것을 즐겼던 것처럼 우리도 서로가 AI이미지를 좋아하기를 바랄 뿐”이라고 지적했다. 과연 그럴까.

심지어 ‘반지의 제왕’ 예고편을 통째로 지브리 스타일로 만든 영상이 떠돌아 다닌다. 많은 사람들이 이 영상을 보고 이런 생각을 한다. 애니메이션 만드는 사람들 다 죽었네.

조안나 마키에브스카(작가)가 이런 말을 했다. “나는 내가 예술과 글쓰기를 할 수 있도록 인공지능이 내 빨래와 설거지를 대신해 주기를 바라는 것이지, 내가 빨래와 설거지를 할 수 있도록 인공지능이 제 예술과 글쓰기를 대신해 주기를 바라는 것이 아니다.”

뒤늦게 오픈AI가 ‘지브리 스타일’ 프롬프트를 제한하고 무료 버전 도입을 미루기로 했지만 여전히 논란은 남는다.
조수 와이겐스버그(프리이어 캐시먼 파트너)는 AP와 인터뷰에서 “오픈AI가 스튜지오 지브리의 동의를 얻어 작품을 학습했는지 의문”이라고 말했다. “교육용이라면 문제가 없을 수 있지만 동의와 보상 없이 상업적인 용도로 이용한다면 문제가 될 수 있다”고 지적했다.
“3만 피트 높이에서 보면 그림체(스타일)는 저작권이 없다고 볼 수 있다. 하지만 사람들이 스타일이라고 할 때 실제로 생각하는 것은 예술 작품의 구체적이고 식별 가능한 개별적인 요소일 수 있다. 애니메이션의 정지 화면(캡처 이미지)도 당연히 식별 가능한 요소를 포함한다. 스타일은 보호받을 수 없다고 쉽게 말해서는 안 된다.”
실제로 AI 이미지 서비스 업체와 소송을 벌이는 아티스트들도 늘어나고 있다. 칼라 오티스(그래픽 아티스트)는 “그들이 어느 날 우리의 작품을 가져가서 수십만 달러 시장을 만드는 걸 봤지만 우리는 정작 한 푼도 배분받지 못했다”고 말했다.

공유 자산이 ‘공짜’와 다른 이유.

나는 기본적으로 저작권 개념을 무차별적으로 적용하는 데 회의적이다. 지식 노동자로서 나의 창작에 대해 그 대가를 받아야 한다고 생각한다. 이를테면 원고료 같은 것. 그것이 수십 년째 그대로인 상황에 분노하지만 그럼에도 내 글이 ‘순전히’ 나만의 창작이며 나의 소유물이라고 생각하지 않는다.

내가 한 글자 한 글자 직접 고민하며 써 내려간 한편의 글은, 오랫동안 인류가 함께 쌓아 올린 지식에 기반을 두고 있다. 요컨대 내 창작물에는 우리 종에게 무상으로 제공된 공유자산(commons)이 녹아들어 가 있다. 또한 그 글을 쓰기 위해 나는 먹고 싸야하므로 일정 정도 자연을 착취해야 했다. 단적으로 말해서 그 어떤 생산물도 온전히 개인의 소유물은 아니다. 이는 윤리적일 뿐 아니라 논리적인 결론이다.

다만 이러한 사실이 곧, 인공지능 업계가 무차별적으로 타인의 생산물을 데이터 수집에 활용해도 좋다는 것으로 해석되면 곤란하다. 인공지능 업계는 이른바 ‘지브리 스타일’ 이미지를 무상으로 제공하지만 궁극적으로는 그것으로 돈을 벌기 때문에, 현행 저작권 개념을 강하게 적용하면 자체로 불법이라고 할 수 있다.

소유권의 문제가 아니다: 공유 자산을 모욕하기 때문에 유죄다.

지브리의 창작물을 그대로 복사하는 게 아니라 스타일을 모방하는 것이라 해도 마찬가지다. 또한 ‘지브리 스타일’을 대량 복제하는 것이 인류의 지적 진보에 공헌한다거나 유용한 사회적 가치를 만들어낸다고 보기도 어렵다. 그냥 단편적 관심이나 ‘오, 제법 그럴듯한데’ 정도의 반응을 얻기 위해 이런 데이터 수집이 사용되고 있고, 그것은 무용한 정도를 넘어 해악적일 수 있다. 어떤 창작물의 고유한 스타일은 바로 그 고유함 때문에 가치 있는 것인데, 인공지능 업계가 무차별적으로 그 스타일을 양산한다면, 고유성은 희석되고 진부화(obsolescence)한다.

물론 인공지능이 지브리 스타일을 계속 ‘학습’해서 자신만의 고유한 스타일을 만들어낼 수도 있을 것이고, 이것을 ‘단독성’ 또는 ‘특이점(singularity)’이라 부를 사람도 있을 테다. 하지만 그 ‘학습’의 과정이 불법적이거나 비도덕적이라는 사실은 변함이 없다. 인공지능의 ‘학습’이 사실상의 강탈(dispossession)이라는 사실에 대해서는 이미 큰 우려와 연구들이 존재한다. 인공지능은 인류의 위대한 문화적 성취를 하찮은 목적을 위해, 그리고 오직 그 회사의 이윤을 위해 진부화한다. 그것은 개인의 소유권을 침해해서라기보다 인류의 공유자산, 커먼즈를 모욕하기 때문에 ‘유죄’다.

17 댓글

쪼아요

잘못됐다느니 옳지 않다느니 의미없는 담론으로 낭비되는 시간동안 세상은 더 변하고 기술은 발전한다. AI도 인간이 만들었으니 하나의 창작물이고 인류역사의 모든 것을 흡수해 새로운 지평을 열리라는 기대 속에서 인류는 자신을 모사한 피조물과 함께 미래로 나아갈 뿐이다. 세상 그 어떤 누가 하늘을 날았다고 욕을 했으며 달에 발자국을 남겼다고 욕을 했는가?

동의할 수 없으면 당신이 뭘 할 수 있죠?

아무것도 못하죠?

지브리스타일 좋아요. 근데 요즘 MANUS AI에 관심갖고 잇습니다.

윗글은 논점을 잘못 잡고 있음. 하늘과 달이 침범되었음에도 욕을 하지 않은 건 그게 자연물이고, 누구의 소유도 아니기 때문임. 게다가 새 기술과 발전의 지평을 여는 첫걸음이면 욕할 이유는 더 없음. 이 글에서의 문제는 공유자산을 모욕하는데에 초점을 두고 있으며
개인의 이익이 아닌 인류의 공유자산으로서의 그림체가 강탈당하는 것이 옳은 것인지에 대한 생각을 드러내고 있는것임.

하지만 도둑질이 손가락질 받은 건 유구한 역사 아닌가?

인간이 발명한 것은 과학기술 뿐만이 아니다. 사회 시스템도 인간이 발명하는 거고 그것은 어떤 사회가 올바른 사회인지에 대한 고뇌와 논의를 바탕으로 만들어지는 것이다.
거칠게 요약하자면 브레이크 없는 자동차는 위험하다는 것.

씨발 미야자키하야오마음알거같애서ㅈㄴ마음아픔

다들 세상은 발전하는 것이고 ai도 하나의 기술로써, ai가 누군가의 작품을 동의없이 수집하는 것이 사람들이 처음 그림을 배울 때 모작하는 것과 같은 수순이라고 말한다. 하지만 대체로 그런 말을 하는 사람 중 대게는 그로인해 그 지식재산권의 주인이 받는 피해는 생각하지 않는다. 기술은 중요하다. 하지만 사람을 짓밟고 발전하는 기술은 좀 더 깊이 생각해야할 부분이다. (나 역시 많의 ai의 도움으로 혜택을 받으며 산다. 앞 말을 곡해해 듣지 않았으면 한다. 단지 사람을 돕기위한 기술이니 그만큼 사람을 위한 틀 안에서 일어나야 한다는 것을 말하고자 했다.) ai가 더 발전하기 위해 사람의 창작물을 가져가는 것은 세상을 더 발전시키는 일이라고들 말한다. 하지만 그건 그 창작물의 주인이 동의 하에 일어나야 정당한 일이다. 그러한 창작물을 창출해내지 못하는 사람들, 제 3자가 그것은 당연히 일어나야 하는 일이다 라고 말하는 것은 당사자에게도 또다른 제 3자에게도 그닥 설득력이 없다. 우리는 ai가 너무나 인류가 감당할 수 없는 빠른속도로 발전해가며 벌어지는 문제들을 사려깊게 직시해야한다고 본다.

도둑질이라니깐 뭔 하늘이고 발자국이고 이상한 합리화를 하냐?

막을 수 없다는게 가장 동의할수 없는 부분..ㅎㅎ

그렇다. 인공지능과 로봇에 의해 변화하는 세상을 막을수는 없다. 우리는 미래를 향해 나아가야 한다. 그러나 그게 AI로 하여금 그동안 인류가 쌓아올린 가치를 훼손하고 엉망진창을 만들도록 방치해도 된다는 뜻은 아니다. AI에 의해서 많은 것이 변하고 있고 더 많은 것이 급변하게 될 것이다. 그래서 준비해야 한다. 사회적 합의를 통해 관련법규를 만들고 장기적으로 인간의 존엄성을 보호하는 방향으로 나아가야 한다. AI가 모든 것을 대체하는 시대에 인간이 추구해야 할 삶의 의미란 무엇이며 무엇을 지켜야 하는지에 대한 철학적 윤리적 고찰도 필요하다. AI는 인간 삶을 유익하게 만드는 도구로 쓰여야 한다. 그 반대는 아니다.

왜 확인되지 않은 정보를 사실인 것 처럼 전달하나요? 특히 미야자키 하야오를 인용하셨는데, 왜 저런 말을 하게 되었는지에 대한 맥락을 확인하지도 않으신것 같더군요. 제발 글은 신중하게 써주시길 부탁드립니다.

더 나은 세상으로 나아가는 과정에서 생기는 장애물이자 난관이자 갈등이지 않을까 싶습니다. 서로가 이해하며 나아가야하는 부분이죠. 지금은 작가들의 불만이 많지만 언젠가는 그들이 특혜를 누릴수있을것이라 봅니다. 기술이 그렇게될수있도록 더 발전해야하는것이고 지금은 배려 보다는 성장에 집중하고 있다고 봅니다