AI를 통한 창작활동과 형사법적 문제:

甲은 전문회화작가는 아니지만, 드로잉 봇(Drawing Bot) 또는 ‘에이다’와⁶⁾ 같은 AI로봇을 이용하여 회화작품을 창작한 후, 생성형AI를 이용하여 창작하였다는 사실을 숨긴 채 자신의 이름으로 ‘회화 공모전’에 출품하여 입상하여 상금 100만원을 수령하였다.

甲은 전문회화작가는 아니지만, 근래에 생성형AI 프로그램을 이용한 미술작품 창작활동을 행하는 자이다. ○○시는 순수미술, 조형예술 등의 분야로 구성된 ‘미술 공모전’을 개최하였는데, ‘순수미술(fine art)’분야의 경우 응모요건에서 전통회화작품으로 한정된다는 명시적 요건이 없었다. 甲은‘순수미술 분야’에 AI프로그램 미드저니(Midjourney)를 이용해 만든 그림을 출품하였는데, 작품을 제출하면서, AI프로그램을 이용하여 창작한 작품이라는 사실을 고지 또는 표현하지 않았고, 심사위원들 또한 AI프로그램을 이용하여 생성한 작품이라는 사실을 몰랐다. 갑이 출품한 작품은 ‘순수미술’ 분야에서 1등으로 당선되었고, 갑은 상금 300만원을 지급받았다.

甲은 전문회화작가는 아니지만, 근래에 생성형AI 프로그램을 이용한 미술작품 창작활동을 행하는 자이다. ○○시는 순수미술, 조형예술 등의 분야로 구성된 ‘미술 공모전’을 개최하였는데, ‘순수미술(fine art)’분야의 경우 응모요건에서 ‘전통회화작품에 한정되지 않음’이라고 명시되었다. 甲은 ‘순수미술 분야’에 AI프로그램 미드저니(Midjourney)를 이용해 만든 그림을 ‘작품명, 甲 via Midjourney’라고 하여 출품하였다. 심사위원들은 “via Midjourney”이라는 문구를 통해 甲이 제출한 작품이 생성형AI 프로그램을 이용하여 창작한 작품이라는 사실을 알게되었지만, 해당 미술대전에서의 ‘순수미술 분야’는 전통회화작품에 한정되지는 않고, 디지털기술을 활용한 미술작품 또한 새로운 시대의 미술분야로 인정될 필요가 있다는 생각에 심사위원들이 합의하여 갑의 작품을 ‘순수미술 분야’ 1등작으로 선정하였고, 甲은 상금 300만원을 지급받았다.

무명 소설작가 甲은 생성형AI 프로그램을 접하게 되었고, 대략적인 시놉시스 및 각 상황에 대한 텍스트 명령어를 입력함으로써 생성형AI 프로그램이 생성한 작품에 조금의 수정만 가하는 방식으로 소설을 집필하였다. 甲은 OO출판사 신인상 공모전 ‘소설’분야에 생성형AI를 활용해 집필한 소설임을 밝히지 않고 공모전에 출품하여 소설분야 신인상에 당선되었고, 1천만원의 상금을 수령하였다. OO출판사는 출판계약을 체결하여 수상작을 출판하였는데, 출판 후에 甲의 소설 상당 부분이 알려지지 않은 무명 인터넷소설과 유사하다는 사실이 드러났다.

OO대학교 △△전공 박사과정생 甲은 박사논문의 주제, 세부 목차를 정한 후, 논문의 본문에 해당하는 각 세부목차의 내용 대부분을 Chat-GPT 등 생성형AI프로그램을 이용하여 획득한 텍스트에 조금만 수정을 가하는 방식으로 작성하고, 대부분 문단 위주로 관련 문헌 각주를 작성하여 논문을 완성하였다. 甲은 생성형AI를 활용하여 논문을 작성하였다는 사실을 고지하지 않은 채 논문을 제출하였고, 논문심사위원회는 큰 지적없이 논문을 통과시켰는데, 논문 출간 후에 甲이 생성형AI를 활용하여 논문을 작성하였다는 사실이 드러나고, 표절문제가 제기되었다.

사기죄는 사람을 기망하여 재물의 교부를 받거나 재산상 이익을 취득한 때에 성립한다. 판례에 의하면, 사기죄의 요건으로서의 기망은 “널리 재산상의 거래행위에 있어서 서로 지켜야 할 신의와 성실의 의무를 저버리는 모든 적극적 및 소극적 행위로서 사람으로 하여금 착오를 일으키게 하는 것”을 말하는데,⁸⁾ “사기죄의 실행행위로서의 기망은 반드시 법률행위의 중요 부분에 관한 허위표시임을 요하지 아니하고 상대방을 착오에 빠지게 하여 행위자가 희망하는 재산적 처분행위를 하도록 하기 위한 판단의 기초가 되는 사실에 관한 것이면 족한 것”이며,⁹⁾ 매매거래의 경우 “일반적으로 상품의 선전, 광고에 있어 다소의 과장, 허위가 수반되는 것은 그것이 일반 상거래의 관행과 신의칙에 비추어 시인될 수 있는 한 기망성이 결여된다 할 것이나 거래에 있어서 중요한 사항에 관하여 구체적 사실을 거래상의 신의성실의 의무에 비추어 비난받을 정도의 방법으로 허위로 고지한 경우에는 과장, 허위광고의 한계를 넘어 사기죄의 기망행위에 해당한다.”¹⁰⁾ 이러한 판례 태도를 종합하면, ‘사기죄 성립요건으로서의 기망행위’는 ‘반드시 법률행위의 중요 부분에 관하여 기망이 이루어지지 않았을지라도, 법률행위의 상대방이 재산적 처분행위를 하는데 판단의 기초가 되는 사실 또는 거래에 있어서 중요한 사항에 관하여 구체적 사실을 거래상의 신의성실의 원칙에 비추어 비난받을 정도의 방법으로 기망한 경우’에 인정된다고 할 수 있고, 구체적 사안에서 이러한 기망행위가 인정되지 않는다면 사기죄가 성립할 수 있다.

‘생성형AI를 이용한 창작물이 법률행위 또는 거래의 대상이 된 사안’에서 사기죄가 성립하기 위해서는 법률행위의 상대방에 대한 기망행위가 인정되어야 하는데, 상대방에 대한 기망행위가 인정되는가를 판단함에 있어서는 다음의 사항들이 고려될 수밖에 없다. 먼저, ‘생성형AI를 이용하여 저작물을 창작한 자가 저작자 또는 저작권의 귀속권자를 제대로 표시하였는가’는 ‘생성형AI를 이용한 저작물이 법률행위 또는 거래의 대상이 된 사안’에서 법률행위 또는 거래의 상대방이 재산적 처분행위를 하는데 판단의 기초가 되는 주요한 사실로 기능한다고 할 수 있다. ‘생성형AI를 이용한 창작물에서 저작자가 제대로 표시되었는가’라는 문제를 판단하기 위해서는 ‘생성형AI를 이용한 창작물이 저작권법의 보호대상이 되는 저작물이라면, 누가 저작자이고, 저작권의 귀속주체는 누구인가’라는 문제가 선결문제로 해결되어야 한다. 이러한 점에서 생성형AI를 이용한 창작물이 저작권법의 보호대상이 되는 저작물이라면, 누가 저작자이고, 누가 저작권의 귀속주체인가라는 문제는 단순히 저작권법 차원에서만 문제되는 것이 아니라, ‘생성형AI를 이용한 저작물이 법률행위 또는 거래의 대상이 된 사안’에서 사기죄 성립요건으로서의 기망행위 존부 판단을 위한 선결문제라고 할 수 있고, 그러한 선결문제가 해결된 다음에서야 ‘구체적 사안에서 행위자가 그러한 저작자 또는 저작권의 귀속주체를 제대로 표시 또는 고지하지 않은 경우에 사기죄에서의 기망행위가 인정되는가’라는 문제가 검토되어야 할 것이다.

다음으로, 생성형AI를 이용하여 저작물을 창작한 자가 저작자 또는 저작권의 귀속권자에 대해서는 제대로 표시 또는 고지하였다고 할지라도, 생성형AI를 이용하여 창작하였다는 사실을 고지하지 않은 경우 ‘기망행위’가 인정될 수 있는가에 대해서는 저작권법의 관점에서가 아니라, 형법적 관점에서 별도로 검토되어야 할 것이다. 왜냐하면 ‘생성형AI를 활용하여 저작하였다는 사실’이 법률행위의 상대방이 재산적 처분행위를 함에 있어서 중요한 판단기초가 되는지는 법률행위의 유형 또는 구체적 사안의 유형에 따라 달라질 수밖에 없기 때문이다.

위의 고려요소들에 대해 좀 더 자세히 살펴본다.

저작권법에 의하면 ‘저작물’이란 ‘인간의 사상 또는 감정을 표현한 창작물’을 말한다. 생성형AI를 이용한 창작물이 저작권법의 보호대상인 저작물에 해당하는지는 생성형AI를 이용한 ‘인간 이용자’의 대략적인 아이디어 제공 또는 명령어 입력이 ‘창작적인 표현형식에 기여하는 행위’로 볼 수 있는가에 달려 있다고 할 수 있다.¹¹⁾ 우리 판례는 2인 이상의 자연인이 저작물 창작에 관여한 사안에서는 “저작권은 구체적으로 외부에 표현한 창작적인 표현형식만을 보호대상으로 하므로, 2인 이상이 저작물의 작성에 관여한 경우 그중에서 창작적인 표현형식 자체에 기여한 자만이 그 저작물의 저작자가 되고, 창작적인 표현형식에 기여하지 아니한 자는 비록 저작물의 작성 과정에서 아이디어나 소재 또는 필요한 자료를 제공하는 등의 관여를 하였다고 하더라도 그 저작물의 저작자가 되는 것은 아니다. 이는 저작자로 인정되는 자와 공동저작자로 표시할 것을 합의하였다고 하더라도 달리 볼 것이 아니다”고 하고 있다.¹²⁾ 이는 2인 이상의 자연인이 저작물 작성에 관여한 경우의 저작자 판단 기준이고, 생성형AI를 이용한 창작활동에 그대로 적용하기는 어렵다고 할 수 있을 것이다.

외국의 경우 생성형AI를 공동저작자로 인정하는 국가가 있지만,¹³⁾ 우리 현행 저작권법상 법률에 의해 법인 등에게 저작권이 인정되는 경우가 아닌 한, 저작자는 자연인에 한정되는 것으로 해석된다.¹⁴⁾ 그리고 현재의 생성형AI는 기존에 비해 급격히 발전하였을지라도, ‘인간 이용자’의 아이디어 제공 또는 명령어 입력에 의해서만 새로운 데이터를 만들어내고, ‘인간 이용자’의 관여 없이 오로지 생성형AI가 독자적으로 새로운 데이터를 생성해 내는 것은 아니다.¹⁵⁾ 그리고 생성형AI 프로그램 제작자 또는 제공자는 그러한 프로그램을 제작하거나 제공한 자일뿐이지, 생성형AI를 이용한 창작물에 창작적 기여를 한 자는 아니다. 이러한 점에서 ‘생성형AI를 저작자로 인정하는 법개정’이 이루어지지 않는 한, ‘인간 이용자’가 단지 아이디어 제공 또는 명령어 입력을 통해 생성형AI를 이용하여 창작활동을 한 경우일지라도 아이디어 제공 또는 명령어 입력이 ‘인간 이용자’의 사유의 산물로 평가될 수 있는 한, 우리 현행법상으로는 인간 이용자만을 저작자로 볼 수 있고, 인간 이용자를 저작재산권 및 저작인격권의 귀속주체로 보아야 할 것이다.¹⁶⁾

생성형AI를 이용하여 창작활동을 한 자는 해당 저작물을 생성형AI를 이용하여 저작하였다는 사실까지 숨기면서 해당 저작물을 자신의 저작물이라고 할 수도 있지만, 해당 저작물을 생성형AI를 이용하여 저작하였다는 것을 알리면서도 해당 저작물은 ‘자신(만)의 저작물’이라고 표현할 수도 있다.¹⁷⁾ 즉, 생성형AI를 이용하여 창작활동을 한 자가 ‘자신(만)을 저작자로 표현 또는 주장하는 것’과 ‘생성형AI를 이용하여 창작활동을 하였다는 사실을 숨기는 것은 동일하다고 할 수 없다. 생성형AI를 이용한 저작물이 법률행위 또는 거래의 대상이 된 경우, 인간 이용자가 해당 저작물을 자신의 저작물이라고 하였다고 할지라도(자신만을 저작자 또는 저작권귀속주체로 표시하였더라도) 현행법상 적법한 저작자 표시이기에 그것만으로는 사기죄에서의 기망행위에 해당한다고 볼 수는 없다.

생성형AI를 이용한 저작물이 법률행위 또는 거래의 대상이 된 경우, 인간 이용자가 해당 저작물을 자신(만)의 저작물이라고 표시할 뿐만 아니라, 생성형AI를 이용하여 저작하였다는 사실을 숨기는 경우에는 법률행위의 유형 및 사안의 구체적 사정에 따라 기망행위 유무가 달라질 수 있을 것이다.

[가정적 사례군 1]에서와 같이 ’생성형AI를 이용한 창작품 공모전‘에서는 생성형AI를 도구로 이용하여 창작활동을 하는 것이 전제되는 경우이고, ‘생성형AI를 이용하여 저작하였다라는 사실만으로는’ ‘생성형AI을 이용한 작품’의 미적 가치 또는 경제적 가치에 영향을 미칠 수 없는 경우이기에 생성형AI를 이용하여 저작하였다는 사실을 알리지 않은 것은 당연히 기망행위로 인정될 수 없다. 이는 이른바 ‘개념예술’ 또는 ‘팝아트’분야에서 기계적인 노동력만을 제공하는 조수를 사용하는 것이 일반적 또는 당연한 것이라면 조수사용 사실을 알리지 않았다고 할지라도 그러한 조수가 저작자로 인정될 수는 없기에 기망행위로 인정되지 않을 수 있는 것과 대응한다고 할 수 있다.¹⁸⁾ 그러나 [가정적 사례군1]에서와 같이 특정 회사 생성형AI를 이용하여 창작활동을 행할 것이 요구되는 경우임에도 불구하고 甲과 같이 다른 생성형AI를 이용하고 이를 숨긴 행위는 기망행위로 인정된다.

한편, [가정적 사례군 2-1]과 같이, 창작적 기여도는 ‘회화’라는 표현작업을 통해 나타나고, 판례에 의하면, 아이디어 제공자가 아니라 창작적 표현작업에 기여한 자가 저작자가 되는 전통적인 ‘회화미술’의 경우, 생성형AI를 이용하여 ‘회화작품’을 창작하였다는 사실을 알리지 않고 자신의 저작물로 표시하여 출품하였다면, 현행법상으로는 누가 저작자로 인정될 수 있는가라는 문제가 발생할 뿐만 아니라, 설사 아이디어 제공자가 저작자로 인정된다고 할지라도 ‘전통적 회화미술’분야의 경우 누가 회화작업을 하였는가는 중요하기에 아이디어 제공자가 생성형AI를 이용하여 창작하였다는 사실을 숨기고 자신의 저작물로 표시하여 출품하였다면 기망행위에 해당하는 것으로 보아야 할 것이다. 이는 전통적인 회화미술 분야에서는 다른 사람을 통해 대작하였음에도 불구하고 대작 사실을 숨기고 본인(만)의 미술저작물로 표시하여 매매거래의 대상으로 한 경우 누가 저작자인지가 거래 상대방에게 중요한 경우라면 사기죄가 성립하는 것과¹⁹⁾ 같은 법리라고 할 수 있다.²⁰⁾

이미 앞에서 살펴보았듯이, 현행 저작권법상 저작자는 자연인에 한정되므로 생성형AI가 저작인격권의 향유자로 인정될 수는 없다. 따라서 소설, 시나리오, 학술논문 등과 같이 내용작성이 중요한 저작물에서 다른 자연인을 통하여 대작한 경우와 달리, ‘인간 이용자’가 생성형AI를 이용하여 그러한 저작물의 대부분을 창작하고 자신(만)을 저작자로 표시한 경우라고 할지라도 저작권법상의 저작자허위표시죄(제137조제1항제1호)가 성립될 수는 없다.

[가정적 사례군 3]과 같이 생성형AI를 이용하여 소설이나 논문의 대부분을 작성하였음에도 자신의 저작물로 표시하고, 생성형 AI를 이용하여 창작하였다는 사실을 밝히지 않은 경우 이는 ‘생성형AI를 이용한 대작’ 사례에 해당한다고 할 수 있다. 그리고 이 경우 ‘생성형AI를 이용하여 대작하였는지 여부’는 당선작을 결정하거나 논문통과를 결정함에 있어서 중요한 사항이기에 ‘생성형AI를 이용하여 대작하였다는 사실을 알리지 않은 행위’는 사기죄에서의 기망행위 에 해당한다. 다만, [가정적 사례군 3-1]과 같이 ‘상금지급을 동반하는 당선작 결정’이기에 상대방의 행위가 사기죄에서의 재산적 처분행위로 인정될 여지가 있는 경우라면 사기죄가 성립될 수 있겠지만, [가정적 사례군 3-2]의 ‘논문통과 결정’과 같이 ‘재산적 처분행위’로 인정될 여지가 적은 경우라면 위계에 의한 공무집행방해죄 성립이 문제된다. ‘생성형AI를 이용하여 논문의 핵심내용들을 작성하였다는 사실 즉, 대작하였다는 사실’을 숨기고 본심사용 학위논문을 제출한 경우, 심사위원들의 충분한 심사를 통해서도 대작사실을 발견하기 어려운 경우라면 그러한 행위는 위계에 의한 업무방해죄에서의 위계에 해당하고, 위계행위로 인해 업무방해의 위험성 발생한 경우이므로 위계에 의한 업무방해죄가 성립한다고 보아야 할 것인다.

반면에 생성형AI를 이용하여 획득한 텍스트를 논문 일부분에서만 그대로 또는 일부 수정하여 논문의 내용으로 하면서 각주를 통해 생성형 AI를 이용하여 획득한 텍스트라는 사실을 밝히지 않았거나 각주에서 관련 원문헌을 인용하지 않은 경우에는 저작권법상의 출처명시 위반의 죄(제138조)에³²⁾ 해당하거나 연구윤리위반에 해당할 수는 있을지언정, ‘대작’이라고 하기에는 어려운 바, 위계에 의한 업무방해죄가 성립한다고 하기에는 어려울 것이다.