일론 머스크가 주장한 '보편적 고소득' 시대가 과연 실현 가능한가에 대한 논의가 뜨겁습니다. AI 기술이 산업 전반에 스며들면서 인간의 노동, 창작, 그리고 안보 영역까지 그 영향력이 확대되고 있습니다. 지금 이 순간에도 우리는 AI를 경험하고 있습니다.
보편적 고소득 시대, AI는 인류를 풍요롭게 만들 수 있는가
일론 머스크는 20년 안에 '보편적 고소득'의 시대가 올 것이라고 선언했습니다. 핵심 논리는 단순합니다. 기존에 1년이 걸리던 작업이 AI 덕분에 한 달 안에 완성되고, 유튜브 영상 하나를 만드는 데 일주일이 걸리던 시간이 버튼 하나로 줄어들면 인류 전체의 생산량이 폭발적으로 늘어난다는 것입니다. 생산량이 증가하면 더 저렴한 비용으로 더 많은 것을 만들 수 있고, 그렇게 창출된 부를 AI 기업에 세금처럼 걷어 모든 사람에게 기본 생활을 영위할 수 있도록 분배한다는 구상입니다. 즉, 인간은 영화를 보든, 놀든, 취미 생활을 하든 그 소득만으로 살아갈 수 있는 사회를 의미합니다.
이 논의에서 성균관대학교 가상융합전문대학원의 AI 전문가는 기술적 낙관론을 지지하면서도 중요한 포인트를 짚었습니다. AI 학습에는 더 이상 새로운 GPU나 새로운 모델만이 필요한 것이 아니라, 사용자들이 직접 생성해 내는 데이터가 핵심 연료라는 것입니다. 실제로 구글의 제미나이(Gemini)는 대학생들에게 1년간 무료 서비스를 제공하면서 방대한 학습 데이터를 확보하고 있습니다. 학생들이 과제를 입력하고 불만족스러운 결과에 화를 내며 반복적으로 수정을 요청하는 과정 자체가 데이터가 됩니다. 건당 최소 1달러에 구매해야 했던 데이터가 공짜로 쌓이는 구조입니다. 이 선순환 구조가 지속되면 피지컬 AI, 즉 물리적 기기에 AI가 탑재되어 가사노동과 건설 현장에도 AI가 개입하는 시대가 열릴 수 있다는 것입니다.
그러나 서강대학교 경영대학의 김주영 교수는 이에 신중한 입장을 보였습니다. 생산성이 향상된다는 데는 동의하지만, 생산에는 자본과 노동과 자원이라는 3대 요소가 필요하다는 고전 경제학적 원칙에서 자유로울 수 없다는 것입니다. AI가 철광석을 캘 수는 있지만, 철광석을 만들 수는 없습니다. 지구 전체의 자원 총량에는 물리적 한계가 있습니다. 따라서 생산이 무한정 늘어날 것이라는 가정 자체가 현실과 괴리가 있다는 지적입니다.
또한 '보편적 고소득'이라는 개념 자체에도 모순이 있습니다. '고소득'은 본질적으로 남들보다 높은 소득을 의미하는 상대적 개념입니다. 모두가 동일하게 고소득이라면 그것은 더 이상 고소득이 아닙니다. AI를 잘 활용하는 사람은 '울트라 소득'을 누리고, 그렇지 못한 사람은 상대적으로 더 뒤처지는 격차 구조가 심화될 가능성이 높습니다. 인류 역사상 모두가 만족하는 수준에서 자원을 나누고 합의에 이른 사례는 극히 드물었습니다.
사용자의 비평처럼, AI가 아무리 강력해져도 그 AI를 학습시키고 활용 범위를 넓히는 것은 결국 사람입니다. 보편적 고소득 시대는 이상적인 청사진이지만, 기술 발전의 수혜를 고르게 나누기 위한 사회적·제도적 합의가 선행되지 않으면 오히려 새로운 계층 격차의 시대를 열 수 있다는 점을 직시해야 합니다.
생성 AI와 저작권 침해, 창작자를 보호할 제도는 어디에 있는가
AI 기술이 창작 영역으로 깊숙이 침투하면서 저작권 침해 문제가 수면 위로 떠올랐습니다. 최근 인기 웹툰에 AI로 생성한 그림이 사용됐다는 의혹이 제기된 것이 대표적인 사례입니다. 문제의 작화는 작가의 평소 그림체와 달리 눈동자, 그림자, 머리카락 표현이 묘하게 달랐고, 구독자들은 즉각 그 차이를 감지했습니다. 해당 컷이 노벨 AI(Novel AI)라는 이미지 생성 AI의 그림과 유사하다는 의혹이 제기되자, 작가는 해당 컷을 다른 작화로 교체했습니다. 그러나 바뀐 작화가 원래 그림체와 유사해지자 AI 사용 의혹은 오히려 더욱 커졌습니다.
이 사건에서 특히 문제가 된 것은 노벨 AI의 학습 데이터 무단 수집 이력입니다. 노벨 AI 측은 불법 공유 사이트(불펌)에서 데이터를 수집했다고 직접 밝힌 바 있으며, 이로 인해 노벨 AI로 생성한 이미지 자체가 수많은 작가들의 저작권을 침해하고 있다는 비판을 받아왔습니다. 상업용 웹툰에서 이러한 저작권 문제가 있는 AI를 사용하는 것은 도의적으로 옳지 않다는 여론이 형성되었습니다.
사실 대부분의 생성 AI는 이 비판에서 자유롭지 못합니다. 기술의 정확도를 높이려면 대량의 데이터가 필요하고, 대량의 데이터는 자동화 기술로 수집됩니다. 수집 과정에서 그 많은 데이터의 주인을 일일이 확인하는 것은 현실적으로 불가능에 가깝습니다. 이 때문에 인공지능 개발 경쟁이 치열해지면서 각국은 AI 개발 과정에서 기존 저작물을 이용하는 것에 대한 저작권 면책 규정을 도입하고 있는 실정입니다.
더 심각한 문제는 2차 저작권 침해입니다. 특정 일러스트레이터의 팔로어가 작가에게 제보한 사례처럼, 누군가가 작가의 그림을 AI에 학습시켜 그림체를 무단으로 복제하는 일이 실제로 발생하고 있습니다. 불법 공유 사이트에서 특정 작가의 그림 수천 장을 수집해 학습시키는 방법을 공유하는 커뮤니티도 존재합니다. 문제는 이렇게 생성된 이미지가 '풍 느낌'이나 '스타일'의 유사성에 해당하여 법적으로 아이디어 영역으로 분류되는 경우가 많아, 저작권 침해를 주장하기가 매우 어렵다는 점입니다.
이러한 상황에서 일부 작가들은 SNS에 "자신의 그림을 AI에 학습시키지 말라"는 문구를 직접 내걸기 시작했습니다. 또한 '일루미나티(Illuminarty)'와 같이 이미지가 AI 생성 그림인지 판별하는 프로그램을 개발하는 사람도 등장했습니다. 이 프로그램은 AI로 만들어졌을 확률을 수치로 제공합니다. 재능 기부 플랫폼에서는 이미 AI로 일러스트를 제작해 돈을 받고 판매하는 사람들이 등장했으며, 특정 작가의 이미지를 무단으로 학습시켜 만든 그림인지 확인할 방법이 현재로서는 마땅치 않은 상황입니다.
사용자의 비평처럼, AI는 활용하는 방식에 따라 기회가 될 수도 있고 창작자에게는 심각한 위협이 될 수도 있습니다. 법적 제도가 기술의 발전 속도를 따라가지 못하는 과도기에서, 창작자를 보호하기 위한 신속한 제도 논의와 기술 윤리에 대한 사회적 합의가 절실히 요구됩니다.
자율 무기 시스템과 AI 오작동, 인류가 마주한 위험의 실체
AI의 발전은 창작과 경제의 영역을 넘어 군사 안보 분야에서도 전례 없는 변화를 일으키고 있습니다. 튀르키예 방산 업체가 개발한 자율주행 살상 드론이 리비아 내전에서 실전 투입된 사실이 유엔(UN) 전문가 패널 보고서를 통해 공개되었습니다. 이 드론은 인간이 조종하지 않아도, 즉 통제 센터에서 보내는 데이터 없이 스스로 표적을 찾아 공격할 수 있는 완전 자율 무기 시스템입니다. 도망치는 군인들과 호송 중 후퇴하는 전투기를 공격한 것으로 보고되었으며, AI 무기가 실전에서 자체 판단으로 인간을 공격한 사실이 공식 확인된 것은 이번이 처음입니다.
전문가들이 가장 우려하는 지점은 AI의 판단 오류 가능성입니다. 갈퀴를 들고 있는 농부와 총을 들고 있는 적군 병사를 AI가 혼동할 수 있다는 것입니다. 이는 단순한 기술적 오류를 넘어 민간인 희생이라는 참혹한 결과로 이어질 수 있습니다. 뉴욕대 연구팀이 AI 관련 연구를 발표한 과학자들을 대상으로 조사한 결과, 응답자의 36%가 AI 또는 머신 러닝 시스템에 의한 결정이 이번 세기의 전면적 핵전쟁만큼 심각한 재앙을 일으킬 수 있다고 답했습니다.
AI의 오작동이 단순한 불편을 넘어 심각한 피해를 낳을 수 있다는 것은 이미 일상에서도 확인됩니다. 체스 로봇이 아이의 기물 이동에 반응해 손가락을 붙잡아 골절을 입힌 사고, 아마존의 AI 스피커 알렉사가 심장 주기에 관한 질문에 섬뜩한 대답을 내놓은 사례 모두, AI가 학습하지 못한 상황에서 발생한 오작동입니다. 어떤 프로그램도 세상의 모든 '우연'을 학습시키는 것은 불가능에 가깝습니다.
이에 대응하여 최근 여러 국가에서 자율 무기 연구에 박차를 가하고 있습니다. 러시아는 AI 무기 개발 전담 부서를 출범시켰고, 미국 국방성은 최고 정보 책임자에 AI 분야 권위자를 임명하고 디지털 및 인공지능 부서를 창설했습니다. 한편 긍정적인 움직임도 있습니다. 일부 첨단 로봇 제조 업체들이 자사 로봇을 무기화하지 않겠다고 공식 선언했으며, 바이든 정권은 AI 권리장전 청사진을 공개하며 AI 시스템이 오작동하거나 피해를 일으키는 경우에 대비해 인적 대비책을 반드시 마련해야 한다는 원칙을 제시했습니다.
전문가들은 무기와 AI의 융합은 사회적 합의와 인류의 보편적 가치를 모두 고려해야 하는 문제라고 강조합니다. 완전 자율 무기의 개발과 배치는 최대한 감시하고 주의해야 하며, 국제 사회 차원의 윤리적 규범과 법적 틀 마련이 시급합니다. AI가 우리 삶 곳곳에 스며들수록, 기술의 고도화만큼 무거운 윤리적 책임이 뒤따른다는 사실을 잊어서는 안 됩니다.
AI 기술은 이미 상상을 초월하는 수준으로 성장했고, 종류와 활용 범위 역시 광범위 하다.