인공지능(이하 AI) 사용은 어느새 우리의 일상이 됐다. 그러나 이를 관리할 제도는 여전히 미흡하다. 편리함 뒤에 가려진 윤리적 공백을 어떻게 메울 것인지가 현재 우리 앞에 놓인 질문이다. 이에 발전하는 AI의 이면을 돌아보고 해결 방안을 살펴보고자 한다.
AI 과의존으로
위기에 놓인 대학
최근 대학가에서 AI를 이용한 부정행위 사례가 잇따라 적발되며 대학생의 AI 활용 실태가 화두에 올랐다. 지난해 구직 플랫폼 ‘알바천국’이 국내 대학생 372명을 대상으로 실시한 설문조사에 따르면 응답자의 78%가 학업에 AI를 사용한 경험이 있다고 답했다. 그중 ‘과제·리포트 등 작성’을 위해 생성형 AI를 활용한다고 응답한 비율이 88.6%로 가장 높았다. 학생들은 △강의 요약 △과제 △시험 등 학습 과정 전반에서 AI를 활용했다. 이에 지나친 AI 의존이 학생들의 주체적 학습 능력을 저하한단 우려가 커지고 있다.
대학 내에서 AI를 활용하는 사례가 늘어나자 이를 식별하기 위한 AI 판독 서비스 사용 또한 증가하는 추세다. AI 기업 ‘무하유’가 공개한 자사 AI 탐지 서비스의 이용 통계에 따르면 교수자용 표절검사 서비스 ‘CK브릿지’의 검사 문서량은 전년 10월 대비 4.3배 늘어났다. 그러나 현재 판독기의 낮은 정확도로 인해 AI 사용 여부를 정확히 가려내기 어렵단 한계가 있다. 2024년에 발표된 논문 『생성형 AI 텍스트 감지기를 우회하는 간단한 기법』에 따르면 ‘GPT 제로’ 등 AI 판독기 7개의 평균 정확도는 39.5%에 불과했다. 심지어 각 문장의 길이를 조금씩 다르게 하고 고의로 철자 오류를 삽입하자 평균 정확도는 22.2%까지 감소했다. AI 판독기는 철자 오류가 없고 형식과 길이가 일관된 문장을 AI가 쓴 것으로 간주하는 특성이 있다. 이를 역이용해 문장에 의도적인 변화를 주면 판독기의 식별을 피할 수 있어 완전한 식별이 어렵다.
높아지는 AI 의존도를 어떻게 대처할 것인지가 현재 대학이 직면한 과제다. 제주대학교 지능소프트웨어교육연구소 배진아 교수(이하 배 교수)는 “AI는 빠르게 진화하고 있지만 그에 따른 준비를 할시간을 확보하지 못하고 있다”며 “대학의 △교육 방법 △평가 방법 △시험 문항을 전반적으로 바꿔 나가야 한다”고 전했다.
확장되는 AI 사용 범위
심화하는 사회 문제
생성형 AI는 △글 △사진 △영상 등의 자료를 활용해 새로운 콘텐츠를 만드는 인공지능 분야 중 하나다. 사용자의 요구에 맞춘 결과물이 나와 활용도와 사용 범위가 넓다. 이처럼 활용 범위가 확장되면서 AI로 생성한 허위 정보도 식별이 어려워지고 있다.
지난달 23일, 사회관계망서비스 ‘X’의 한 이용자는 AI 이미지 생성 프로그램인 ‘나노 바나나 프로’를 사용해 만든 사진을 공유했다. 사진 속엔 일론 머스크와 마크 저커버그 등의 유명인이 한자리에 모여 식사를 즐기는 모습이 구현돼 있었다. 실제 사진처럼 질감과 광원을 자연스럽게 재현해 해당 사진의 진위를 쉽게 파악하기 어렵단 반응이 잇따랐다. 직접 해당 사진을 AI 이미지 판독기 ‘undetectable AI’에 넣어본 결과, 판독기는 96%의 확률로 이를 실제 사진이라고 판정했다. 이처럼 AI 기술을 통해 누구나 쉽게 허위 정보를 만들어낼 수 있지만 이를 판별하고 규제할 법적 장치가 부족해 악용 가능성이 커지고 있다.
국내에서도 신종 AI 범죄가 다수 발생하고 있지만 이를 규제할 법안이 미비한 상황이다. 국가통계연구원에서 올해 발표한 ‘한국의 SDG 이행보고서’에 따르면 생성형 AI를 활용한 범죄 유형은 다양해졌지만 검거율은 낮아졌다. 허위 영상물 편집·반포 범죄 검거율은 2022년 58.8%에서 2023년 48.2%로 하락했다. 이에 AI와 관련한 범죄 유형이 다양해지면서 지금보다 더 세부적인 처벌 기준이 필요하단 지적이다.
AI를 학습시키는 과정에서 원작자의 동의가 필요한지에 관한 기준 또한 불분명하다. 이로 인해 생성형 AI가 데이터를 학습하는 행위가 저작권 침해에 해당하는지를 둘러싼 논란이 발생하고 있다. 핵심 쟁점은 기업이 허락 없이 저작물을 학습하는 행위가 데이터의 공정이용으로 인정될 수 있는가다. 공정이용이란 저작권자의 허락 없이 저작물을 이용할 수 있는 특수한 경우를 말한다. AI 학습이 공정 이용에 해당한다면 기업은 저작권자의 동의 없이도 △글 △그림 △영상 △음악 등의 저작물을 학습할 수 있다. 반면 공정이용에 해당하지 않을시 이런 행위는 저작권 침해에 해당하게 된다. 그러나현재 AI의 데이터 학습에 대해 명확히 규정하는 법이 없어 데이터를 확보하려는 AI 기업과 저작물의 도용을 방지하려는 저작권자 사이의 의견 대립이 심화되고 있다.
혼란을 줄이기 위한
국내외의 법적 논의는
AI가 빠르게 성장하면서 세계 각국은 AI 분야의 법적 공백을 해소하기 위해 제도적 기반을 구축하고 있다. 미국에선 생성형 AI의 학습으로부터 저작권자를 보호하기 위한 법안을 마련하는 중이다. 지난해 7월, 미국 여야 상원의원들은 ‘콘텐츠 출처 보호 및 무결성법’을 발의했다. 해당 법안은 제작물의 출처를 명확히 밝히고 워터마킹을 사용하는 등 AI 식별 지침을 마련하도록 규정했다. 또한 생성형AI가 저작권자의 동의 없이 무단으로 콘텐츠를 학습하지 못하도록 입법을 추진하고 있다.
한국 정부 역시 AI 분야 기준 마련을 추진하고 있다. 지난달 27일, 국무조정실은 ‘인공지능 분야 규제 합리화 로드맵’을 발표했다. 해당 로드맵엔 △기술개발 △서비스 활용 △인프라 △신뢰·안전 규범 4가지 분야의 AI 관련 과제를 개선하기 위한 방안이 담겼다. 그중 기술개발 분야에선 AI 학습 시 공정이용 판단기준 및 사례 등을 구체화하는 가이드라인을 마련해 학습 데이터 활용의 법적 불확실성을 해소할 계획이다.
또한 2026년 1월부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(이하 AI 기본법)’을 시행할 예정이다. AI 기본법은 AI 투명성 확보와 안전성 확보에 관한 의무 조항을 담았다. 투명성 확보 조항에선 생성형 AI를 활용한 콘텐츠에 대해 사용자가 이를 명확히 인식할 수 있도록 사전 고지 및 AI 생성 표시를 의무화했다. 또한 사업자에게 AI 안전사고를 모니터링하고 대응할 수 있는 시스템을 구축할 의무를 부과해 AI 관련 안전사고를 사전에 방지할 방침이다.
AI와 함께 나아가는
미래를 만들기 위해
AI 시대에 적응하기 위해선 법과 제도로 이를 통제하는 것을 넘어 공존의 대상으로 바라볼 필요가 있다. 누구나 AI를 접할 수 있는 시대이기에 이를 적절히 활용할 수 있는 AI 리터러시 역량 또한 필요하다. AI 리터러시란 AI의 위험성을 인지하면서도 협업을 위한 도구로서 이를 올바르게 활용하려는 태도다. 배재대학교 미디어콘텐츠학과 박성순 교수(이하 박 교수)는 “앞으론 AI 활용 능력에 따라 학생들의 학업 성취도가 달라질 것이다”며 “AI를 학습 도구로서 능동적으로 활용할 수 있는 능력이 필요하다”고 말했다.
개인의 역량뿐만 아니라 AI에 발맞춰 대학의 평가 제도 역시 보완해야 한다. 대학은 AI를 활용하되 학생의 학업 역량을 공정하게 판단할 수 있는 방법을 마련해야 한다. 박 교수는 “이미 사회는 다양한 상황에서 스스로 문제를 해결할 수 있는 융합형 인재를 요구하고 있다”며 “AI를 기반으로 학생 개인 맞춤형 학사·교육 시스템을 형성하기 위한 논의가 필요하다”고 말했다. 이에 따라 변화하는 시대에 맞춰 창작의 개념을 재정의하고 AI를 윤리적으로 활용하는 사회 인식도 자리 잡아야 한다. 배 교수는 “인간의 창작뿐만 아니라 AI를 이용한 창작도 인정해야 한다”며 “앞으로는 인간과 AI가 역할을 나눈채 서로 협업하며 공동 창작을 하게 될 것이다”고 말했다.
AI 시대는 이미 우리 곁에 도래했다. 남은 과제는 발전하는 기술의 속도에 맞춰 AI와 인간이 조화롭게 공존하는 미래를 만드는 일이다. 주체성을 잃지 않으면서 AI 기술을 효율적으로 사용할 수 있도록 AI 사용에 대한 윤리적 접근과 관련 제도 마련을 강화해야 할 시점이다.
