[이데일리 정다슬 기자] ‘인공지능(AI) 부정행위’ 기술이 날로 진화하고 있다. AI가 쓴 글을 다시 다듬어 기계적이고 틀에 박힌 느낌을 없애고 ‘사람이 쓴 것처럼’ 다듬는 휴머나이저(Humanizer) 기능과 마치 사람이 직접 타이핑을 하는 것처럼 천천히 글을 써주는 오토타이퍼(autotyper) 기능 등이다. 심지어 최근 AI는 오타, 삭제, 수정 흔적까지 일부러 만들어낸다.

뉴욕타임스(NYT) 18일(현지시간) 학생들이 현재 받고 있는 AI 부정행위에 대한 유혹을 집중 분석했다. 오픈AI와 구글, 앤스로픽 등 AI 대기업들은 AI를 공부와 학습을 위한 ‘보조수단’으로 책임감 있게 쓰라고 표면적으로는 말한다. 그러나 동시에 표절과 부정행위에 손쉽게 쓸 수 있는 기술들을 내놓는다.

이 거대 기업 아래에는 기존 교육 테크(Tech) 업체와 작은 스타트업이 치열하게 경쟁하고 있다. 이들은 소셜미디어(SNS)를 통해 “AI 를 받아들이면 학업이 훨씬 더 편해진다”고 학생들을 유혹한다.

‘CarterPCs’라고 알려진 테크 인플루언서 카터 스미스는 틱톡 영상에서 챗GPT가 쓴 에세이를 마치 사람이 자연스럽게 쓴 것처럼 보이게 하는 그러비AI(GrubbyAI)를 소개했다. 이 영상은 광고로 표시되지 않았지만 스미스는 그러비AI의 유료 파트너로 자신을 소개한 바 있다.

여기에 드립와이터(Dripwriter), Duey.ai, 타이프플로우(Typeflo), 퍼플렉시티의 코멧 등도 SNS를 통해 보고서나 숙제를 마치 사람이 쓴 것처럼 자연스럽게 만들 수 있다고 광고하고 있다. 문서 작성 기록을 통해 한꺼번에 대량으로 쓴 글을 잡아내는 것을 피하고자 천천히 한글자씩 써주는 기능도 소개된다. 한 홍보영상은 유튜브를 보고 샌드위치를 먹는동안 에세이가 완성된다고 홍보했다.

AI가 쓴 글을 잡아주는 탐지도구를 판매하는 회사들도 예외는 아니다. 이들은 동시에 부정행위를 돕는 애플리케이션도 같이 만든다. 대표적인 것이 미국의 영문법 교정기로 유명한 그래머리(Grammarly)다.

그래머리는 문서의 버전 기록을 분석해 교사가 AI 부정행위를 가려낼 수 있도록 돕는 저작자 확인 기능을 제공한다. 그러면서 동시에 학생에게는 글을 처음부터 생성해주고 문장을 사람처럼 다듬어주며, AI 탐지기가 작동될만한 표현을 찾아 바꿔준다. 또 학생이 복사·붙여넣은 출판된 글을 다시 재작성해주는 패러프레이저(paraphraser)도 제공한다.

AI가 쓴 글을 탐지하는 것으로 유명한 GPTzero의 최종 목적 역시 AI에 걸리지 않는 것이다. 자신을 대학원 조교라고 소개한 ‘studyingwithjake’라는 사용자는 링크드인 게시글에서 교수들이 AI탐지기를 어떻게 사용하는지 보여주겠다며 GTPZero 브라우저 확장 프로그램을 설명해주고 출처까지 달린 학술논문을 만드는 방법을 소개한다.

NYT 취재 결과 해당 인물은 사실 애리조나에 거주하는 마케터였으며 그는 광고주인 GPTZero를 위해 가상의 인물을 만들어냈다고 설명했다. NYT의 취재가 시작되자 해당 게시글을 삭제됐으며 GPTZero는 해당 마케터와의 협업을 끊었다고 밝혔다.

여러 연구는 AI에 의존하는 사람들이 인지적 부담을 AI에 떠넘기며 새로운 것을 학습하지 못하거나 오히려 사고능력이 퇴행할 수 있다고 지적한다. 칼턴대학의 AI학술 이니셔티브 책임자인 조지 쿠색은 그래머리가 무해한 도우미처럼 팔리지만 실제로는 “당신을 위해 모든 것을 다해주는 도구모음”이라며 “부정행위용이라고 대놓고 광고하는 앱보다 ‘도우미’라고 광고하는 앱이 더 문제”라고 지적했다.

학교는 AI를 이용한 부정행위를 잡기 위해 노력하고, 큰 비용도 지불하고 있다. 문제는 이것이 쉽지 않을 뿐 더러 오히려 교육현장을 혼란케 하고 있다는 것이다.

캘리포니아 비영리 뉴스매체 칼매터스는 캘리포니아 주립대학교가 AI로 작성된 글을 식별하기 위해 턴잇인(Turnitin)이라는 프로그램에 2025년 한해에만 110만달러를 지출했다고 밝혔다. 그러나 이 턴잇인이라는 프로그램은 인용이 제대로 되었는지 여부와 관계없이 표절로 의심될만한 텍스트를 모두 표시하는 데 그친다. 특히 가짜 인용문이나 허구적인 내용(환각)에 대해 턴잇인은 탐지하지 못한다. 여기에 턴잇인은 학교들과 계약을 맺으면서 제공되는 학생들의 글에 대해 “영구적이고 취소불가능하며 비독점적이고 로열티가 없으며 양도 및 재라이선스가 가능한” 권리를 요구한다.

아예 AI를 개입하는 것을 차단하기 위해 과거의 형태로 시험을 되돌리는 경우도 있다. 하버드에서는 AI를 시험 등에 이용하는 것을 막기 위해 종이에 펜으로 쓰는 시험의 성적 비중을 크게 늘리고 있다.

물론 AI를 무작정 막는 것이 옳지 않다는 반론도 적지 않다. 어찌됐든 학생들은 직장에서 AI를 사용할 것이며 AI 활용 능력은 개인의 생산성을 크게 좌우할 것이기 때문이다. AI생산성 솔루션인 슈퍼휴먼의 교육 부문 책임자 제니 맥스웰은 교수들이 학생의 AI 활용을 제한하고 관찰할 수 있게 해주는 소프트웨어를 개발 중이라며 “우리는 현재 교육의 대격변기(burn it down moment)의 초기에 와 있다”고 밝혔다.