챗 GPT를 걸러내는 방법? Detect GPT의 등장

Detect GPT?

챗 GPT를 어떻게 대응해야 할지는 현재 전 세계적인 AI계의 화두라고 할수있습니다. 그림 그리는 AI의 경우에는 티가 나서 아직까지는 크게 문제가 되지 않았습니다. 그 한계가 명확했기 때문이죠. 하지만 글쓰기 AI인 챗 GPT는 경우가 좀 달라집니다. 간단한 레포트 작성부터, 코드를 짜는 능력까지 있기 때문에, 대학부터 넓게는 블로그같은 개인의 영역까지, 충돌할수 있는 영역이 많기 때문입니다.

대학가에서는 학생의 능력을 정확히 평가하지 못하는 상황이 발생할수 있고, 블로그 같은 경우도 논란은 좀 있으나 인공지능이 작성한 글을 가치가 없는 양산된 콘텐츠로 보아 구글 애드센스 같은 광고플랫폼에 있어서 부정 사용이 발생할수도 있기에, 세계 각지에서 이를 검출해내는 프로그램을 제작하려고 노력하고 있습니다.

 

기존 검출 프로그램들의 한계

물론 이번 스탠퍼드에서 개발된 디택트 GPT이전에도 여러가지 챗 GTP검출 프로그램들은 있어왔으나, 별로 효과적이지 못했습니다. 실제로, 필자가 간단히 몇개를 사용해보았으나, 보시다시피, 그렇게 높은 정확도를 보이지는 못했습니다.

'그럴수도 있고 아닐수도 있습니다'/'사람이 맞습니다.'

이 모델들에 사용된 처리방식의 정확도가 높지 않기 때문인데, 이를 해결하기 위해 스탠퍼드 대학에서는 다른 알고리즘을 사용하도록 했습니다.

가짜로 조작된 글과, 사람이 작성한 원본글을 비교하도록한다음, 둘의 문장을 비교 분석해 함수로 나타내었을시, 가짜(인공지능의 글)의 경우에는 로그함수의 곡률이 일정한 모습을 보여준 반면에, 사람이 작성한 글은 그렇지 못한 모습을 알수있습니다. 

이런 알고리즘을 사용하게 될 경우 다른 모델들에 비해 정확도가 높게 측정되었습니다. 이외에도, 미국 프린스턴 대학교에서 제작된 GPT zero, 논문 표절검사 사이트인 터티닌등에서도 AI생성 텍스트를 감지하는 프로그램을 개발하고 있다고 합니다.

Detect GPT에 대한 자세한 내용은 DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature에서 확인하실수 있습니다.