인공지능 연구 스타트업 OpenAI는 화요일 텍스트가 사람에 의해 쓰여졌는지 컴퓨터에 의해 쓰여졌는지 알아내는 도구를 출시했습니다.
ChatGPT 제작자 OpenAI, AI 생성 텍스트 감지 도구 출시
사람과 같은 텍스트를 생성할 수 있는 챗봇인 ChatGPT의 배후 회사인 OpenAI는 두 달 전에 출시된 후 입소문이 났습니다. 마이크로소프트는 지난 주 OpenAI에 수십억 달러를 투자한다고 발표했으며 스타트업의 AI 모델을 소비자 및 비즈니스 제품에 통합할 것이라고 말했습니다.
ChatGPT가 XNUMX월에 데뷔한 이후, 뉴욕시를 포함한 미국의 일부 가장 큰 학군은 학생들이 텍스트 생성기를 사용하여 속이거나 표절할 것을 두려워하여 AI 챗봇을 금지했습니다.
OpenAI CEO Sam Altman은 계산기와 기타 기술의 출현으로 교육이 과거에 바뀌었지만 회사가 교사가 AI에서 작성된 텍스트를 발견하도록 도울 수 있는 방법이 있을 수 있다고 제안했습니다.
OpenAI의 새로운 도구는 완벽하지 않으며 회사는 아직 진행 중인 작업이며 사용하는 동안 오류가 발생할 수 있다고 말합니다. “영어 텍스트의 '챌린지 세트'에 대한 평가에서 분류기는 AI가 작성한 텍스트의 26%(진정성)를 '아마도 AI가 작성한 것'으로 식별한 반면, 사람이 작성한 텍스트의 9%는 OpenAI 직원은 "텍스트가 AI가 작성한 것으로 잘못 표시되었습니다(가양성)"라고 썼습니다.
새로운 도구는 1000자 미만의 기사를 구문 분석할 때 신뢰할 수 없으며 OpenAI는 영어 이외의 언어에 대한 사용을 권장하지 않습니다. 또한 AI 텍스트는 분류자가 인간의 작품이 아니라고 올바르게 판단하지 못할 정도로 약간 업데이트될 수 있습니다.
OpenAI는 ChatGPT의 기능과 한계에 대해 논의하기 위해 교육자들에게 연락하고 있으며 AI 생성 텍스트 감지 작업을 계속할 것이라고 말했습니다.