우리가 살고 있는 디지털 시대에, 콘텐츠 제어 온라인 플랫폼에서 가장 시급한 과제 중 하나가 되었습니다. 인공 지능의 진화와 함께 OpenAI는 이 문제를 다루고 잠재적으로 해결할 수 있는 GPT-4의 능력. 공식 블로그에서 가장 주목받는 회사는 가까운 미래에 방향을 바꿀 수 있는 좋은 방법에 대해 이야기합니다.
이 문서의 주제:
콘텐츠 제어에 대한 OpenAI의 아이디어는 어리석지 않습니다.
ChatGPT 및 DALL-E와 같은 혁신적인 소프트웨어의 배후 조직인 OpenAI는 GPT-4가 la 열쇠 기술 부문의 가장 복잡한 문제 중 하나인 규모에 따른 콘텐츠 제어 문제를 해결합니다. 아이디어는 GPT-4는 수많은 인간 중재자를 대체할 수 있습니다., 결정에서 거의 비슷한 정확성과 더 큰 일관성을 보장합니다.
최근 OpenAI 공개 이미 GPT-4를 사용하여 콘텐츠 정책을 개발하고 개선한 경험이 있습니다. 이는 콘텐츠 라벨링과 관련이 있을 뿐만 아니라 무엇을 허용해야 하고 허용해서는 안 되는지에 대한 중요한 결정을 내림. 릴리안 웽, OpenAI의 보안 시스템 책임자는 이러한 진화의 중요성을 강조하면서 이것이 중요한 단계를 나타낸다고 말했습니다. AI는 실제 문제를 해결하는 데 사용될 수 있습니다., 사회 전체에 도움이 될 수 있는 솔루션을 제공합니다.
또한 읽기 : 이 회사는 AI가 우리의 일자리를 훔치지 않는다는 것을 증명합니다.
OpenAI의 운영이 혁명적인 세 가지 이유
- 결정의 일관성: 정책을 다양한 방식으로 해석할 수 있는 인간과 달리 기계는 일관된 판단을 내립니다. 책만큼 길고 자주 변경될 수 있는 지침은 대규모 언어 모델로 즉시 구현할 수 있는 반면, 인간은 배우고 적응하기 위해 많은 훈련이 필요합니다.
- 새로운 정책 생성 속도: GPT-4는 몇 시간 만에 새로운 정책을 개발할 수 있는 능력이 있어 전통적으로 몇 주 또는 몇 달이 걸리던 프로세스를 혁신합니다. 여기에는 초안 작성, 레이블 지정, 피드백 수집 및 정책 수정이 포함됩니다.
- 근로자 복지: OpenAI는 아동 학대나 고문 동영상과 같은 유해한 콘텐츠에 지속적으로 노출되는 근로자의 복지를 강조합니다. 이 프로세스를 자동화하면 이러한 충격적인 콘텐츠에 대한 인간의 노출을 줄일 수 있습니다.
그러나 완전히 자동화된 조정을 위해서는 아직 갈 길이 멉니다. AI는 조정을 개선할 수 있는 잠재력이 있지만 여전히 많은 과제가 남아 있습니다. 예를 들어, 기만적이고 부정확하며 공격적인 콘텐츠의 구분 반드시 불법이 아닌 것은 자동화 시스템에 큰 문제가 됩니다. 인간 전문가조차도 그러한 게시물에 레이블을 지정하는 데 어려움을 겪고 있으며 기계는 종종 실수를 합니다.
인간 작업에 대한 위험?
늘 그렇듯이 우리는 항상 이것에 대해 이야기합니다. AI가 우리 일자리를 훔칠까요? 콘텐츠 조정을 사용하는 대부분의 회사에서는 주의를 기울일 가치가 있습니다. 최근 몇 년 동안 인공 지능이 크게 발전했지만 그것은 곧 인간의 일자리를 빼앗지 않을 것입니다. 인간의 감독은 온라인 콘텐츠를 정확하게 모니터링하기 위한 중요한 구성 요소로 남아 있습니다. 따라서 대답은 아니오입니다. 작업을 훔치는 것이 아니라 개선할 것입니다.
그러나 이러한 기술의 발전이 또한 기술 분야에서 근로자의 전문화 수준의 증가에 상응해야 합니다.. 이것이 없으면 교체가 불가피합니다.
"기껏해야 우리가 가지고 있고 계속 가질 것은 하이브리드입니다. 하지만 지난 몇 년 동안 제가 본 것은 고용 감소가 아니라 증가뿐이었습니다." 그는 말했다. UCLA 교수 Sarah T. Roberts 직전 몇 년 전. 성공적인 콘텐츠 조정 전략은 최고의 차세대 기술과 인간 에이전트를 결합합니다..
