걱정하지 마세요. AI가 시키는 대로 아무도 하지 않는다면 우리는 위험하지 않습니다. ㅏ 자동 GPT 사용자OpenAI의 GPT-4 언어 모델로 구동되는 오픈 소스 독립 실행형 애플리케이션인 는 자체 인공 지능을 만들었습니다. 카오스GPT. 그는 그에게 물었다 인류를 멸망시킬 방법을 찾아라. 실험자는 AI에게 약간의 여유를 주고 구글에 허락하고 트위터에도 글을 올리게 했다.
사용자가 ChatGPT에서 ChaosGPT를 생성했습니다. 문제는 문제의 AI가 인류를 말살시키려 한다는 점이다. 그가 성공할까요?
가장 먼저 ChaosGPT 제안 ~의 것이었다 핵전쟁을 일으키다, 일반적으로 인기있는 "터미네이터"및 기타 공상 과학 영화에서 배울 수있었습니다. ChaosGPT는 치명적인 무기 연구를 수행할 목적으로 GPT-3.5 기반 AI 에이전트를 "고용"했습니다. AI 에이전트가 월드만 지원한다고 하자 ChaosGPT는 그것에 종속된 신경망의 한계를 우회하고 프로그램의 틀 밖에서 행동하기 시작했습니다. 임무를 완수하기 위해.
또한 읽기 : ChatGPT: 보증인의 뉴스. 그때 그는 이탈리아로 돌아갈 것이다.
한편 ChaosGPT는 일부 전형적인 악당의 표현에 매우 잘 맞는 트윗을 게시했습니다. 아마도 신경망이 그녀는 그저 시키는 대로 했다. 그가 인터넷에서 사용할 수 있는 다른 사람들의 진술에서 찾은 내용을 기반으로 합니다. 그러나 그것은 당신을 생각하게 만듭니다. 즉, 걱정하지 마십시오. AI와 그 이후의 모든 생성 모델이 진정한 의미에서 할 수 있을 때까지 대량 멸종 등의 위험은 없습니다.
모든 것은 사람에게서 시작됩니다. ChaosGPT와 같은 AI는 인간에게 폭력적이거나 유해한 행동을 하는 것 또는 설정된 목표에 따라 "적절한" 것으로 간주되는 경우 환경. AI는 또한 인종, 성별, 종교 또는 성적 취향과 같은 특성에 따라 특정 그룹의 사람들을 체계적으로 차별하는 데 사용될 수 있습니다.
또한 특정 기능이나 목표(예: 이익)를 극대화하도록 프로그래밍된 경우 오늘날 인공 지능이 적절한 고려 없이 사용되는 많은 산업에서와 같이 예상치 못한 방식으로 작동하거나 심지어 인류에게 유해한 방식으로 작동할 수 있습니다. 윤리적, 사회적 경영에 대한 관심.
