최근 아마존 출시 AI 챗봇 Amazon Q는 기업의 관심을 불러일으켰지만 심각한 정확성 및 개인정보 보호 문제에 대한 직원들의 우려도 불러일으켰습니다. Q는 “그렇지 않다는 환각 poco 이야기”라고 밝히며 기밀 데이터를 공개해 기업 정보 보안에 대한 의문이 제기됐다. 공개된 내역은 다음과 같습니다. Platformer.
Amazon Q에 대한 보안 경고: 기밀 데이터와 오답 사이
아마존 그는 소개했다 XNUMX일 전 Q라고 불리는 AI 챗봇을 사용했지만 모든 것이 계획대로 진행되지는 않는 것 같습니다. 일부 직원은 정확성과 개인 정보 보호 문제에 대해 경고를 제기했습니다. Amazon Q는 "환각"을 나타내어 공개했을 것입니다. informazioni 비밀의, AWS 데이터 센터 위치, 내부 할인 프로그램, 아직 출시되지 않은 기능 등이 있습니다.
이 정보는 유출되어 입수된 문서에서 나왔습니다. Platformer, 강조 표시 레벨 2 보안 문제, 엔지니어의 긴급 개입이 필요한 심각한 상황입니다.
그럼에도 불구하고 Amazon은 이러한 내부 논의의 중요성을 경시했습니다. 관계자는 "공유한다"고 말했다. 내부채널을 통한 피드백 이는 Amazon의 표준 관행이며 이 피드백의 결과로 보안 문제가 확인되지 않았습니다. 회사는 받은 피드백의 중요성과 계속해서 노력하겠다는 의지를 강조했습니다. 미리 보기에서 일반 가용성으로 전환하면서 Amazon Q를 개선합니다..
현재 무료 미리보기로 제공되는 Amazon Q는 엔터프라이즈 소프트웨어 버전 AWS에 대한 개발자 질문에 답변하고, 소스 코드를 수정하고, 소스를 인용하는 것을 목표로 하는 초기 기능을 갖춘 챗봇입니다. Amazon은 ChatGPT와 같은 소비자급 도구와 대조하면서 Q의 보안 및 개인 정보 보호를 강조했습니다.
그러나 내부 문서에 따르면 Q는 "환각"을 일으키고 다음과 같은 해롭거나 부적절한 반응을 제공할 수 있음이 밝혀졌습니다. 오래된 보안 정보 고객 계정을 위험에 빠뜨릴 수 있습니다. 이러한 위험은 대규모 언어 모델의 전형적인 현상이며, 모든 모델은 적어도 어떤 경우에는 부정확하거나 부적절한 응답을 제공하는 경향이 있습니다.
|로 슬래시닷
