허위 살인 사건으로 ChatGPT에 대한 고소장 제출

3월 20일 프라이버시 캠페인 단체에 따르면 OpenAI는 현재 노르웨이 남성이 자신의 자녀를 살해했다고 잘못 주장하여 '공포 이야기'를 조작했다는 의혹을 받고 있는 챗봇 ChatGPT에 대한 고소를 당한 상태입니다.

이 최신 사건은 미국 기술 회사에 대한 불만 목록에 추가되며, 사용자들은 다음과 같이 보고하고 있습니다.ChatGPT 개인의 평판을 해칠 수 있는 허위 정보를 유포했습니다.

비엔나에 본사를 둔 노이브(Noyb, )는 보도자료를 통해 이렇게 말했습니다:

OpenAI의 인기 챗봇인 ChatGPT는 사람에 대한 잘못된 정보를 수정할 수 있는 방법을 제공하지 않고 정기적으로 잘못된 정보를 제공합니다;

이 그룹은 노르웨이 사용자 아르베 할마르 홀멘의 사례처럼 챗봇이 부패, 아동 학대, 심지어 살인 등 심각한 범죄를 저지른 사람들을 거짓으로 고발한 몇 가지 사례를 강조했습니다.

ChatGPT에 따르면 노르웨이 남성이 자녀를 살해한 이유

홀멘이 어떤 정보를 파악하려고 할 때ChatGPT 프라이버시 옹호 단체인 노이브에 따르면, 그는 자신에 대해 조작된 불안한 이야기를 접하게 되었습니다.

챗봇은 그가 두 명의 자녀를 살해하고 세 번째 아들을 살해하려 했다며 그를 유죄 판결을 받은 범죄자로 거짓 묘사했습니다.

노이브는 이렇게 말했습니다:

설상가상으로 이 가짜 이야기에는 그의 사생활에 대한 실제 요소도 포함되어 있었습니다;

얄마르 홀멘은 이렇게 말했습니다:

"어떤 사람들은 '불 없는 연기는 없다'고 생각합니다. 누군가 이 결과를 보고 사실이라고 믿을 수 있다는 사실이 가장 두렵습니다."

노르웨이 남성, 가짜 살인 사건의 결과물 삭제를 원하다

노르웨이 데이터 보호 당국(데이터틸시넷)에 제기한 불만 사항에서 프라이버시 단체인 Noyb는 OpenAI가 다음에서 생성한 명예 훼손 콘텐츠를 삭제할 것을 요구하고 있습니다.ChatGPT 향후 부정확성을 방지하기 위해 모델을 미세 조정합니다.

Noyb의 데이터 보호 변호사인 Joakim Soederberg는 EU 데이터 보호 규정에 따라 개인 데이터는 정확해야 한다고 강조했습니다.

그는 이렇게 말했습니다:

그는 챗봇이 실수를 할 수 있다는 '작은' 면책 조항을 사용자에게 보여주는 것만으로는 충분하지 않다고 말하며, "만약 그렇지 않다면 사용자는 진실을 반영하도록 변경할 권리가 있다"고 덧붙였습니다.

업데이트가 진행되는 동안ChatGPT 이제 챗봇이 홀멘을 살인범으로 식별하지 못한다고 노이브는 주장하지만, 잘못된 정보는 시스템에 여전히 남아 있습니다.

이러한 상황은 AI가 생성한 잘못된 정보를 처리하는 데 따르는 어려움을 강조하고 강력한 데이터 정확도 조치의 필요성을 강조합니다.

이는 이전에 Noyb가 오스트리아에서 제기한 불만 사항에 따른 것으로, 다음과 같이 주장했습니다.ChatGPT OpenAI가 아직 수정하지 않은 오답을 자주 '환각'합니다.