뉴저지 고등학교, AI 생성 이미지 스캔들에 맞서 싸우다

오락

AI가 생성한 뉴저지의 한 고등학교 여학생들의 음란한 사진이 경찰의 조사와 학부모들의 반발을 불러일으켰다. 보고서에 따르면 남학생들이 사진을 제작한 후 공유됐다.

Forbes에 따르면 사건의 중심은 맨해튼에서 서쪽으로 약 25마일 떨어진 부유한 지역에 위치한 Westfield 고등학교입니다.

학생들은 월스트리트 저널에 자신의 친구 중 한 명 이상이 인터넷 AI 애플리케이션을 사용하여 이러한 포르노 사진을 만들었고 이후 소셜 미디어 네트워크에 공유했다고 말했습니다.

걱정스러운 한 어머니는 10월 16일에 자신의 딸이 학교 2학년 남학생들 사이에서 이상한 행동을 목격했다고 말했습니다.

인터넷에서 소녀들의 사진을 변조해 만든 음란물 이미지를 제작하고 그룹 채팅을 통해 공유하는 등 이러한 활동의 ​​본질은 10월 20일까지 동료 학생에 의해 밝혀지지 않았습니다.

학부모들은 또한 학교 행정관들이 몇몇 여학생들에게 이러한 가짜 노골적인 사진과의 연관성에 대해 말했다고 말했습니다. 그러나 학교에서는 교직원이 이 사진을 직접 본 경우 이를 확인하지 않습니다.

다른 부모인 도로타 마니(Dorota Mani)는 자신의 14세 딸 프란체스카의 사진이 '딥페이크' 제작에 활용된 것에 대해 걱정을 표했다. 실제 사진과 매우 유사한 고급 위조품을 딥페이크라고 합니다. 마니는 딸의 개인 생활과 직업 생활에 미칠 수 있는 영향에 대해 우려를 표명한 뒤 경찰에 신고했습니다.

시각적 위협 인텔리전스 기업인 Sensity는 딥페이크 이미지의 90% 이상이 본질적으로 노골적이며 잘 알려진 사람의 초상이 포함되어 있는 경우가 많다고 주장합니다.

Westfield 고등학교에 다니는 약 1,900명의 학생의 부모는 Mary Asfendis 교장으로부터 이 행사에 대한 정보를 받았습니다. 그녀는 사진이 제거되어 더 이상 사용되지 않는다고 말했습니다.

Asfendis는 상황이 얼마나 심각한지, 그리고 학생들이 자신의 행동의 결과를 이해하는 것이 얼마나 중요한지 강조했습니다. 그녀는 또한 학생들에게 기술을 책임감 있게 사용하는 방법을 계속 가르치겠다고 약속했습니다.

얼마나 많은 학생들이 가상의 외설 사진을 제작하는 데 관여했는지, 어떤 징계 조치가 취해졌는지에 대한 정보는 공유되지 않습니다.

웨스트필드 최초의 여성 시장인 셸리 브린들(Shelley Brindle)은 여성과 소녀들의 권리를 위해 싸울 것을 약속하고 깊은 우려를 표명했습니다.