"AI 누드화 앱을 즉각 금지해야 한다" 강조
영국의 아동 청소년 권리 옹호자인 레이첼 드 수자 경은 인공지능(AI) 기술을 활용해 아동의 사진을 성적인 이미지로 가공하는 '누드화(nudification)' 앱이 즉각 금지되어야 한다고 경고했다. 드 수자 경은 특히 이러한 기술이 청소년, 특히 소녀들 사이에서의 두려움을 유발하고 있으며, 이로 인해 소셜 미디어에 사진을 게시하지 않으려는 움직임이 나타나고 있다고 밝혔다.
"앱의 존재할 이유 없다" 정부의 강력한 조치 촉구
드 수자 경은 “이 같은 앱들은 사회에 존재할 이유가 없다”며 정부가 이러한 기술을 합법화된 상태로 방치하지 말고 즉각적인 금지 조치를 취해야 한다고 강조했다. 또한, AI 개발자들이 이러한 기술로 인한 위험을 해결하도록 요구하는 법안을 촉구하며, 아동의 성적 이미지가 생성되지 않도록 예방적인 시스템 구축을 주문했다.
"청년 세대 AI의 위험성 인식 필요"
보고서는 AI 누드화 앱이 주로 여성의 몸에 적용되고 있어, 사회에 부정적인 영향을 미치고 있음을 지적했다. 드 수자 경이 인용한 한 18세 소녀는 AI 기술이 점점 더 폭력적인 포르노 산업과 결합하면서, 이러한 기술이 사람들을 압박하는 도구로 인식되고 있다고 전했다.
"법적 대응 필요성과 청소년 보호 강화해야"
법률 전문가들은 이러한 앱들이 인터넷 자유 논쟁을 일으킬 가능성이 있지만, 법 집행 기관이 피해자를 보호하기 위해 개입해야 한다고 주장했다. 특히, CEO는 범죄로 쉽게 이어질 수 있는 AI 기술을 다루는 청소년의 행위가 단순한 실험으로 여기지 않도록 각별히 주의를 기울여야 한다고 강조했다.
주의 필요한 부모와 청소년, 정부의 대응 필요
법률 전문가들은 부모들이 자녀의 온라인 활동을 더 주의 깊게 살펴볼 것을 권고하며, 정부 또한 불법적인 콘텐츠 접근을 강화하는 조치를 취해야 한다고 밝혔다. 이에 대해 정부는 아동 성적 학대 자료의 생성, 보유, 배포가 불법임을 강조하며, Online Safety Act를 통해 모든 플랫폼이 해당 콘텐츠를 제거해야 한다고 밝혔다.
이러한 모든 내용은 AI 누드화 앱의 위험성을 경고하며, 청소년 보호와 법적 대응의 필요성을 강조하는데 초점을 맞추고 있다.
출처 : 원문 보러가기
