사회적 혐오 조장하는 AI 이미지 논란
이탈리아 야당이 마테오 살비니 부총리가 이끄는 극우 정당의 AI 생성 이미지를 규제 당국에 신고했다. 이 이미지는 인종 차별, 이슬람 혐오, 외국인 혐오적 내용을 담고 있다고 비판받고 있다.
디지털 조작된 이미지로 인한 사회적 우려
한 달간 살비니의 당이 운영하는 소셜 미디어에는 흑인을 포함한 유색인종 남성들이 무기를 들고 여성이나 경찰을 공격하는 이미지가 다수 게시되었다. 이 이미지들은 주로 인공지능을 통해 생성되었으며, 피해자의 얼굴을 흐릿하게 처리하여 사용자들이 실제 상황으로 오인하게 만들고 있다. 이는 혐오 감정을 부추기는 방식으로 이용되었다고 PD의 안토니오 니시타 상원의원은 전했다.
사실 왜곡을 조장하는 AI 이미지
극좌 녹색당의 프란체스코 에밀리오 보렐리 의원은 이러한 이미지들이 공포를 조성하는 전략의 일환이라고 지적하며, AI가 특정 지시를 받아 검은 인종의 사람들이 범죄를 저지르는 장면을 생성한 것이라고 밝혔다. 살비니 당의 대변인은 제시되는 이미지가 디지털로 생성된 것이라고 인정하며, 뉴스의 사실에 기반한 것이라고 주장했다.
AI 생성 이미지의 윤리적 문제
비영리단체 AI 법의학 책임자인 살바토레 로마노는 이러한 이미지들이 AI의 전형적인 특징을 보여주며 더욱 현실감 있는 모습으로 진화하고 있다고 경고했다. 이탈리아 통신 규제 당국 Agcom에 제출된 신고서는 여러 예시 이미지를 지적하면서, 신뢰할 만한 주류 언론사의 브랜딩과 함께 차별적 이미지를 사용한 것에 문제를 제기했다.
디지털 서비스 법에 따른 조치 가능성
만약 Agcom이 문제의 콘텐츠를 모욕적이라고 판단할 경우, 유럽연합의 디지털 서비스 법에 따라 게시물을 삭제하고 계정을 폐쇄하며 소셜 미디어 플랫폼에 벌금을 부과할 수 있다. 2023년, Agcom은 Meta에게 잘못된 사용자 행태 관리로 인해 벌금을 부과한 바 있다.
소셜 미디어의 대응 및 방침
Meta와 X는 이에 대한 입장을 밝히며, AI가 생성한 이미지에 대한 명확한 표기를 요구하는 조치를 취하고 있다고 전했다. X는 특히 조작된 미디어의 확산을 방지하기 위한 준비가 되어 있으며, 환경에 맞게 대응할 것이라고 강조했다.
출처 : 원문 보러가기
