온라인 판매업체의 AI 책임: 위험한 정보 확산
전문가들은 아마존과 같은 온라인 판매업체가 AI가 생성한 작업으로부터 고객을 보호할 책임이 있다고 주장하고 있다. 특히 ADHD 관리 기술을 찾는 이들을 대상으로 하는 책들이 챗봇에 의해 작성된 것으로 보이며, 이는 전문적인 조언 대신 해로운 정보를 포함할 수 있는 위험성을 지닌다.
AI 생성 콘텐츠의 위험성 부상
아마존 마켓플레이스에는 인공지능을 통해 제작된 기술서적들이 넘쳐나고 있다. 이 책들은 출판이 쉬운 장점이 있지만, 제대로 된 정보 대신 잘못된 정보를 제공하거나 위험한 조언을 포함할 수 있다. 예를 들어 못난 여행 안내서나 버섯 채집책은 독자들에게 잘못된 시도를 유도할 수 있다.
신뢰할 수 없는 AI 기사의 문제점
컴퓨터 과학 연구원 마이클 쿡은 AI가 생성한 작업에 대한 규제 부족으로 인해 온라인 마켓플레이스가 규제되지 않은 환경이 되었다고 지적했다. AI 시스템은 종종 유해한 조언을 제공할 수 있어 건강 지침을 무시하는 등의 심각한 결과를 초래할 수 있다는 것이다.
아마존의 윤리적 책임
에든버러 대학교 테크노모랄 퓨처 센터의 샤넌 발로르 교수는 아마존이 고객과 사회에 해를 끼치지 않도록 해야 할 윤리적 책임이 있다고 강조했다. 출판 산업의 기존 안전장치가 AI에 의해 변화하면서 도덕적 규제가 느슨해진 상황이 문제라고 지적했다.
인식을 위한 광고 규제 필요
현재 AI가 작성한 책이라는 표시는 법적으로 요구되지 않는다. 광고 기준 기관은 AI 작성 책이 인간에 의해 쓰였다는 오해를 불러일으킬 수 없게 할 방침이다. 이런 책들을 본 사람들은 잘못된 정보를 토대로 불만을 제기할 수 있다.
실제 사례: 독자 피해
리처드 워즈워스는 성인 ADHD 진단을 받은 후 아마존에서 검색한 책을 통해 혼란스러운 정보를 접했다. 저자의 AI 생성된 사진, 자격 부족 등을 발견하고 다양한 책들이 잘못된 정보를 포함하고 있다는 점에 충격을 받았다.
아마존의 향후 대처 계획
아마존 대변인은 콘텐츠 가이드라인을 통해 위반 콘텐츠를 감지하고 제거하고 있으며, 비준수 콘텐츠에 대한 보호를 강화할 것이라고 밝혔다. 향후 출판의 변화를 반영하여 프로세스와 가이드라인을 계속 개선해나갈 계획이라고 덧붙였다.
출처 : 원문 보러가기
