AI 생성 이미지 논란, 뉴스 기관들의 윤리적 질문 촉발

의회의원 이미지가 AI 기술을 사용하여 부적절하게 조작된 사건 이후, 뉴스 기관들은 윤리적 질문에 직면하게 되었습니다. 빅토리아 동물 정의당 소속 의회 의원 조지 퍼셀은 나인 뉴스(Nine News) 보도에서 그녀의 이미지가 디지털로 변조된 모습을 보고 충격을 받았습니다. 이는 저널리즘에서 AI 사용의 경계에 대한 우려를 제기했습니다.

조지 퍼셀의 충격은 주가 오리 사냥을 허용하기로 한 결정에 대한 나인 뉴스 보도를 시청하는 동안 발생했습니다. 보도에서 그녀의 이미지는 승인되지 않은 변경의 대상이 되었으며, 여기에는 유방 확대와 드레스를 크롭 탑으로 변경하는 것이 포함되었습니다. 나인 뉴스는 나중에 이미지 조작이 온라인에서 가져온 사진을 리사이즈하는 동안 어도비 포토샵 프로그램의 자동화 기능 때문이라고 사과했습니다. 어도비는 이러한 변경에 인간의 개입과 승인이 필요하다고 명확히 하며, 이 설명의 정확성에 의문을 제기했습니다. 다음은 크립토폴리탄(Cryptopolitan)에 보내진 어도비의 공식 성명입니다:

어도비는 우리의 기술이 우리의 AI 윤리 원칙 책임, 책임감 및 투명성에 따라 개발되고 고객과 커뮤니티를 존중하도록 보장하기 위해 노력합니다. 우리는 콘텐츠 자격 증명(디지털 콘텐츠의 '영양 성분 표시'로, 콘텐츠가 사용, 게시 또는 저장되는 곳 어디에든 연결됨)을 가능하게 하기 위해 고객 및 파트너와 협력하고 있습니다. 이 특정 이미지에 대한 편집에는 인간의 개입과 승인이 필요했을 것입니다.

어도비 디지털 미디어 프레스 팀

독일어 버전:

어도비는 우리의 기술이 우리의 인공지능(KI)에 대한 윤리적 원칙 책임, 책임감 및 투명성에 따라 개발되고 고객 및 사회를 존중하도록 보장하기 위해 노력합니다. 우리는 고객 및 파트너와 협력하여 디지털 콘텐츠의 '영양 성분 표시'와 같은 '콘텐츠 자격 증명'을 확립하고 있습니다. 이는 콘텐츠가 사용, 게시 또는 저장되는 곳 어디에든 연결된 상태로 유지됩니다.

어도비 프레스 팀

AI의 급속한 발전

조지 퍼셀의 경험은 저널리즘에서 AI 기술의 윤리적 영향력에 대한 논의를 촉발했습니다. 그녀는 AI가 관련 법규 개발 속도를 앞지르는 속도로 진행되고 있다는 우려를 표명했습니다. 그녀의 감정은 미디어를 포함한 다양한 산업에서 AI 사용에 대응하기 위해 업데이트된 규제의 필요성을 고려하는 많은 사람들과 공명합니다.

산업 및 과학 장관 에드 휴식은 신속한 조치의 필요성을 인정하며, 연방 정부가 AI의 책임감 있고 안전한 사용에 대한 기준을 설정하기 위해 적극적으로 노력하고 있다고 강조했습니다. 그는 이 사건을 기업들에게 더 높은 윤리적 기준을 준수하도록 촉구하는 경고로 규정했습니다.

이 사건은 뉴스 기관들이 저널리즘에 AI 기술을 통합하는 과정에서 직면하는 도전을 부각시켰습니다. RMIT 대학교의 시니어 미디어 강사 TJ 톰슨은 인간의 감독 없이 이루어지는 저널리즘이 윤리적 우려를 제기한다고 지적했습니다. 그는 미디어 엔터테인먼트 예술 연맹의 윤리 강령을 언급하며, 오해의 소지가 있는 조작을 공개하는 등 정확한 이미지를 제시하는 것의 중요성을 강조했습니다.

전 세계 뉴스 기관들은 생성형 AI에 대한 명확한 정책 개발의 필요성에 직면하여 최선의 관행 지침을 적극적으로 찾고 있습니다. 2024년은 많은 국가들이 선거를 치르는 해로, 뉴스 보도의 신뢰성과 무결성이 중요한 역할을 하기 때문에 책임감 있는 AI 사용이 특히 중요합니다.

이전 AI 생성 이미지 사례

이 사건은 미디어 회사가 AI 생성 이미지를 사용한 첫 번째 사례가 아닙니다. 9월, 오스트레일리아 파이낸셜 리뷰는 AI 생성 초상화를 사용하여 헤드라인을 장식했으며, 이는 생성된 이미지의 품질에 대한 불일치를 지적하는 일부 의견을 제외하고mixed reviews를 받았습니다. 또한, 온라인에서 유명인의 가짜 성적으로 노골적인 이미지가 확산되는 것에 대한 우려가 커지고 있으며, 이는 AI 기반 콘텐츠 생성이 제기하는 도전을 부각시킵니다.

이미지 조작은 새로운 개념이 아니지만, AI 기술의 발전으로 인해 더 효과적이고 현실적이 되었습니다. 모나시 대학교의 데이터 과학자 제프리 웹은 에어브러싱과 같은 구식 기술이 이미지를 변경하는 데 사용되었지만, 현대 AI는 이러한 수정을 더 높은 정밀도와 정확도로 달성할 수 있다고 설명했습니다.

뉴스 보도에서 AI 이미지의 부적절한 사용과 관련된 사건은 기술의 급속한 발전이 제기하는 윤리적 질문에 대한 stark한 reminders입니다. 뉴스 기관들은 효율성을 위해 AI를 활용하는 것과 책임감 있고 윤리적인 사용을 보장하는 것 사이의 균형을 맞추는 필요성에 직면해 있습니다. 논의가 계속됨에 따라, 투명성, 책임감 및 윤리 지침 준수는 진화하는 저널리즘 및 AI 통합 환경에서 가장 중요합니다.