부정확한 뉴스 알림 이후 애플이 AI 기능 업데이트

아이폰 제조사 애플은 부정확한 뉴스 알림을 발행하는 이 논란의 대상이 된 기능을 철회하라는 요구에 따라 AI 기능을 업데이트할 것이라고 밝혔습니다.

이 AI 기능은 뉴스 알림을 요약하는 것으로 예상되었지만, 때로는 위조된 뉴스를 아이폰에 게시하여 독자와 뉴스 출판사들의 불만을 샀습니다. 부정확한 뉴스 알림 중에는 라파엘 나달이 동성애자임을 공개했다는 주장과, 미국 보험사 최고경영자를 살해한 혐의로 기소된 남성이 자살했다는 주장이 포함되었습니다.

애플은 다가오는 몇 주 동안 업데이트를 출시할 예정입니다.

부정확한 뉴스의 유입으로 인해 애플은 추가적인 부정확한 뉴스 게시를 피하기 위해 AI 기능을 업데이트하겠다고 밝혔습니다.

기술 거대 기업에 따르면, 결함이 있는 기능을 수정하기 위해 다가오는 몇 주 동안 업데이트가 출시될 예정입니다. 애플은 뉴스 알림이 회사의 Intelligence 시스템에 의해 생성된 요약인지 여부를 더욱 명확히 할 소프트웨어 업데이트를 개발 중이라고 밝혔습니다.

이 AI는 속보 뉴스 알림을 요약하는 것을 목표로 하지만, 일부 경우 완전히 거짓 주장을 발명하기도 했습니다.

애플은 12월 BBC이 자사의 저널리즘이 왜곡되었다고 기술 거인에게 처음 불만을 제기한 이후에도 요약본이 AI 생성임을 명확히 하기 위해 노력하고 있다고 밝힌 이번 주에 대응했습니다.

BBC는 가디언의 전 편집장인 앨런 러스브리지에게서 애플이 더 나아가야 하며, 그가 분명히 준비되지 않은 제품이라고 말한 제품을 철회해야 한다고 들었습니다.

"이 기술은 통제 불능 상태였으며 상당한 허위 정보 위험을 초래했습니다." 메타의 콘텐츠 조정 결정에 대한 항소를 검토하는 메타의 감독 위원회에도 속해 있는 러스브리지의 발언입니다.

"이미 낮은 뉴스에 대한 신뢰를 거대한 미국 기업들이 들어와 이를 일종의 테스트 제품으로 사용하는 것 없이 유지하는 것이 중요합니다." 그는 BBC 라디오 4에서 이렇게 덧붙였습니다.

애플의 결함이 있는 기능은 12월에 일부 최신 아이폰 사용자(아이폰 16, 15 Pro, 15 Pro Max 포함)와 일부 아이패드 및 맥 사용자에게 출시된 AI 도구 중 하나였습니다.

"Apple Intelligence 기능은 베타 버전이며 사용자 피드백을 통해 지속적으로 개선하고 있습니다." 애플은 BBC에 성명을 통해 "앞으로 몇 주 내 소프트웨어 업데이트를 통해 표시되는 텍스트가 Apple Intelligence가 제공하는 요약인지 여부를 더욱 명확히 할 것입니다. 예상치 못한 알림 요약을 본 경우 사용자는 우려 사항을 보고해 주시기 바랍니다."라고 전하며 이 기술 기업은 이렇게 덧붙였습니다.

저널리스트 그룹들이 애플에 불만을 표시

지난주 애플의 AI는 BBC 앱 알림을 부정확하게 요약하여 루크 리틀러가 PDC 월드 다트스 선수권 대회 시작 몇 시간 전에 우승했다고 주장했습니다.

11월, 프로퍼블리카의 한 기자는 뉴욕타임스 앱의 알림에 대한 오류 있는 애플 AI 요약을 강조했는데, 이는 이스라엘의 벤자민 네타냐후 총리가 체포되었다고 보도했다는 내용을 시사했습니다.

1월 6일, 의회 폭동 4주년을 다루는 뉴욕타임스의 또 다른 부정확한 요약이 게재된 것으로 보입니다.

세계 최대 규모의 저널리스트 조합 중 하나인 전국저널리스트노조(NUJ)는 애플이 "신속히 행동"하여 Apple Intelligence를 제거함으로써 대중을 오도하는 것을 차단해야 한다고 우려를 표명했습니다.

NUJ는 다른 저널리즘 기관인 국경 없는 기자회(RSF)의 이전 호출을 지지했습니다.

"정확한 보도에 대한 접근이 그 어느 때보다 중요한 시기에, 대중은 자신이 받는 뉴스의 정확성을 두 번 고민하는 위치에 놓여서는 안 됩니다."

로라 데이비슨, NUJ 사무총장.

RSF 또한 애플의 개입이 충분하지 않다고 말하며 제품 오프라인화를 요구하는 목소리에 동참했습니다.

애플은 사용자의 프롬프트에 따라 텍스트, 이미지 및 기타 콘텐츠를 생성할 수 있는 생성형 AI 도구를 출시한 유일한 기업이 아니지만, 결과는 다양합니다.

구글의 AI 개요 기능은 사용자의 쿼리에 응답하여 검색 엔진 결과 상단에 정보의 텍스트 요약을 제공하는 기능으로, 지난해 일부 비정상적인 응답을 생성했다는 비판을 받았습니다.

이와 관련해 구글 대변인은 이는 고립된 사례이며 해당 기능은 전반적으로 잘 작동하고 있다고 밝혔다.