- 메이저 AI 기업들이 생성형 AI 기술에 대한 우려가 커짐에 따라 안전성을 강화하기 위해 AI 콘텐츠에 워터마킹을 도입하기로 약속했습니다.
- 바이든 대통령은 AI 기술의 규제와 더 높은 수준의 안전 및 개인정보 보호를 위해 행정명령과 입법을 적극적으로 추진 중입니다.
- AI 생성 콘텐츠에 워터마킹을 적용하는 것은 딥페이크의 잠재적 위험을 차단하고 사용자 인식을 제고하기 위한 목적입니다.
AI 안전성 우려를 해소하기 위한 중요한 조치로, 빅테크 기업들은 AI 남용 및 오용을 방지하기 위한 노력의 일환으로 AI 생성 콘텐츠를 식별하는 데 도움이 되는 워터마킹과 같은 자율적 가이드라인을 채택하기로 약속했습니다. 아마존, 앤트로픽, 구글, 메타, 마이크로소프트, 오픈AI 및 ML 스타트업 인플렉션을 포함한 이러한 기업들은 바이든 행정부와 독립 전문가들의 시스템 테스트에 응하기로 합의했습니다. 이 같은 움직임은 생성형 AI 기술의 인기와 투자 증가에 따라 국가 안보와 경제를 보호하기 위한 규제를 고려하는 전 세계 입법자들을 촉발시켰습니다.
AI 기술에 대한 우려 해소
데이터를 활용하여 인간과 유사한 콘텐츠를 생성하는 생성형 AI의 급속한 성장은 다양한 도메인에 대한 잠재적 위험에 대한 우려를 불러일으켰습니다. 미국 상원 다수당 지도자 척 슈머는 6월 인공 지능에 적절한 안전 장치를 마련하기 위한 포괄적인 입법을 촉구했습니다. 이러한 우려를 해소하기 위해 의회는 AI가 콘텐츠 생성에 사용되었는지 여부를 공개하도록 요구하는 법안을 검토 중입니다.
조 바이든 대통령은 AI 기술을 추가로 규제하기 위한 행정명령과 양당 입법을 개발하는 데 적극적으로 노력하고 있습니다. 이러한 노력의 일환으로, 주요 AI 기업 7사의 임원들이 금요일 백악관에서 모여 자신의 약속을 논의합니다. 기업들은 텍스트, 이미지, 오디오, 비디오를 포함한 모든 형태의 AI 생성 콘텐츠에 대한 워터마킹 시스템을 개발하기로 동의했습니다. 이 워터마킹 기법은 AI 기술이 콘텐츠 생성에 사용되었음을 사용자에게 명확히 알려주는 것을 목표로 합니다.
향상된 AI 안전성을 위한 워터마킹
제안된 워터마킹 시스템은 AI 생성 콘텐츠와 관련된 잠재적 위험을 퇴치하는 데 필수적일 것으로 예상됩니다. 기술적으로 콘텐츠에 워터마킹을 삽입함으로써 사용자는 존재하지 않는 폭력을 묘사하거나 사기를 조장하거나 정치인을 나쁘게 보이게 할 수 있는 딥페이크 이미지나 오디오를 더 잘 식별할 수 있게 됩니다. 그러나 정보 공유 중 워터마킹이 어떻게 표시될지에 대한 세부 사항은 아직 명확히 되지 않았습니다.
디지털 워터마크는 운반 신호의 진위 또는 무결성을 검증하거나 소유자의 신원을 나타냅니다. 워터마크는 문서 유출을 방지하는 역할을 할 뿐만 아니라, 유출이 발생했을 때 허용된 수신자의 이름이 포함된 워터마크가 파일에 적용되면 유출 원인을 쉽게 식별할 수 있습니다. 디지털 워터마킹은 식별 정보가 쉽게 눈에 띄지 않는 방식으로 데이터 운반체에 임베딩되고, 데이터 사용에는 영향을 주지 않는 기술입니다. 이 기술은 종종 멀티미디어 데이터의 저작권을 보호하고, 데이터베이스와 텍스트 파일을 보호합니다.
워터마킹을 넘어선 약속
기업들의 약속은 워터마킹을 넘어 AI 기술이 발전함에 따라 사용자 프라이버시를 보호하는 것으로 확장됩니다. 또한 그들은 AI 시스템이 편향 없이 작동하도록 하고 취약한 집단에 대한 차별을 유발하는 데 사용되지 않도록 보장할 것을 다짐했습니다. 기업들은 AI 시스템의 기능과 한계, 그리고 윤리적 사용 가이드라인을 공개적으로 보고할 것이라고 밝혔습니다. 기업들은 AI가 제기하는 사회적 위험에 대한 연구를 수행할 계획입니다. 또한 이러한 기업들은 의학적 연구 및 기후 변화 완화와 같은 과학적 과제를 해결하기 위해 AI 솔루션을 배포할 것을 약속했습니다.
AI 안전성을 위한 한 걸음
이러한 주요 AI 기업들이 한 자율적 약속은 AI 기술과 관련된 안전 우려를 해소하는 데 있어 중요한 진전을 의미합니다. 산업계 리더들의 협력과 지속적인 규제 노력으로 인해 AI가 책임 있는 관행을 준수하면서 계속 번영할 수 있다는 낙관론이 제기되고 있습니다.
생성형 AI의 인기와 투자가 계속 증가함에 따라 전 세계 규제당국과 입법자들은 잠재적 위험을 해소하는 데 주력하고 있습니다. 최고 AI 기업들이 워터마킹 조치를 구현하고 책임 있는 관행을 통해 안전성을 강화하기로 한 약속은 이 분야의 긍정적인 발전을 나타냅니다. 바이든 대통령의 행정명령 및 양당 입법 개발 노력은 AI 기술의 안전하고 윤리적인 사용 보장의 중요성을 더욱 강화합니다. 산업계 이해관계자와 규제 기관 간의 지속적인 협력을 통해 AI는 사회적 위험을 완화하면서 그 잠재력을 최대한 발휘할 수 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항: 제공된 정보는 거래 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 바탕으로 이루어진 어떠한 투자에 대해서도 책임을 지지 않습니다. 어떠한 투자 결정을 내리기 전에 반드시 독자적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
글로리 카부루
글로리는 AI 도구와 연구에 능통한 매우 유능한 저널리스트입니다. 그녀는 AI 에 열정을 가지고 있으며 이 주제에 관한 여러 편의 기사를 집필했습니다. 그녀는 인공지능, 머신러닝, 딥러닝 분야의 최신 동향을 항상 파악하고 정기적으로 글을 씁니다.
