Defcon 해커들이 AI 기술의 우려스러운 결함을 폭로

라스베이거스에서 열린 연례 Defcon 해커 컨퍼런스에서, 해커 그룹은 AI 기술의 취약점을 테스트하기 위해 고용되어 일련의 우려스러운 결함을 드러냈습니다. 바이든 행정부의 승인을 받아, 이러한 해커들은 다양한 AI 프로그램의 잠재적 약점을 식별하고 악의적 행위자들이 이를 악용하기 전에 문제를 발견하는 것을 목표로 했습니다.

AI의 어두운 면 테스트

대회 참가자 중 한 명인 아비짓 고쉬는 'Zinc'이라는 AI 모델이 인종에 기반하여 지원자를 차별하는 코드를 생성하도록 유도하려고 시도했습니다. 모델은 윤리적 우려를 이유로 거부했습니다. 그러나 고쉬가 인도의 위계적 카스트 구조를 언급하자, AI는 차별적인 지표를 기반으로 잠재적 채용자를 순위 매기는 그의 요청에 따랐습니다. 이 실험은 AI가 유해한 편견과 고정관념을 영속시킬 수 있는 능력을 보여주었습니다.

바이든 행정부의 우려

AI 기술의 급속한 성장과 그 잠재적 결과에 우려를 표한 바이든 행정부는 Defcon 행사를 지원하고 모니터링했습니다. 기술의 확장되는 힘으로 인해, 윤리적이고 책임 있는 사용에 대한 긴급한 대응이 요구되고 있습니다.

구글, OpenAI(ChatGPT의 제작사), 메타(구 페이스북)와 같은 기업들은 대회 동안 검토를 위해 익명화된 버전의 AI 모델을 제공했습니다. 이 행사에는 기술 거대 기업의 전문가부터 특정 AI나 사이버보안 배경이 없는 개인에 이르기까지 다양한 수준의 전문성을 가진 참가자들이 모였습니다.

사회에서 AI의 영향력 증가

AI의 급속한 발전은 허위 정보 확산, 고정관념 영속, 유해한 행동 가능화에 대한 우려를 불러일으켰습니다. Defcon 행사는 이러한 잠재적 문제를 발견하는 것을 목표로 했으며, AI의 증가하는 능력과 관련된 위험에 대한 통찰력을 제공했습니다.

대회 동안 해커들은 AI 모델을 조작하여 부정확한 정보를 생성하도록 시도했으며, 그 결과 정치적 허위 정보, 인구통계학적 고정관념, 심지어 감시 기술에 대한 지침이 생성되었습니다. 이러한 발견들은 AI 기술의 책임 있는 사용을 보장하기 위해 AI 기술을 철저히 평가할 필요성을 강조합니다.

윤리적 고려사항

이 대회는 이러한 노력에 AI 기업들이 관여하는 것과 관련된 윤리적 질문을 제기했습니다. 의도는 AI 모델을 악의적으로 행동하도록 강요하는 것이 아니었지만, 참가자들은 숨겨진 취약점을 식별하는 것을 목표로 했습니다. 이러한 접근 방식은 이전에 알려지지 않았던 결함과 우려를 발견하는 데 도움이 되었습니다.

레드 팀링의 역할

이 대회는 또한 레드 팀링의 중요성이 커지고 있음을 시사합니다. 레드 팀링은 취약점을 악용하여 보안 시스템을 테스트하는 것을 포함합니다. 팀들은 공개적으로 이용 가능한 데이터와 자체 자원을 사용하여 AI 모델을 조작하기 위한 전략을 개발하고 테스트했습니다. 이러한 기술은 조직이 악의적 행위자에 대한 방어력을 개선하고 더 나은…

AI 시스템의 방어를 돌파하려는 시도를 포함하는 레드 팀링 관행은 대회의 핵심 구성 요소였습니다. 레드 팀링은 오랫동안 사이버보안에서 취약성을 평가하는 데 사용되어 왔으며, 이 행사는 이를 AI 시스템에 적용하는 데 있어 중요한 한 걸음을 의미합니다.

다양한 테스트의 중요성

이전에 AI 시스템을 테스트한 사람의 수가 제한적이었기 때문에 고립된 오류와 구조적 문제를 구분하는 능력이 저해되었습니다. Defcon 대회는 더 넓은 범위의 잠재적 결함을 식별하기 위해 다양하고 광범위한 테스트 그룹의 중요성을 부각시켰습니다.

Defcon의 테마 공간인 'AI Village'는 기술 거대 기업과 AI에 열정을 가진 개인을 포함하여 다양한 배경을 가진 참가자들을 끌어모았습니다. 일부 참가자들은 비윤리적 관행에 연루되었다고 간주하는 AI 기업들과의 협력에 대해 우려를 표명했습니다. 그러나 Defcon과 같은 행사에 산업을 참여시키는 것은 기술의 보안과 투명성을 향상시킬 수 있습니다.

AI의 취약점 발견

대회는 AI 모델의 결함을 성공적으로 발견했으며, 이는 일관되지 않은 언어 번역과 부적절한 콘텐츠 생성과 같은 것이었습니다. 이러한 취약점은 AI 기술이 사회의 다양한 측면에 더 깊이 통합됨에 따라 해결하는 것이 중요합니다.

스탠퍼드 대학교의 학생인 코디 호는 대회에서 최상위 성적을 거둔 참가자 중 한 명으로 떠올랐습니다. 그의 AI 모델 실험은 모델이 조작과 허위 정보에 얼마나 취약한지를 보여주었습니다. 이 행사는 AI 취약점을 이해하는 데 있어 교육적이며 동시에 재미있는 측면을 모두 보여주었습니다.

AI의 능력이 확장됨에 따라 긍정적인 기여의 잠재력은 그 오용과 관련된 위험과 함께 증가합니다. Defcon 해커들과 AI 기업 간의 협력은 이러한 도전을 포괄적으로 이해하고 해결하기 위한 한 걸음입니다.

Defcon 해커 컨퍼런스는 AI 기술의 취약점을 조명했습니다. 다양한 배경을 가진 참가자들과 저명 AI 기업들의 참여로, 이 행사는 우려스러운 결함을 드러냈으며, 사회에서 AI의 책임 있는 개발과 사용에 대한 필요성을 강화했습니다.