빠르게 성장하는 AI 채택으로 인해 인류는 치명적인 위험에 직면하게 되었습니다. 충격적인 사건으로 'AI의 대부'로 널리 알려진 제프리 힌튼(Geoffrey Hinton) 박사가 구글에서 사임하고 인공지능의 위험성에 대해 엄중 경고했다.
AI는 인류에게 가장 큰 위협으로 밝혀졌다
보도에 따르면 'AI의 대부'인 그는 인공지능의 잠재적 위험에 대해 더 공개적으로 이야기하기 위해 구글 직위에서 사임했습니다. 기술. Geoffrey Hinton 박사는 회사를 떠나기 전 10년 넘게 Google에서 기계 학습 알고리즘을 연구했습니다. 평생 동안 신경망에 대한 연구를 통해 이 명칭을 얻은 것으로 알려졌습니다.
제프리 박사의 사임은 인공지능 활용에 대한 우려가 커지는 가운데 나왔다. 의료, 금융, 운송 등 다양한 산업 분야에서 비평가들은 인공지능이 직업 대체, 개인 정보 침해, 심지어 자율 무기 개발로 이어질 수 있다고 주장합니다.
뉴욕타임즈와의 인터뷰에서 그는 인공지능을 이용해 사람들이 더 이상 무엇이 진실인지 알 수 없을 정도로 가짜 사진, 비디오, 텍스트로 인터넷을 범람시키는 것에 대해 가장 우려한다고 말했습니다 . 더 이상.”
힌튼은 인공지능 기술이 인간 노동을 대체하는 것에 대해서도 우려했다. 그는 인공지능이 분석하는 방대한 양의 데이터에서 예상치 못한 행동을 포착하는 능력으로 인해 미래 인류에게 위협이 될 수 있다고 믿습니다. Hinton은 또한 자신의 평생 작업에 대해 약간의 후회를 표명했습니다.
나는 일반적인 변명으로 나 자신을 위로합니다. 내가 하지 않았다면 다른 누군가가 그랬을 것입니다.
제프리 힌튼 박사
제프리 힌튼(Geoffrey Hinton) 박사의 사임은 많은 전문가들이 인공지능에 대한 더 큰 감독과 규제를 요구하는 등 기술 산업 전반에 충격파를 일으켰습니다. 인공 지능의 위험과 이점에 대한 논쟁이 계속되면서 Geoffrey Hinton 박사와 같은 선구자들의 기여가 빠르게 진화하는 이 기술의 미래를 형성하는 데 결정적인 역할을 할 것이라는 점은 분명합니다.
많은 기술 전문가들은 인공 지능의 위험성에 대해 경고합니다.
최근 몇 달 동안 규제 기관, 입법자 및 기술 산업 리더들은 모두 인공 지능 개발에 대해 우려를 표명했습니다. 2,600명 이상의 기술 경영진과 연구원들은 지난 3월 “사회와 인류에 대한 심각한 위험”을 언급하며 인공 지능 개발의 일시적인 중단을 촉구하는 공개 서한에 서명했습니다.
지난 4월 12명의 유럽연합(EU) 의원들이 비슷한 서한에 서명했고, 최근 EU 법안 초안은 인공지능 도구를 위험 수준에 따라 분류했다. 또한 영국은 '안전한 AI' 개발 태스크포스에 1억2500만 달러를 제공할 예정이다.
보도에 따르면 인공지능 도구는 이미 허위 정보를 퍼뜨리는 데 사용되고 있으며, 최근 언론 매체가 속아서 거짓 뉴스를 게시하는 사례도 있습니다. 게다가 독일의 한 매체는 인공지능을 이용해 인터뷰를 조작하기도 했습니다.
Binance 5월 1일 CEO 창펑 "CZ" 자오가 중국 공산당 학생 조직의 일원이었다고 주장했는데 dent 이는 챗봇의 스크린샷에서 알 수 있듯이 ChatGPT에서 유래한 챗봇에 의해 전파되었습니다.
지난 주에는 장난꾸러기 그룹이 Daily Mail과 The Indepen dent 포함하여 전 세계 여러 언론 매체를 속였습니다. 데일리 메일은 캐나다 배우 '세인트 폰 콜루치(Saint Von Colucci)'가 한국 팝스타처럼 보이기 위해 성형수술을 받은 뒤 사망했다는 기사를 게재했다. 이후 Daily Mail은 해당 기사를 삭제했습니다.
AI가 인류에게 예측할 수 있는 위험은 무엇입니까?
인공지능이 인류에게 미칠 여러 가지 예측 가능한 위험이 있으며, 그 중 일부는 이미 경험하고 있고 다른 일부는 미래에 발생할 수 있습니다. 가장 우려되는 위험은 다음과 같습니다.
1. 일자리 대체: 인공지능이 더욱 발전함에 따라 많은 산업 분야에서 인간 근로자를 대체하여 대규모 일자리 손실과 경제적 혼란을 초래할 위험이 있습니다. Elon Musk는 로봇이 인간보다 더 잘 수행하고 수행할 직업이 있다고 언급했습니다.
2. 자율무기: 사람의 개입 없이 누구를 목표로 삼고, 언제 공격할지 결정할 수 있는 자율무기 개발이 주요 관심사다. 이러한 무기는 오작동하거나 해킹당할 수 있으므로 잠재적으로 의도하지 않은 피해를 입힐 수 있습니다.
3. 의도하지 않은 결과: 인공지능 시스템이 더욱 복잡해짐에 따라 해로울 수 있는 의도하지 않은 결과를 초래할 위험이 있습니다. 예를 들어, 인공 지능. 기업의 이익을 극대화하기 위해 고안된 시스템은 환경이나 사회에 본의 아니게 해를 끼칠 수 있습니다.
4. 편견과 차별: 인공 지능 시스템은 훈련된 데이터만큼만 편견이 없습니다. 즉, 훈련에 사용된 데이터가 편향되면 인공 지능 시스템도 편향될 것입니다. 이는 특히 형사 사법과 같은 분야에서 편향된 인공 지능 시스템이 특정 집단을 부당하게 대우할 수 있는 경우 심각한 결과를 초래할 수 있습니다.
5. 사이버 보안 위험: 인공 지능 시스템이 더욱 발전함에 따라 사이버 공격에 더욱 취약해질 수도 있습니다. AI 시스템이 해킹되면 잠재적으로 중요한 시스템에 피해를 입히거나 중단시키는 데 사용될 수 있습니다.
6. 투명성과 책임성 부족: 인공 지능 시스템이 대출 승인이나 보석금 석방 여부 등 사람들의 삶에 대한 중요한 결정을 내리는 경우 이러한 시스템이 투명하고 책임이 있다는 것이 중요합니다. 그러나 일부 인공지능 시스템은 불투명하고 이해나 감사가 어려울 수 있다는 우려가 있다.
7. 실존적 위험: 일부 전문가들은 인공지능의 개발이 인간의 통제를 넘어서는 초지능 인공지능의 개발이나 AI의 군사적 사용 또는 기타 파괴적인 방식 을 통해 인류에게 실존적 위협을 가할 수 있다는 우려를 제기해 왔습니다.
