AI 채택에는 얼마나 많은 위험이 숨겨져 있는가? AI의 아버지가 구글을 떠나다

빠르게 성장하는 AI 채택은 인류를 파국적인 위험에 처하게 합니다. 충격적인 전개로, 널리 알려진 “AI의 아버지”인 제프리 힌튼 박사가 구글의 직위를 사임하고 인공 지능의 위험성에 대해 엄중한 경고를 발했습니다.

AI는 인류에게 가장 큰 위협이 되었다

보고에 따르면, “AI의 아버지”는 인공 지능 기술의 잠재적 위험에 대해 더 자유롭게 발언할 수 있도록 하기 위해 구글의 직위를 사임했습니다. 제프리 힌튼 박사는 회사를 떠난 후 10년 이상 동안 구글에서 머신러닝 알고리즘을 연구했습니다. 그의 신경망에 대한 평생의 연구는 그에게 해당 별명을 얻게 했습니다.

제프리 박사의 사임은 의료, 금융, 운송을 포함한 다양한 산업에서 인공 지능 사용에 대한 우려가 커지는 가운데 이루어졌습니다. 비판자들은 인공 지능이 일자리 대체, 사생활 침해, 심지어 자율 무기 개발로 이어질 수 있다고 주장합니다.

뉴욕타임스와의 인터뷰 에서 그는 인공 지능을 사용하여 인터넷을 가짜 사진, 비디오, 텍스트로 범람시켜 사람들이 더 이상 “무엇이 진실인지 알 수 없게 될” 정도로 우려된다고 밝혔습니다.

힌튼 박사는 또한 인공 지능 기술이 인간 노동을 대체하는 것에 대해 우려를 표명했습니다. 그는 인공 지능이 분석하는 방대한 데이터에서 예상치 못한 행동을 습득할 수 있어 미래에 인류에게 위협이 될 수 있다고 믿습니다. 힌튼 박사는 자신의 평생 작업에 대해 일부 후회를 표현하기도 했습니다.

저는 평범한 변명으로 위안을 삼습니다. 만약 제가 그것을 하지 않았다면, 다른 누군가가 했을 테니까요.

제프리 힌튼 박사

제프리 힌튼 박사의 사임은 기술 산업 전반에 충격을 던졌으며, 많은 전문가들이 인공 지능에 대한 더 강력한 감독과 규제를 촉구했습니다. 인공 지능의 위험과 이점에 대한 논쟁이 계속됨에 따라, 제프리 힌튼 박사 같은 개척자들의 기여가 빠르게 진화하는 이 기술의 미래를 형성하는 데 필수적임은 분명합니다.

많은 기술 전문가들이 인공 지능의 위험성에 대해 경고합니다

최근 몇 달간 규제 기관, 입법자, 그리고 기술 업계 리더들은 모두 인공 지능 개발에 대해 우려를 표명해 왔습니다. 2,600명 이상의 기술 임원들과 연구원들은 3월에 “사회와 인류에 대한 중대한 위험”을 이유로 인공 지능 개발에 대한 일시적인 유예를 촉구하는 공개 서한에 서명했습니다.

4월에는 12명의 유럽联盟 입법자들이 유사한 서한에 서명했으며, 최근 EU 초안 법안은 인공 지능 도구를 위험 수준에 따라 분류합니다. 또한 영국은 “안전한 AI” 개발을 위한 태스크 포스에 1억 2,500만 달러를 지원할 예정입니다.

보고에 따르면 인공 지능 도구는 이미 허위 정보 확산에 사용되고 있으며, 최근 몇몇 미디어 outlets가 가짜 뉴스를 게재하도록 속인 사례들이 있었습니다. 또한 한 독일 매체는 인공 지능을 사용하여 인터뷰를 가짜로 만들었습니다.

바이낸스는 5월 1일, CEO 창펑 'CZ' 자오가 중국 공산당 학생 조직의 일원이라고 주장했는데, 이는 ChatGPT에서 유래한 챗봇에 의해 전파된 것으로, 챗봇의 스크린샷이 증거로 제시되었습니다.

지난주, 장난꾼들이 데일리 메일과 인디펜던트를 포함한 전 세계 여러 미디어를 속였습니다. 데일리 메일은 한국 팝 스타처럼 보이기 위해 성형수술을 받은 후 사망한 것으로 알려진 '세인트 폰 콜루치'라는 가상의 캐나다 배우에 대한 기사를 게시했으며, 이후 해당 기사는 삭제되었습니다.

인류에게 AI가 가져올 수 있는 예측 가능한 위험은 무엇입니까?

인공지능이 인류에게 가져올 수 있는 예측 가능한 위험은 여러 가지가 있으며, 일부는 이미 경험하고 있고 다른 일부는 미래에 발생할 수 있습니다. 가장 우려되는 위험 중 일부는 다음과 같습니다.

1. 일자리 대체: 인공 지능이 더욱 발전함에 따라 많은 산업에서 인간 노동자를 대체할 위험이 있으며, 이는 대규모 실업과 경제적 혼란을 초래할 수 있습니다. 일론 머스크는 로봇이 인간보다 더 잘 수행할 직종들이 있다고 지적했습니다.

2. 자율 무기: 인간의 개입 없이 표적을 선택하고 공격할 시기를 결정할 수 있는 자율 무기의 개발은 주요 우려 사항입니다. 이러한 무기는 오작동하거나 해킹될 수 있어 의도하지 않은 피해를 초래할 가능성이 있습니다.

3. 의도치 않은 결과: 인공 지능 시스템이 더욱 복잡해짐에 따라 해로울 수 있는 의도치 않은 결과를 초래할 위험이 있습니다. 예를 들어, 회사의 이익을 극대화하도록 설계된 인공 지능 시스템이 우연히 환경이나 사회에 해를 끼칠 수 있습니다.

4. 편향과 차별: 인공 지능 시스템은 학습 데이터만큼만 편향되지 않으므로, 학습에 사용되는 데이터에 편향이 있으면 인공 지능 시스템도 편향될 수 있습니다. 이는 특히 형사 사법 분야에서 특정 집단에 대한 불공정한 처우를 초래할 수 있는 심각한 결과를 낳을 수 있습니다.

5. 사이버 보안 위험: 인공 지능 시스템이 더욱 발전함에 따라 사이버 공격에 더 취약해질 수도 있습니다. AI 시스템이 해킹되면 해로움을 초래하거나 중요한 시스템을 마비시키는 데 사용될 가능성이 있습니다.

6. 투명성과 책임성 부족: 인공 지능 시스템이 대출 승인이나 보석 허가 등 사람들의 삶에 중요한 결정을 내린다면, 이러한 시스템이 투명하고 책임져야 합니다. 그러나 일부 인공 지능 시스템이 불투명하고 이해하거나 감사하기 어렵다는 우려가 있습니다.

7. 실존적 위험: 일부 전문가들은 인공 지능 개발이 인간의 통제 범위를 벗어난 초지능 인공 지능 개발이나 군사적 또는 기타 파괴적 방식으로의 AI 사용으로 인해 인류에게 실존적 위협이 될 수 있다고 우려를 표명했습니다.