협업 딥러닝: 암호학에서의 머신러닝 응용

딥러닝 영역에서 단일 소스의 데이터가 모델 학습에 충분하지 않은 경우가 있습니다. 이로 인해 데이터 소유자들은 자신의 데이터뿐만 아니라 다른 소스의 데이터도 통합하려는 관심이 높아지고 있습니다. 이를 촉진하기 위한 한 가지 접근 방식은 여러 데이터 소스에서 학습할 수 있는 클라우드 기반 모델을 사용하는 것입니다. 그러나 주요 우려 사항은 민감한 정보의 보호입니다. 

이로써 암호화된 학습 데이터 공유와 암호화된 기울기 공유라는 두 가지 주요 전략을 중심으로 하는 협업 딥러닝 개념이 대두되었습니다. 여기서의 핵심 원칙은 학습 과정 전체에 걸쳐 클라우드에서의 연산에 사용되는 데이터를 포함하여 모든 데이터가 암호화된 상태로 유지되도록 완전히 동형 암호화를 사용하는 것입니다.

프라이버시를 보장하기 위한 암호화된 데이터 공유

협업 딥러닝 동안 프라이버시를 보장하기 위한 혁신적인 접근 방식이 있었습니다. 그러한 방법 중 하나는 데이터 소유자와 클라우드 기반 시스템 모두를 포함합니다. 여기 작동 방식이 있습니다:

1. 데이터 소유자는 공개 키, 비밀 키 및 평가 키를 생성합니다. 그런 다음 공개 키를 사용하여 자신의 데이터(예: 학습 데이터 및 원하는 대상)를 암호화하고 이 암호화된 데이터를 클라우드로 전달합니다.
2. 클라우드는 이 암호화된 데이터를 수신한 후, 데이터 소유자가 제공한 공개 키와 평가 키를 사용하여 모델을 학습합니다.
3. 학습 과정이 암호화된 가중치를 업데이트하면 클라우드는 해당 암호화된 가중치를 각 데이터 소유자에게 반환합니다.
4. 마지막으로 데이터 소유자는 수신된 데이터를 협력적으로 복호화하여 개별 업데이트된 가중치를 얻습니다. 이 복호화 과정은 안전한 다자간 계산 기술을 활용합니다.

또 다른 더 복잡한 방법은 데이터 소유자가 복호화 과정 동안 통신할 필요가 없도록 제안되었습니다. 여기에는 추가적인 엔티티인 승인 센터(AU)가 포함되며, 이중 암호화 기술과 다중 키 완전히 동형 암호화의 조합을 사용합니다. 단계는 다음과 같습니다:

1. 데이터 소유자는 자신의 공개 키와 비밀 키를 생성하고 데이터를 암호화한 후 클라우드로 보냅니다. AU도 데이터 소유자의 비밀 키 사본을 보유합니다.
2. 클라우드는 암호화된 데이터를 수신하지만 평가 키가 없으면 데이터에 노이즈를 추가하여 AU로 전달합니다.
3. AU는 데이터 소유자의 비밀 키를 사용하여 이 데이터를 복호화한 후 단일 공개 키로 다시 암호화하여 클라우드로 보냅니다.
4. 클라우드는 이제 이 균일하게 암호화된 데이터를 사용하여 암호화되고 업데이트된 가중치를 계산할 수 있습니다. 완료되면 결과가 AU로 전송되어 데이터 소유자의 개별 공개 키를 사용하여 다시 암호화됩니다.
5. 각 데이터 소유자는 자신의 결과를 수신하고 비밀 키를 사용하여 이를 복호화할 수 있습니다.

이 시스템은 사용되는 공개 키 시스템도 의미론적으로 안전하다면 의미론적 보안을 유지하는 것으로 나타났습니다. 또한 클라우드와 AU가 공모하지 않는 한 가중치와 같은 딥러닝 매개변수의 프라이버시는 그대로 유지됩니다.

최근 발전에서 기본 방법은 다중 체계 완전히 동형 암호화를 도입하여 개선되었습니다. 이를 통해 데이터 소유자는 협업 딥러닝에 참여할 때 다양한 암호화 체계를 사용할 수 있습니다. 또한 특정 활성화 함수의 정확도가 향상되었으며, 이전 방법과 비교하여 분류 작업의 전체 정확도와 속도가 증가했습니다.

암호화된 기울기를 사용한 협업 딥러닝

협업 딥러닝 영역에서의 혁신적인 접근 방식은 가법 동형 암호화의 사용을 포함합니다. 이 방법은 학습 방법으로 비동기 확률적 경사 하강법(ASGD)을 사용한 이전 기술의 개선으로 개발되었습니다. 이 이전 접근 방식은 각 데이터 소유자가 전역적으로 공유할 기울기를 결정할 수 있어 프라이버시를 보장했기 때문에 '기울기 선택적 ASGD'라고 불렸습니다. 

또한 기울기에 라플라스 노이즈를 도입하여 미분 프라이버시를 통합한 추가 방법이 있었습니다. 이러한 조치에도 불구하고 기울리 값이 약간 수정되더라도 소유자로부터 민감한 데이터가 유출될 가능성이 여전히 있음을 보여주었습니다.

ASGD를 사용한 개선된 방법에서 과정은 다음과 같이 요약될 수 있습니다:

1. 데이터 소유자는 클라우드에서 암호화된 가중치를 검색하고 비밀 키로 복호화합니다.
2. 데이터 소유자는 전역 가중치와 자신의 학습 데이터를 사용하여 자신의 딥러닝 모델 내에서 기울기를 계산합니다.
3. 이 기울기는 학습률에 곱해진 후 데이터 소유자의 비밀 키를 사용하여 암호화되어 클라우드로 다시 전송됩니다.
4. 클라우드는 데이터 소유자로부터의 암호화된 데이터를 사용하여 전역 가중치를 업데이트하며, 연산은 추가에 제한됩니다.
5. 이 방법의 중요한 하이라이트는 잠재적인 기울기 유출에 대한 강력한 저항력입니다. 클라우드는 호기심 많은 의도로 운영하더라도 기울기의 정보에 접근할 수 없습니다. 또한 데이터 소유자가 클라우드에서 결과를 복호화할 때, 그 결과는 클라우드 연산이 암호화되지 않은 기울리에서 수행되었다고 가정할 때 예상되는 결과와 완벽하게 일치합니다.

암호학에서의 머신러닝의 보안 영향

암호학에 머신러닝을 통합하는 것은 여러 보안 우려를 제기했습니다. 이 섹션에서는 최근 이 주제와 관련된 주요 발견의 간략한 요약을 제시합니다.

머신러닝 보안: 2006년의 한 연구는 머신러닝이 진정으로 보안될 수 있는지에 대한 질문을 파고들었습니다. 이 연구는 머신러닝 시스템과 기법에 대한 다양한 유형의 공격을 분류하고, 이러한 공격에 대한 방어책을 제시하며 공격자의 노력을 보여주는 분석 모델을 제공했습니다.

확장된 공격 분류 체계: 이전 연구를 바탕으로 후속 연구는 공격 분류를 확장했습니다. 이 연구는 서로 다른 공격 클래스가 공격자와 방어자 모두에게 미치는 비용에 영향을 미치는 방법을 상세히 설명했습니다. 또한 통계적 스팸 필터인 SpamBayes를 사례 연구로 사용하여 머신러닝 시스템에 대한 공격에 대한 포괄적인 검토를 제공했습니다.

회피 공격(Evasion Attacks): 2013년의 한 연구는 회피 공격의 개념을 도입했습니다. 탐색적 무결성 공격과 유사점을 지니고 있지만, 회피 공격은 머신러닝 기반 시스템의 학습 데이터에 적대적 데이터를 주입하는 데 중점을 둡니다. 이 연구는 머신러닝이 적대적 데이터에 대해 얼마나 저항력을 갖추었는지 철저히 평가하는 것의 중요성을 강조했습니다.

머신러닝 분류기 악용: 또 다른 2013년 연구는 머신러닝 분류기가 정보를 유출하도록 조작될 수 있는 방법을 강조했습니다. 이 연구는 머신러닝 분류기로부터 통계적 정보가 의도적이든 의도치 않게든 유출되는 현상에 중점을 두었습니다. 다른 분류기를 해킹하여 학습 세트에 대한 가치 있는 정보를 추출하도록 훈련된 고유한 메타 분류기가 개발되었습니다. 이러한 공격은 더 우수한 분류기를 생성하거나 지적 재산권을 침해하는 영업비밀을 추출하는 데 사용될 수 있습니다.

적대적 행동: 적대세력은 이러한 방법에 대응하여 행동을 변경함으로써 학습 접근 방식을 우회할 가능성이 있습니다. 보장된 강건성으로 공격에 견딜 수 있는 학습 기법에 대한 탐색은 제한적이었습니다. '컴퓨터 보안을 위한 머신러닝 방법'이라는 제목의 워크숍은 컴퓨터 보안 전문가와 머신러닝 전문가 간의 논의를 촉진하기 위해 조직되었습니다. 이 워크숍은 보안에서의 전통적인 머신러닝 응용부터 보안 학습 과제, 보장된 보안성을 갖춘 새로운 형식적 방법의 창출에 이르기까지 여러 연구 우선순위를 도출했습니다.

전통적인 컴퓨터 보안을 넘어: 워크숍은 또한 전통적인 컴퓨터 보안 영역을 넘어선 잠재적 응용 분야도 식별했습니다. 데이터 기반 방법과 관련하여 보안 문제가 발생할 수 있는 이러한 응용 분야에는 소셜 미디어 스팸, 표절 감지, 저자 식별, 저작권 집행, 컴퓨터 비전(특히 생체 인증), 감정 분석 등이 포함됩니다.

머신러닝의 보안 및 프라이버시: 2016년 연구는 머신러닝의 보안 및 프라이버시 문제에 대한 심층 분석을 제공했습니다. 이는 적대적 프레임워크 내에서 공격과 방어책을 분류하는 머신러닝에 대한 상세한 위협 모델을 도입했습니다. 학습을 위한 적대적 설정은 프라이버시를 표적으로 삼는 것과 무결성을 표적으로 삼는다는 두 가지 주요 범주로 나뉩니다. 적대적 환경에서의 추론도 화이트박스 및 블랙박스 적대자로 분류되었습니다. 이 연구는 강력하고 프라이버시가 보호되며 책임 있는 머신러닝 모델에 도달하기 위한 경로를 논의하며 결론을 내렸습니다.

암호 분석에서의 머신러닝의 과거 진전

머신러닝은 특히 사이드 채널 공격의 능력을 향상시키는 분야에서 암호 분석 영역에 점점 더 통합되고 있습니다. 여기 그 응용 분야의 간략한 개요가 있습니다:

머신러닝의 초기 통합: 이 분야의 초기 시도 중 하나는 최소 제곱 서포트 벡터 머신(LS-SVM) 학습 알고리즘을 사용하는 것이었습니다. 이 방법은 전력 소모를 사이드 채널로 사용하여 고급 암호화 표준(AES)의 소프트웨어 구현을 표적으로 삼았습니다. 연구 결과는 머신러닝 알고리즘의 매개변수가 결과에 중요한 역할을 한다는 점을 강조했습니다.

정확도 향상: 후속 접근 방식은 사이드 채널 공격의 정밀도를 높이기 위해 머신러닝을 사용할 것을 주장했습니다. 이러한 공격은 암호화 시스템 하드웨어 구현의 물리적 지표에 기반하므로 종종 특정 매개변수 가정 위에 서 있습니다. 머신러닝의 도입은 이러한 가정을 완화하는 방법을 제공하며, 특히 고차원 특징 벡터를 다룰 때 그렇습니다.

암호 분석에서의 신경망: 또 다른 혁신적인 방법은 암호 분석에 신경망을 사용하는 것이었습니다. 이 전략은 암호화 키 없이 암호문을 복호화하도록 신경망을 훈련시켜 특정 암호화 표준에 필요한 시간과 알려진 평문-암호문 쌍의 수를 눈에 띄게 줄였습니다.

이전 작업 확장: 앞서 언급한 신경망 접근 방식을 바탕으로 한 또 다른 연구는 경량 암호를 표적으로 삼았습니다. 초점은 평문이 아닌 키 발견으로 이동했습니다. 신경망의 효율성은 암호의 라운드 축소 버전과 전체 라운드 버전 모두에서 테스트되었으며, 정확도를 극대화하기 위해 네트워크 구성이 조정되었습니다.

암호화된 트래픽 분석: 다른 연구는 모바일 장치의 암호화된 네트워크 트래픽 분석에 집중했습니다. 목표는 암호화된 데이터에서 사용자 행동을 식별하는 것이었습니다. 암호화된 트래픽을 수동으로 모니터링하고 고급 머신러닝 기술을 적용함으로써 그들은 놀라운 정확도율로 사용자 행동을 추론할 수 있었습니다.

사이드 채널 공격에서의 딥러닝: 사이드 채널 공격을 정교화하기 위해 딥러닝이 탐구되었습니다. 목표는 템플릿 공격에서의 가정을 최소화하기 위한 정교한 프로파일링 기술을 개발하는 것이었습니다. 딥러닝을 적용하여 특정 암호화 표준에 대한 사이드 채널 공격에서 더 정확한 결과가 달성되었습니다.

머신러닝 공격에 대한 대응: 경량 인증에서 물리적 비복제 함수(PUF)에 대해 머신러닝이 무기로 사용되는 것을 방지하기 위한 독특한 접근 방식이 도입되었습니다. 이 방법은 경량 PUF 기반 인증과 잠금 기술을 결합하여 머신러닝이 새로운 도전자-응답 쌍을 성공적으로 추출하지 못하도록 보장했습니다.

결론

암호학에 머신러닝을 통합하는 것은 보안 강화와 프로세스 최적화를 위한 새로운 길을 열었습니다. 협업 딥러닝과 암호 분석에서 특히 유망한 솔루션을 제공하지만, 해결해야 할 본질적인 보안 우려가 있습니다. 분야가 발전함에 따라 연구자와 실무자는 잠재적 취약점에 대해 인식하고 강력하고 안전한 시스템을 만들기 위해 노력하는 것이 중요합니다.