PaperlayerView exact revision on arXiv

Source-linked AI summary

Edge-Cloud Polarization and Collaboration: A Comprehensive Survey for AI

Jiangchao Yao, Shengyu Zhang, Yang Yao, Feng Wang, Jianxin Ma, Jianwei Zhang, Yunfei Chu, Luo Ji, Kunyang Jia, Tao Shen, Anpeng Wu, Fengda Zhang, Ziqi Tan, Kun Kuang, Chao Wu, Fei Wu, Jingren Zhou, Hongxia Yang

arXiv:2111.06061v3cs.LGcs.AI

TL;DR

Edge-cloud AI는 양극화된 computing paradigm과 그 collaboration mechanism을 아우르는 체계적 설명이 부족하다. 이 survey는 cloud, edge, collaborative AI architecture를 검토하고 privacy, efficiency, personalization 목표에 따른 collaboration 유형을 식별한다.

  • 문제

    Edge-cloud AI는 다양한 algorithmic area, 이질적인 edge condition, cloud와 edge model 간 collaboration을 아우르는 체계적 review가 부족하다.

  • 방법

    이 survey는 federated learning, personalization, compression, advanced edge topic을 포함해 cloud AI, edge AI, edge-cloud collaboration architecture를 체계적으로 검토한다.

  • 결과

    이 survey는 cloud, edge, collaborative AI의 완전한 범위를 정립하고, privacy-primary에서 efficiency-primary personalization까지 collaboration 유형을 식별한다.

  • 시사점 및 한계

    Cloud-edge collaboration은 AI computing paradigm 전반에서 서로 다른 privacy, efficiency, personalization 목표를 중심으로 구성할 수 있다.

  • 시사점 및 한계

    Open-source edge dataset은 여전히 부족하다. 세밀한 edge data는 거의 전송되지 않으며, cloud-based dataset은 edge characteristic을 완전히 포착할 수 없기 때문이다.

Abstract

from arXiv · show

Influenced by the great success of deep learning via cloud computing and the rapid development of edge chips, research in artificial intelligence (AI) has shifted to both of the computing paradigms, i.e., cloud computing and edge computing. In recent years, we have witnessed significant progress in developing more advanced AI models on cloud servers that surpass traditional deep learning models owing to model innovations (e.g., Transformers, Pretrained families), explosion of training data and soaring computing capabilities. However, edge computing, especially edge and cloud collaborative computing, are still in its infancy to announce their success due to the resource-constrained IoT scenarios with very limited algorithms deployed. In this survey, we conduct a systematic review for both cloud and edge AI. Specifically, we are the first to set up the collaborative learning mechanism for cloud and edge modeling with a thorough review of the architectures that enable such mechanism. We also discuss potentials and practical experiences of some on-going advanced edge AI topics including pretraining models, graph neural networks and reinforcement learning. Finally, we discuss the promising directions and challenges in this field.

1 서론

Cloud와 edge computing은 각각 cloud-scale model 역량과 edge 제약을 중심으로 AI 연구를 양극화하지만, 실제 시스템에서는 두 환경의 협력이 점점 더 요구된다. 본 survey는 cloud AI, edge AI, 협력 아키텍처, advanced edge 주제와 향후 과제를 검토해 분절된 edge-cloud 지형을 다룬다.

  • Cloud와 edge의 양극화: Cloud AI는 computer vision, natural language processing, industrial applications 전반에서 model generalization, robustness, fairness, generation을 중시한다,,,,.Cloud computing은 비용 효율적인 application computing을 위한 충분한 자원을 제공하는 반면, edge computing은 low-latency 서비스를 목표로 한다.
  • Edge AI의 과제: Edge AI는 제약된 IoT 자원으로 인해 processing speed, throughput, latency, memory, energy, power consumption, thermal performance가 핵심적인 제한 요인이 되므로 아직 미성숙하다,.추론 과정에서 model-parameter storage와 querying에는 많은 시간과 에너지가 소요될 수 있다.
  • Edge AI: Edge AI는 edge 리소스와 경량 모델을 사용해 이러한 제약에 대응하며, MobileNet은 파라미터를 29.3백만 개에서 4.2백만 개로 줄이고 연산량을 여덟 배 감소시키는 대신 정확도는 1% 낮춘다.EfficientNet 은 네트워크 깊이, 너비, 입력 차원을 통해 CNN을 확장하도록 도입됐다.
  • 동기: 물리적 인프라부터 algorithmic design까지 완전한 실제 시스템이 cloud와 edge에 걸쳐 구성되므로 Edge-cloud collaboration이 필요하다.초기 사례로 federated learning, Taobao EdgeRec, CloudCNN–EdgeCNN cooperation 등이 있다.
  • Survey 범위: 본 survey는 cloud AI, edge AI, 협력 아키텍처, pretraining models·graph neural networks·reinforcement learning과 같은 advanced deployed-edge 주제, 그리고 향후 방향을 아우르는 체계적인 edge-cloud review로 구성된다.이러한 범위가 필요한 이유는 algorithmic areas의 다양성으로 인해 완전한 systematic review가 어렵고, cloud-only large models가 많은 edge 환경에서 여전히 실용적이지 않기 때문이다.

2 클라우드 AI

클라우드 AI는, 의 일부 오픈소스 대회 벤치마크에서 인간을 능가하는 성능을 포함한 AI의 최근 발전을 모델 학습을 가속하는 대규모 분산 클라우드 클러스터의 성과로 본다. 이 절에서는 이미지 및 텍스트 기반 애플리케이션과 관련된 컴퓨팅 하드웨어를 검토한다.

  • 2 클라우드 AI: 클라우드 컴퓨팅의 대규모 분산 클러스터는 AI 모델 학습을 크게 가속하며 클라우드 AI 패러다임을 뒷받침한다.이 논문은 이러한 클라우드 컴퓨팅의 이점을 AI가 최근 성공을 거둔 주요 이유로 제시한다.
  • 2 클라우드 AI: AI는 최근 눈부신 발전을 이루었으며 일부 오픈소스 대회 벤치마크에서 인간의 성능을 능가했다,.
  • 2 클라우드 AI: 이 절에서는 이미지 및 텍스트 정보를 전달 매체로 사용하는 실제 AI 애플리케이션을 위한 컴퓨팅 하드웨어를 검토한다.

2.1 클라우드 컴퓨팅의 AI 컴퓨팅 하드웨어

클라우드 AI의 성공은 하드웨어, 소프트웨어, 그리고 virtualization과 같은 고객 친화적 resource management에 달려 있다 –. 이 절에서는 AI의 발전을 뒷받침해 온 주류 computing hardware를 강조하는 한편, 대규모 DNN training에서 CPU가 지니는 한계를 짚는다.

  • 하드웨어 개요: 주류 클라우드 AI 하드웨어는 소프트웨어 및 virtualization 기술 –과 함께 AI 발전에 결정적인 역할을 해 왔다.이 survey는 전체 분석을 위해 독자에게 을 참조하도록 하고, 여기서는 주요 기업의 computing hardware에 초점을 맞춘다.
  • CPU: 고성능 CPU는 계산 집약적인 AI task를 가속하지만, 일반적인 CPU server는 대규모 DNN training에 느리다.따라서 task-scheduling speedup 이나 다른 module과의 결합, 이 일반적으로 사용된다.
  • GPU: GPU는 graphics에서 DNN acceleration으로 중심을 옮겼고, NVIDIA GeForce GTX 580을 사용한 AlexNet의 ImageNet 성공 을 가능하게 했다.이후 Tesla K80과 Tesla P100을 포함한 NVIDIA 제품은 computational performance를 더욱 향상시켰다.
  • TPU: Google의 TPU는 DNN computation을 위한 전용 integrated circuit으로, TPUv1의 high-bandwidth loop 에서 TPUv2의 비용 효율적인 mixed-precision training 으로 발전했다.TPUv3는 더 큰 규모의 network architecture에서 TPUv2보다 performance를 향상시켰으며, Google은 2021년에 TPUv4를 출시했다.

2.2 컴퓨터 비전

컴퓨터 비전은 시각 입력에서 의미를 도출하며, 여기서는 image recognition, object detection, image segmentation을 통해 검토한다. 또한 super-resolution, image restoration, image generation의 발전도 다룬다.

  • 컴퓨터 비전: 컴퓨터 비전은 이미지, 동영상 및 기타 시각 입력을 해석하는 핵심 과제로 image recognition, object detection, image segmentation을 다룬다.Image recognition은 객체, 동작 및 기타 요소를 식별하고, detection은 객체의 위치를 찾으며, segmentation은 이미지를 인식 가능한 segment로 분리한다.
  • Image Recognition: Image recognition은 neocognitron과 CNN 기반 손글씨 문자 인식에서 AlexNet 과 residual learning으로 발전했으며, convolutional layer를 152개까지 확장해 2015년 여러 vision task에서 우승했다.LeCun et al. 은 손글씨 숫자 문자 인식에서 1% 미만의 error rate를 달성했으며, AlexNet 은 ImageNet competition 에서 우승했다.
  • Object Detection: Object detector –는 발전해 왔지만, deep convolution 연산은 computing cost를 증가시키고 detection speed를 낮추므로 real-time detection 을 목표로 하는 연구를 촉진했다.이 절에서는 최근의 접근법으로 one-stage detector와 two-stage detector를 구분하며, 두 방식 모두 뚜렷한 개선을 보였다.
  • Image Segmentation: Image segmentation에는 상당한 pixel-labeling effort가 필요하지만, IIC 와 AC, 는 mutual-information-based 방법을 사용해 pixel-category probability를 생성하거나 최적화한다.IIC는 mutual-information-based clustering을 사용해 semantic segmentation probability map을 출력하고, AC는 autoregressive model을 사용해 두 ordering 사이의 mutual information을 최대화한다.
  • 기타 컴퓨터 비전 과제: 그 밖에 발전 중인 computer-vision task로는 super-resolution, image restoration, image generation [64]이 있다.DALL-E [64]는 zero-shot text-to-image generation을 위해 12-billion-parameter autoregressive transformer를 학습하며, 상당한 generalization 성능을 달성한다.

2.3 자연어 처리

이 절에서는 기계 번역, 질의응답, 텍스트 생성이라는 세 가지 난제 NLP 하위 분야와 대표적인 접근법 및 응용을 조사한다. 멀티모달 생성을 포함한 neural 및 pretrained-model 발전을 강조한다.

  • 범위: NLP는 tagging, named entity recognition, question answering, machine translation을 비롯한 광범위한 작업을 포괄하지만, 이 절에서는 최근 난도가 높은 세 가지 하위 분야에 초점을 맞춘다, [66].그 밖의 part-of-speech tagging 및 text categorization 작업은 인용 문헌, [66]에서 다루므로 여기서는 생략한다.
  • 기계 번역: 기계 번역은 rule-based 및 statistical 방법에서 recurrent models, bidirectional LSTM encoder-decoding, attention, BERT-based architectures를 사용하는 neural 접근법으로 발전해 왔다 –.BERT-based neural architectures는 대규모 코퍼스를 활용해 model capacity를 높임으로써 여러 번역 benchmark에서 state-of-the-art 성능을 달성한다.
  • 질의응답: 질의응답은 Microsoft Windows 및 Apple Siri와 같은 시스템을 지원하며, 일반적으로 텍스트, 이미지, 비디오 전반에서 query processing, answer selection, fine-grained ranking을 결합한다 –.연구에서는 question-answer pairs와 negative sampling을 모델링해 여러 객체와 답변 사이의 암묵적 matching을 포착한다.
  • 텍스트 생성: 텍스트 생성은 GPT와 같은 large-scale pretrained models와 함께 등장했으며, 시와 이야기 생성을 아우르고 더욱 인간과 유사한 출력을 위해 GAN- 및 VAE-style mechanisms를 탐구한다, –.또한 knowledge-related generation과 visual question answering 및 reading comprehension 같은 cross-domain multimodal tasks도 다룬다, [39].

2.4 웹 서비스

웹 서비스는 추천, 검색, 웹 광고를 위해 cloud AI models에 의존하며, retrieval, personalization, computational advertising으로 연구가 확장되고 있다.

  • 웹 서비스: 추천, 검색, 웹 광고는 Google, Amazon, Microsoft와 같은 기업에서 널리 연구된 cloud AI models의 지원을 받는 확립된 웹 서비스 패러다임이다.
  • 웹 검색: 웹 검색은 방대한 후보 집합에서 관련 객체를 검색하는 반면, 이미지 및 비디오 검색은 domain bias와 noise 상황에서 더 강력한 feature extraction을 요구한다.
  • Recommender Systems: Recommender systems는 필수적인 웹 서비스 인프라로, collaborative filtering과 matrix factorization에서 deep learning과 sequential modeling으로 발전해 왔다.
  • 광고: Computational advertising은 advertising, marketing, computer science를 결합해 비용, 수익, targeting을 고려하면서 웹 데이터와 사용자 선호를 모델링한다.또한 traditional advertising과 비교해 advertising efficiency를 유지하면서 복잡한 marketing 환경에서 자동 최적화를 추구한다.

3 엣지 AI

모바일 AI 애플리케이션이 확장되었지만, cloud 기반 inference는 privacy와 network 의존성 문제를 야기한다. Edge inference는 모델을 디바이스에 부분적으로 또는 완전히 배치해 로컬 prediction을 수행함으로써 이러한 문제를 해결한다.

  • 모바일 AI는 virtual assistants 와 personalized recommendation 을 포함한 애플리케이션을 지원한다.
  • Cloud-based AI는 데이터 업로드를 요구하므로 user privacy가 침해될 수 있고 network conditions 에 크게 의존할 수 있다.
  • Edge inference는 모델을 모바일 디바이스에 부분적으로 또는 완전히 배치해 predictions locally를 수행한다.

3.1 Edge Computing의 AI Computing Hardware

Edge AI hardware는 경량 서버와 specialized processor를 통해 bandwidth, privacy, compute–transmission 제약에 대응하도록 발전하고 있다. 대표 플랫폼으로 VPU, Edge TPU, GPU 탑재 시스템, mobile SoC, 효율적인 neural computation에 최적화된 NPU가 있다.

  • Hardware 동기와 범주: Edge AI hardware 개발은 Raspberry Pi와 NVIDIA TX2 같은 경량 서버를 specialized hardware와 함께 사용해 bandwidth, privacy, compute–transmission 문제에 대응한다.이 survey는 대표적인 function-oriented hardware에 초점을 맞추며, 더 광범위한 edge-computing server는 별도로 다룬다.
  • Vision processing unit: VPU는 edge vision workload를 power-efficient하게 실행하며, Intel’s Neural Compute Stick은 Movidius Myriad X를 사용하고 Linux, Windows, Raspbian, Raspberry Pi, Intel NUC system을 지원한다.이 device는 plug-and-play 방식이며 power-supply efficiency와 computing performance 사이의 균형을 목표로 한다.
  • Edge tensor processing unit: Google’s Edge TPU는 compressed CNN, TensorFlow Lite model, real-world detection 및 segmentation을 위한 edge inference를 가속하지만, 여전히 public에 제공되지 않는다.지원 model로는 MobileNets, MobileNets SSD, Inception이 있다.
  • Neural processing unit: NPU는 resource-aware configuration, data reuse, 불필요한 computation 생략을 통해 edge neural efficiency를 향상시키고 memory-bandwidth 요구량을 줄인다.ARM Ethos N-777은 최대 4 TOPS를 제공하며 multicore deployment에서 수백 TOPS까지 확장된다,.

3.2 효율적인 네트워크 아키텍처

효율적인 네트워크 설계는 수작업으로 설계한 경량 아키텍처와 자동 신경망 아키텍처 탐색(neural architecture search, NAS)을 포괄한다. 대표적인 방법은 convolution을 압축하거나 factorization하며, NAS는 subnetwork를 생성하고 평가하지만 미분 불가능한 목적 함수로 인해 어려움이 있다 [126]–.

  • 효율적인 네트워크 아키텍처: 경량 아키텍처는 SqueezeNet 의 squeeze–expansion layer와 MobileNet 의 depth-wise plus point-wise convolution을 통해 모델 복잡도를 줄인다.MobileNet의 decomposition은 convolution kernel의 low-rank 특성에 기반하며, 그 결과 conventional convolution과 근사적으로 동등하다.
  • 효율적인 네트워크 아키텍처: Neural architecture search (NAS)는 RNN controller [123]를 사용해 subnetwork를 생성하고 학습하며 평가함으로써 효율적인 아키텍처를 자동으로 탐색한다.NAS의 주요 과제는 subnetwork-performance objective의 미분 불가능성이다 [126]–.

3.3 압축

Model compression은 knowledge distillation, quantization, pruning을 통해 DNN 복잡도를 낮춘다. 이러한 접근법은 효율성과 정확도의 균형을 유지하면서 지식을 전이하거나 수치 정밀도를 낮추거나 연산 경로를 제거한다.

  • Knowledge Distillation: Knowledge distillation은 response-, feature-, relation-based distillation을 통해 복잡한 모델 또는 ensemble의 지식을 경량 모델로 전이한다 [134]–[147].Response-based KD는 네트워크 출력을 soft target으로 사용하고, feature-based KD는 중간 feature map을 일치시키며, relation-based KD는 layer 또는 data sample 간 관계를 포착한다.
  • Quantization: Quantization은 half- 및 mixed-precision training을 통해 training과 inference 효율을 높이며, parameter quantization에는 QAT 또는 PTQ를 사용한다 [150]–.QAT는 floating-point backpropagation을 사용해 training 중 parameter를 quantize하는 반면, PTQ는 fine-tuning을 수행하지 않아 overhead가 무시할 수 있을 정도로 작지만, 특히 낮은 precision에서 정확도가 더 낮은 경우가 많다.
  • Pruning: Pruning은 one-time 또는 runtime pruning을 통해 연산 경로를 제거하여 parameter space를 줄인다 –.One-time 방법은 training 후 prune하거나 sparse structure를 공동 학습하거나 initialization 시점에 prune하며, runtime 방법은 제한된 computation budget에서 inference를 위해 경로를 동적으로 선택한다.

4 엣지-클라우드 협업 AI

엣지-클라우드 협업 AI는 privacy-primary federated learning과 efficiency-primary collaboration을 아우르며, 이기종 데이터, 통신 제약, 개인화, 배포 제약을 다룬다. 새로운 접근법으로는 split deployment, personalized 및 bidirectional modeling, 그리고 cloud와 edge 환경 간 모델 적응을 위한 transfer mechanism이 있다.

  • Privacy-primary collaboration: Federated learning은 client data를 로컬에 유지하고 cloud에서 model을 집계하여 privacy-sensitive 애플리케이션에서 엣지-클라우드 협업을 실현한다.phone, laptop 또는 IoT device를 사용하는 cross-device 설정과 조직의 data silo를 사용하는 cross-silo 설정을 포함한다.
  • Federated learning challenges: Non-IID edge data는 feature skew, label skew, 서로 다른 feature-label relationship을 통해 heterogeneous model과 gradient를 생성한다.이러한 distribution 차이는 device 간 collaborative learning의 핵심 난제다.
  • Federated learning challenges: Communication-efficient federated learning은 수렴을 가속하거나, 제한된 communication budget에서 partial aggregation을 수행하기 위해 intermediate server를 도입한다.Hierarchical federation은 많은 실제 사례에서 확장 가능한 방식으로 설명된다.
  • Federated learning challenges: Federated learning은 robustness를 위협하는 poisoning attack과 privacy를 위협하는 inference attack에 여전히 취약하다.Deep Leakage from Gradients와 같은 inference method는 raw image와 text를 복원할 수 있어 encryption과 secure multiparty computation을 요구한다 [218], –.
  • Efficiency-primary collaboration: MetaPatch와 MoModistill을 사용하는 backbone-patch decomposition은 edge computation을 줄이고 personalization을 보존하며 recommendation benchmark에서 baseline을 능가한다.이 framework는 backbone-patch decomposition을 사용하고, local optimum을 피하기 위해 backbone을 re-calibrate한다.
  • Collaborative learning perspectives: Heterogeneous transfer learning, meta-learning, causal inference는 서로 다른 edge와 cloud data distribution 간 bidirectional adaptation을 지원한다.이러한 관점은 domain-invariant representation, 새로운 edge task에 대한 신속한 adaptation, bias reduction, fairness, confounding effect에 대한 robustness를 목표로 한다 –, [256],.

5 고급 주제

고급 edge AI 주제는 foundation model을 제약된 디바이스에 맞게 적용하고, graph neural network를 분산·압축하며, federated edge-cloud collaboration을 통해 reinforcement learning을 확장하는 데 초점을 둔다. 이러한 방향은 collaborative learning 역량을 유지하면서 제한된 storage, bandwidth, computation, data, samples 문제를 다룬다.

  • Pretrained Models: BERT 와 GPT-3 같은 foundation model은 다목적 few-shot 및 zero-shot transfer를 제공하지만, 규모가 커지면서 edge deployment 제약이 발생한다.더 큰 corpus로 학습한 더 큰 model은 일반적으로 더 나은 downstream performance를 달성하므로, 효율적인 edge adaptation이 요구된다.
  • Pretrained Models: 제한된 storage 또는 network bandwidth를 가진 edge mobile에서는 foundation model의 compression이 필요하며, quantization, pruning, Transformer-specific parameter sharing을 사용한다.hidden size나 layer를 줄이면 inference도 가속할 수 있으며, PABEE 는 intermediate prediction이 여러 step 동안 변하지 않으면 동적으로 종료한다.
  • Pretrained Models: full fine-tuning은 storage와 bandwidth를 낭비하고 few-sample edge environment에서 sample efficiency가 낮기 때문에 parameter-efficient adaptation이 중요하다 [285].전통적인 fine-tuning은 거의 모든 foundation-model parameter를 업데이트하고 downstream task마다 독립적으로 저장된 model을 생성한다.
  • Graph Neural Networks: Federated GNN은 graph data를 edge에 유지하면서 local update를 shared global model로 집계하며, distributed security, privacy, heterogeneity, decentralized multi-task learning을 다루는 방법들이 제안되었다 [296]–[309].예로 Feddy [296], AS-FGNN, FedGNN [300], clustering 방법인 FedCG 와 GCFL [308], FedGL [304]의 global self-supervision, serverless SpreadGNN [305]이 있다.
  • Graph Neural Networks: GNN-specific quantization과 meta learning은 edge memory와 limited samples를 대상으로 하며, Bi-GCN 은 memory consumption을 30x 줄이고 inference를 약 47x 가속한다.SGQuant 는 component-wise, topology-aware, layer-wise quantization을 사용하며, 기존 GNN meta-learning 방법 –[321]은 대체로 Model-Agnostic Meta-Learning [257]을 채택한다.
  • Reinforcement Learning: Federated reinforcement learning은 horizontal 및 vertical settings를 통해 edge-cloud collaboration을 확장하며, 유사한 task 또는 environment를 가진 distributed agent가 global system을 구성하도록 지원한다 –[330].HFRL은 non-i.i.d. data와 distributed optimization을 다루고, VFRL은 partially observable environment를 모델링하며, 다른 접근법은 reward shaping 또는 policy gradient를 공유한다, [332].

6 미래 방향과 결론

이 절은 Edge-Cloud 협력 AI의 핵심 장벽으로 부족한 오픈소스 데이터셋과 미성숙한 소프트웨어 플랫폼을 지적하고, recommendation, 자율주행, gaming, IoT security 전반의 기회와 과제를 조명한다. 또한 cloud AI, edge AI, collaborative AI를 computer vision, NLP, web services에 걸쳐 검토한 세 가지 패러다임으로 정리한다.

  • 과제: 부족한 오픈소스 데이터셋은 Edge-Cloud 협력 AI의 학술적 탐구를 제한한다. 통신 비용과 serving 제약 때문에 edge 측의 세밀한 데이터가 전송되지 않는 경우가 많기 때문이다.이 survey는 recommendation 분야의 Mobile Edge Intelligence에 이용 가능한 데이터셋이 단 하나뿐이라고 지적한다.
  • 과제: 잘 확립된 소프트웨어 플랫폼이 여전히 부족해 협력 환경을 구축하고 이기종 edge, 통신 잡음, 실제 federated learning 동작을 시뮬레이션하는 데 큰 비용이 든다.Federated learning은 edge device에서 업로드되는 통제 불가능한 수의 local model을 처리해야 하며, 이는 수렴에 영향을 줄 수 있다.
  • 애플리케이션: Edge-Cloud 협력은 recommendation system, 자율주행, game에서 지속되는 편향, privacy leakage, latency, 어려운 cloud–edge 작업 분할 등의 문제를 다루면서 애플리케이션 측 이점을 제공한다.제공된 본문은 recommendation, 자율주행, gaming scenario를 협력의 애플리케이션 영역으로 설명한다.
  • 보안: 협력 학습은 민감한 데이터의 직접 전송을 피하고 신뢰할 수 있는 cloud model이 악성 edge를 식별하도록 함으로써 IoT security를 향상할 수 있다. 다만 cloud 측 detection은 edge device에 계산 집약적일 수 있다.이 메커니즘은 민감한 데이터 대신 model parameter, latent representation, gradient를 전송한다.
  • 결론: 이 survey는 AI를 cloud, edge, Edge-Cloud 협력 패러다임으로 구분하고, computer vision, natural language processing, cloud-powered web services 전반의 발전을 체계적으로 검토한다.이는 해당 패러다임들 사이의 근본적인 양극화와 협력을 종합적으로 설명하는 범위로 제시된다.
Loading 2111.06061v3…