从事深度学习引擎开发，需要具备相关的知识。
目前，一般需要掌握以下技术。
首先，自上而下分为三类。
第一，算法和应用层面上。需要了解深度学习相关的知识，比如CV、NLP、语音、推荐等领域的深度学习模型（ResNet、Bert等等）。同时需要熟悉主流AI框架的使用，例如pytorch、tensorflow。目前，pytorch应用更为广泛，可以优先考虑。
第二，引擎开发层面。需要熟悉Linux下C++开发相关的知识，例如C++语言、cmake编译工具，docker/k8s开发和部署，以及常用的C++库（例如boost、protobuf、grpc等）。
第三，底层硬件相关的编程模型。例如，CUDA编程、Arm相关优化技术等。
以上，是主要的核心技术栈。
除此之外，还需要了解一些业界所用的优化技术。例如，自动调优TVM、并行编程优化、模型的图优化、模型的剪枝和量化、AutoML等技术。
当然，也需要对业界已有的框架有所涉猎，从而取长补短。例如，ncnn，TNN，MNN，onnxruntime，TensorRT等等。
标签：例如,需要,优化,编程,C++,引擎,深度,推理 来源： https://www.cnblogs.com/tangjicheng/p/16342106.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。