ICode9

精准搜索请尝试: 精确搜索
  • 【深入浅出 Yarn 架构与实现】2-1 Yarn 基础库概述2022-11-26 16:28:08

    一、主要使用的库 Protocol Buffers:是 Google 开源的序列化库,具有平台无关、高性能、兼容性好等优点。YARN 将其用到了 RPC 通信中,默认情况 下,YARN RPC 中所有参数采用 Protocol Buffers 进行序列化 / 反序列化。 Apache Avro:是 Hadoop 生态系统中的 RPC 框架,具有平台无关、支持动

  • 【深入浅出 Yarn 架构与实现】2-2 Yarn 基础库 - 底层通信库 RPC2022-11-13 18:36:08

    RPC(Remote Procedure Call) 是 Hadoop 服务通信的关键库,支撑上层分布式环境下复杂的进程间(Inter-Process Communication, IPC)通信逻辑,是分布式系统的基础。允许运行于一台计算机上的程序像调用本地方法一样,调用另一台计算机的子程序。 由于 RPC 服务整体知识较多,本节仅针对对 Yarn R

  • 【深入浅出 Yarn 架构与实现】2-4 Yarn 基础库 - 状态机库2022-11-12 12:38:25

    一、状态机库概述一)简介状态机由一组状态组成: 【初始状态 -> 中间状态 -> 最终状态】。 在一个状态机中,每个状态会接收一组特定的事件,根据事件类型进行处理,并转换到下一个状态。当转换到最终状态时则退出。二)状态转换方式状态间转换会有下面这三种类型三)Yarn 状态机类在 Yarn 中提

  • Yarn角色2022-09-15 10:30:24

    一、ResourceManager ResourceManager中的调度器负责资源的分配 二、NodeManager NodeManager则负责资源的供给和隔离 ResourceManager将某个NodeManager上资源分配给任务(这就是所谓的“资源调度”)后,NodeManager需按照要求为任务提供相应的资源,甚至保证这些资源应具有独占性,为任务

  • 数仓Hive和分布式计算引擎Spark多整合方式实战和调优方向2022-09-12 22:00:23

    @目录概述Spark on HiveHive on Spark概述编译Spark源码配置调优思路编程方向分组聚合优化join优化数据倾斜任务并行度小文件合并CBO谓词下推矢量化查询Yarn配置推荐Spark配置推荐Executor CPU核数配置Executor CPU内存配置Executor 个数配置Driver配置整体配置 概述 前面的文章都

  • yarn是什么,与npm的区别2022-09-10 03:02:34

    Yarn是“Yet Another Resource Negotiator”的缩写,字面意思就是“另一种资源调度器”。   一、yarn的简介:   Yarn是facebook发布的一款取代npm的包管理工具。 二、yarn的特点:       1.速度超快。          Yarn 缓存了每个下载过的包,所以再次使用时无需重复下载

  • 使用yarn或者npm报错无法执行脚本2022-09-08 12:34:12

    编辑器中启动项目,报如下错误: 原因首次在计算机上启动 Windows PowerShell 时,现用执行策略很可能是 Restricted(默认设置)。Restricted 策略不允许任何脚本运行。需要收到开启运行脚本 解决方法:1、win+x 打开PowerShell(管理员) 2、set-ExecutionPolicy RemoteSigned //设置为打开 3、

  • first note of Vue 黑马2022-09-08 12:00:56

    1. webpack基本概念 用来打包压缩文件,减小文件的大小,提高效率;(生产环境使用的,不是人能看懂的) 默认入口: ./src/index.js  入口计算 默认出口: ./dist/main.js  这里结果输出 第三方的包管理,基于nodejs的打包的包; webpack的基本使用:初始化:yarn init -y 创建一个包管理文件package

  • react-native-svg 使用2022-08-30 19:04:53

    github:https://github.com/react-native-svg/react-native-svg安装:  yarn add [email protected] react-native-svg-uri 注意: 如果运行 yarn android 报错 Task :react-native-svg:compileDebugJavaWithJavac FAILED    尝试更换react-native-svg版本号 使用:  im

  • HA配置之yarn-site.xml2022-08-26 22:30:21

    <?xml version="1.0"?> <!-- Licensed under the Apache License, Version 2.0 (the "License"); you may not use this file except in compliance with the License. You may obtain a copy of the License at http://www.apache.o

  • 前端环境安装2022-08-25 23:00:21

    查看本机npm镜像 npm config get registry 默认镜像: https://registry.npmjs.org 淘宝镜像: http://registry.npm.taobao.org/ 设置淘宝镜像 npm config set registry http://registry.npm.taobao.org/ 使用镜像管理工具 nrm 切换 安装nrm npm install -g nrm 查看镜像 nrm ls 切换

  • 暑假学习三 8.25 继续配置环境2022-08-25 04:30:10

    1.初始化,只能一次,只在第一台机器初始化即可  hdfs namenode -format 需要注意在之前确认没错的情况下执行 成功后又以下提示:   2.Hadoop集群的启停止命令 shell脚本一键启停 hdfs start-dfs.sh stop-dfs.sh yarn start-yarn.sh stop-yarn.sh hadoop start-all.sh

  • babel运行nodejs2022-08-22 02:02:06

    babel运行nodejs 安装依赖 yarn add @babel/core @babel/cli @babel/node @babel/preset-env -D 或者全局安装 yarn global add @babel/core @babel/cli @babel/node @babel/preset-env 注意:全局安装需要把yarn的全局目录添加到Windows的path,查找path命令如下 yarn global bin

  • hadoop day2-搭建2022-08-21 21:35:11

    hadoop搭建 准备工作 三台虚拟机:master、node1、node2 检查时间是否同步:date 检查java的jdk是否被安装好:java-version 修改主机名 三台分别执行 vim /etc/hostname 并将内容指定为对应的主机名   关闭防火墙:systemctl stop firewalld       a.查看防火墙状态:systemctl statu

  • 使用yarn 进行安装包2022-08-21 00:35:00

    Yarn是什么? “Yarn是由Facebook、Google、Exponent 和 Tilde 联合推出了一个新的 JS 包管理工具 ,正如官方文档中写的,Yarn 是为了弥补 npm 的一些缺陷而出现的。”这句话让我想起了使用npm时的坑了: npm install的时候巨慢。特别是新的项目拉下来要等半天,删除node_modules,重新ins

  • 新一代分布式实时流处理引擎Flink入门实战操作篇2022-08-21 00:32:50

    @目录安装部署安装方式Local(Standalone 单机部署)Standalone部署Standalone HA部署Flink On Yarn演示案例概述会话(Session)模式单作业(Per-Job)模式流程演示应用(Application)模式 安装部署 安装方式 Flink安装支持多种方式,包括Flink Local和Flink Standalone、Flink On Yarn、Flink O

  • pnpm 对 npm 和 yarn 降维打击的2022-08-16 14:00:50

    欢迎关注前端早茶,与广东靓仔携手共同进阶 前端早茶专注前端,一起结伴同行,紧跟业界发展步伐~ npm2 用 node 版本管理工具把 node 版本降到 4,那 npm 版本就是 2.x 了。       然后找个目录,执行下 npm init -y,快速创建个 package.json。 然后执行 npm install express,那么 expres

  • 如何搭建一个vue项目2022-08-11 19:02:55

    一 安装nvm(node的版本管理工具:一个nvm可以管理很多node版本) curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.1/install.sh | bash   1 注意: v0.39.1这是nvm的版本号,当前最新版本是v0.39.1。详见  2 常用的nvm命令: 命令描述 nvm ls-remote 列出远程服务器

  • webpack2022-08-10 22:32:58

    yarn安装 npm install -g yarn //检测yarn yarn -v 使用yarn安装 webpack yarn add webpack webpack-cli --dev//打包npx webpack css样式loader安装 yarn add --dev style-loader css-loader webpack插件使用   自动生成index.html插件 yarn add html-webpack-plugin --

  • Hadoop 十二2022-08-05 13:03:27

    配置workers 进入hadoop/etc/hadoop    编辑workers文件    然后分发给另外两个服务器           准备启动集群 第一次需要初始化.    初始化完成后增加了data文件 ,     进入上面那个路径,就能看到当前服务器的版本号     启动HDFS     启动完毕 102    

  • 解决yarn安装包后,文件名、目录名或卷标语法不正确问题2022-08-04 12:31:22

    1.问题复现 ①安装场景:想用yarn安装vite项目时报错      2.查明原因: yarn 的全局安装位置与 bin 的位置并不一致导致的 3.原因自查方法: 1.先查看npm的位置 // 查看全局安装位置 npm config get prefix // E:\Tools\node\node_global // 查看缓存位置 npm config get cache //

  • yarn 的工作流程2022-08-03 02:02:12

        TRANSLATE with x English Arabic Hebrew Polish Bulgarian Hindi Portuguese Catalan Hmong Daw Romanian Chinese Simplified Hungarian Russian Chinese Traditional Indonesian Slovak Czech Italian Slovenian Danish Japanese Spanish D

  • yarn安装缓存的位置的问题2022-07-30 23:31:06

    yarn和npm一样,默认安装的全局包和缓存都在C盘里:npm的cache默认在:C:\Users\用户\AppData\Roaming\npmyarn的cache默认在:C:\Users\用户\AppData\Local\Yarn yarn config set global-folder "新缓存路径" yarn config set cache-folder "新缓存路径"  

  • YARN基础架构2022-07-27 19:35:24

      Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操作系统平台,而MapReduce等运算程序则相当于运行于操作系统之上的应用程序。   1. Yarn基础架构   YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等组件构成。    

  • yarn 1.x & yarn 2.x All In One2022-07-27 00:33:39

    yarn 1.x & yarn 2.x All In One yarn 1 $ npm install --global yarn https://classic.yarnpkg.com/en/docs/install#mac-stable https://github.com/yarnpkg/yarn yarn 2 corepack $ corepack enable $ yarn init -2 https://github.com/yarnpkg/berry https://y

专注分享技术,共同学习,共同进步。侵权联系[[email protected]]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有