主题信息（必填）
主题描述（最多限制在50个字符）
申请人信息（必填）
申请信息已提交审核，请注意查收邮件，我们会尽快给您反馈。
如有疑问，请联系
申请加入主题
主题是聚焦特定技术文章的讨论小组，你可以在自己的看板中获得社区的最新动态，管理员通过你的申请后，就可以与其他朋友一样，在这里分享内容，参与讨论。
申请人信息
申请信息已提交，请等待审核。
如有疑问，请联系
阅读数3210
阅读数2638
阅读数7032
阅读数6104
阅读数5064
阅读数4600
阅读数4083
阅读数3858
阅读数2642
阅读数2342
阅读数2040
阅读数1803
阅读数1973
阅读数2539
阅读数3295
阅读数49693
阅读数3321
阅读数1020
阅读数2231
阅读数3884后使用快捷导航没有帐号？
查看: 16|回复: 0
Spark 中 BlockManager的用处有哪些？
注册会员, 积分 87, 距离下一级还需 113 积分
论坛徽章:2
Spark 中 BlockManager的用处主要有哪些？
中级会员, 积分 358, 距离下一级还需 142 积分
论坛徽章:4
1.在Application启动的时候，会在SparkEnv中注册BlockManagerMaster以及MapOutputTracker，其中
&a&BlockManagerMaster：对整个集群的Block数据进行管理
&b&MapOutputTrackerMaster：跟踪所有的Mapper的输出的
2.BlockManagerMasterEndpoint本身是一个消息体，会负责通过远程消息通信的方式去管理所有节点的BlockManager；
3.每启动一个ExecutorBankend都会实例化BlockManager并通过远程通信的方式注册给BlockManagerMaster。实质上是Executor中的BlockManager在启动的时候注册给了Driver上的BlockManagerMasterEndpoint
4.MemoryStore是BlockManager中专门负责内存数据存储和读写的类
5.DiskStore：是BlockManager中专门负责基于磁盘的数据存储和读写的类
dataguru.cn All Right Reserved.谷歌和SPARK组织联手推动人类了解历史上的女性人物(组图)_网易新闻
谷歌和SPARK组织联手推动人类了解历史上的女性人物(组图)
用微信扫码二维码
分享至好友和朋友圈
　　谷歌宣布它正在和SPARK组织联手推动人类了解历史上的女性。
　　SPARK是一个鼓励健康的性生活和在所有领域促进性别平等的组织。SPARK组织表示，2010年到2013年间，谷歌日常涂鸦功能只有17%的人物是女性，因此它开始联系谷歌，希望双方合作为谷歌产品当中添加更多历史上的女性人物介绍。
　　谷歌同意在涂鸦作品当中包含更多女性。它邀请SPARK研究历史上的女性人物，在地图上显示值得纪念的女性人物。现在谷歌已经在其推出的Field Trip应用程序当中集成这项功能。
　　用户运行Field Trip，在其中开启历史上女性介绍功能，用户只要靠近历史上出现过知名女性的地区，APP就会发送女性人物介绍的通知给用户查看，到目前为止，此款APP已经内建100位历史著名女性人物介绍，另外任何人都可以为这款APP继续提名历史上著名女性。
（来源：cnBeta.COM）
本文来源：cnbeta网站
责任编辑：王晓易_NE0011
用微信扫码二维码
分享至好友和朋友圈
加载更多新闻
热门产品:　　　
:　　　　　　　　
:　　　　　　　　　
热门影院：
阅读下一篇
用微信扫描二维码
分享至好友和朋友圈1.讲讲你做的过的项目。 项目里有哪些 难点重点注意点呢？
2.讲讲多线程吧， 要是你，你怎么实现一个线程池呢？
3.讲一下Mapreduce或者hdfs的原理和机制。map读取数据分片。
4.shuffle 是什么？ 怎么调优？
5.项目用什么语言写？ Scala？ Scala的特点？ 和Java的区别？
6.理论基础怎么样，比如数据结构，里面的快速排序，或者，树？ 讲一讲你了解的树的知识？
7.数学怎么样呢？
8.讲一下数据库，SQl ，左外连接， 原理，实现？
9.还了解过数据的什么知识？ 数据库引擎？
10.Hadoop的机架怎么配置的？
11.Hbase的设计有什么心得？
12.Hbase的操作是用的什么API还是什么工具？
13.对调度怎么理解.? 用什么工具吗？
14.用kettle 这种工具还是 自己写程序？ 你们公司是怎么做的？
15.你们数据中心开发周期是多长？
16.你们hbase里面是存一些什么数据。
二面。三个人。
1.讲讲你做的项目。
2.平时 对多线程 这方面是怎么处理呢？ 异步 是怎么思考呢？ 遇到的一些锁啊， 是怎么做的呢？ 比如两个人同时操作一样东西。怎么做的呢？一些并发操作设计到一些变量怎么做的呢？
3.你们用的最多是 http协议吧？ 有没有特殊的头呢？ 讲讲 你对tcp/ip的理解？
4.有没有用过Zookeeper呢？ Zookeeper的适用场景是什么？ HA 状态维护 分布式锁 全局配置文件管理 操作Zookeeper是用的什么？
Spark方面：
5.spark开发分两个方面？哪两个方面呢？
6.比如 一个读取hdfs上的文件，然后count有多少行的操作，你可以说说过程吗。那这个count是在内存中，还是磁盘中计算的呢？磁盘中。
7.spark和Mapreduce快？ 为什么快呢？ 快在哪里呢？ 1.内存迭代。2.RDD设计。 3,算子的设计。
8.spark sql又为什么比hive快呢？
10.RDD的数据结构是怎么样的？ Partition数组。 dependence
11.hadoop的生态呢。说说你的认识。 hdfs底层存储 hbase 数据库 hive数据仓库 Zookeeper分布式锁 spark大数据分析
1.Spark工作的一个流程。
提交任务。
QQ图片11.png
用户提交一个任务。 入口是从sc开始的。 sc会去创建一个taskScheduler。根据不同的提交模式， 会根据相应的taskchedulerImpl进行任务调度。
同时会去创建Scheduler和DAGScheduler。DAGScheduler 会根据RDD的宽依赖或者窄依赖，进行阶段的划分。划分好后放入taskset中，交给taskscheduler 。
appclient会到master上注册。首先会去判断数据本地化，尽量选最好的本地化模式去执行。
打散 Executor选择相应的Executor去执行。ExecutorRunner会去创建CoarseGrainerExecutorBackend进程。 通过线程池的方式去执行任务。
Executor向 SchedulerBackend反向注册
Spark On Yarn模式下。 driver负责计算调度。appmaster 负责资源的申请。
2.Hbase的PUT的一个过程。
3.RDD算子里操作一个外部map比如往里面put数据。然后算子外再遍历map。有什么问题吗。
4.shuffle的过程。调优。
5.5个partition里面分布有.用算子求最大值或者和。不能用广播变量和累加器。或者sortbykey.
6.大表和小表join.
7.知道spark怎么读hbase吗？spark on hbase.。华为的。
8.做过hbase的二级索引吗？
9.sort shuffle的优点？
10.stage怎么划分的？ 宽依赖窄依赖是什么？
1.讲讲你做过的项目(一个整体思路)
2.问问大概情况。公司里集群规模。hbase数据量。数据规模。
3.然后挑选数据工厂开始详细问。问hbase.。加闲聊。
4.问二次排序是什么。topn是什么。二次排序要继承什么接口？
5.计算的数据怎么来的。
6.kakfadirect是什么，。为什么要用这个，有什么优点？。和其他的有什么区别。
/*** Create an input stream that directly pulls messages from Kafka Brokers* without using any receiver. This stream can guarantee that each message* from Kafka is included in transformations exactly once (see points below).** Points to note:* - No receivers: This stream does not use any receiver. It directly queries Kafka* - Offsets: This does not use Zookeeper to store offsets. The consumed offsets are tracked* by the stream itself. For interoperability with Kafka monitoring tools that depend on* Zookeeper, you have to update Kafka/Zookeeper yourself from the streaming application.* You can access the offsets used in each batch from the generated RDDs (see* [[org.apache.spark.streaming.kafka.HasOffsetRanges]]).* - Failure Recovery: To recover from driver failures, you have to enable checkpointing* in the [[StreamingContext]]. The information on consumed offset can be* recovered from the checkpoint. See the programming guide for details (constraints, etc.).* - End-to-end semantics: This stream ensures that every records is effectively received and* transformed exactly once, but gives no guarantees on whether the transformed data are* outputted exactly once. For end-to-end exactly-once semantics, you have to either ensure* that the output operation is idempotent, or use transactions to output records atomically.* See the programming guide for more details.** @param ssc StreamingContext object* @param kafkaParams Kafka * configuration parameters. Requires "metadata.broker.list" or "bootstrap.servers"* to be set with Kafka broker(s) (NOT zookeeper servers) specified in* host1:port1,host2:port2 form.* @param fromOffsets Per-topic/partition Kafka offsets defining the (inclusive)* starting point of the stream* @param messageHandler Function for translating each message and metadata into the desired type*/
7.问了shuffle过程。
8.怎么调优的，jvm怎么调优的？
9.jvm结构？堆里面几个区？
10.数据清洗怎么做的？
11.怎么用spark做数据清洗
12.跟我聊了spark的应用，商场里广告投放，以及黄牛检测
13.spark读取 数据，是几个Partition呢？ hdfs几个block 就有几个 Partition？
14.spark on yarn的两种模式? client 模式？ 和cluster模式？
15.jdbc？mysql的驱动包名字叫什么？
16.region多大会分区？
1.说说Mapreduce？一整个过程的理解。讲一下。
2.hbase存数据用什么rowkey？加时间戳的话，会不会出现时间戳重复的问题，怎么做的呢？
3.Spring的两大模块？ AOP，IOC在你们项目中分别是怎么用的呢？
4.你们集群的规模， 数据量？
1.画图，画Spark的工作模式，部署分布架构图
2.画图，画图讲解spark工作流程。以及在集群上和各个角色的对应关系。
3.java自带有哪几种线程池。
4.数据是怎么收集的。 kafka收集数据的原理？
5.画图，讲讲shuffle的过程。那你怎么在编程的时候注意避免这些性能问题。
6.讲讲列式存储的 parquet文件底层格式。
7.dataset和dataframe？
8.通过什么方式学习spark的？
9.有哪些数据倾斜，怎么解决？
10.宽依赖窄依赖？
11.yarn的原理？
12.BlockManager怎么管理硬盘和内存的。
13.哪些算子操作涉及到shuffle
14.看过源码？ 你熟悉哪几个部分的源码？
15.集群上 nodemanager和ResourceManager的数量关系？
16.spark怎么整合hive？ 大概这样。 spark on hive 。 hive还是hive 执行引擎是spark。
其他人的：
1.Spark如何处理结构化数据，Spark如何处理非结构话数据？
2.Spark性能优化主要有哪些手段？
3.简要描述Spark分布式集群搭建的步骤
4.对于Spark你觉得他对于现有大数据的现状的优势和劣势在哪里？
5.对于算法是否进行过自主的研究设计？
6.简要描述你了解的一些数据挖掘算法与内容 基本我有印象的就这几个问题，聊了2个多小时，脑子都差点被问干了
图文来自网络、如涉及版权问题，请联系我们以便处理。文章内容纯属作者个人观点，不代表本网观点。大疆spark怎么跟踪人物拍摄_百度知道
大疆spark怎么跟踪人物拍摄
我有更好的答案
Spark手势控制的模式下，挥动单手可以进入跟随模式； 遥控的话，进入智能飞行模式之后选择跟随模式就可以。建议你还是看看说明书和视频教程把
为您推荐：
其他类似问题
换一换
回答问题，赢新手礼包
个人、企业类
违法有害信息,请在下方选择后提交
色情、暴力
我们会通过消息、邮箱等方式尽快将举报结果通知您。