Home Blogs Readings Notes Jupyter Seafile

parameter server架构分析

08 Aug 2018

简介

架构

集群角色和分组

数据结构

基于有序kv的vectors

数据传输,range pull and push

基于kv对中的key的range进行数据交换

server端自定义参数的处理函数

任务的异步执行和依赖

灵活的一致性

在系统高效和不一致性敏感之间让算法设计者能够灵活自定义自己一致性模型。目前可支持三种模式: 顺序,最终,有限延迟(有个比较典型的KKT算法)。

实现细节

论文

ZMQ

install pyzmp

autoML

hyperparameter optimize

dist ml

impl

zero MQ

chain replication

Consistency hash

spark internals

how to read code

ali impl

learn IoC with basic spring

simple-spring

d3.js

big one d3


-->
Fork me on GitHub