memcache分布式 [一致性hash算法] 的php实现

PHP admin 957℃ 0评论

最近在看一些分布式方面的文章,所以就用php实现一致性hash来练练手,以前一般用的是最原始的hash取模做 分布式,当生产过程中添加或删除一台memcache都会造成数据的全部失效,一致性hash就是为了解决这个问题,把失效数据降到最低,相关资料可以 google一下!
php实现效率有一定的缺失,如果要高效率,还是写扩展比较好
经测试,5个memcache,每个memcache生成100个虚拟节点,set加get1000次,与单个memcache直接set加get慢5倍,所以效率一般,有待优化!

实现过程:
memcache的配置 ip+端口+虚拟节点序列号 做hash,使用的是crc32,形成一个闭环。
对要操作的key进行crc32
二分法在虚拟节点环中查找最近的一个虚拟节点
从虚拟节点中提取真实的memcache ip和端口,做单例连接

$value) {
for ($i = 0; $i _virtualNodeNum; $i++) {
$this->_node[sprintf(“%u”, crc32($value . ‘_’ . $i))] = $value . ‘_’ . $i;
}
}
ksort($this->_node);
}

private function __clone(){}

static public function getInstance() {
static $memcacheObj = null;
if (!is_object($memcacheObj)) {
$memcacheObj = new self();
}
return $memcacheObj;
}

private function _connectMemcache($key) {
$this->_nodeData = array_keys($this->_node);
$this->_keyNode = sprintf(“%u”, crc32($key));
$nodeKey = $this->_findServerNode();
//如果超出环,从头再用二分法查找一个最近的,然后环的头尾做判断,取最接近的节点
if ($this->_keyNode > end($this->_nodeData)) {
$this->_keyNode -= end($this->_nodeData);
$nodeKey2 = $this->_findServerNode();
if (abs($nodeKey2 – $this->_keyNode) _keyNode)) $nodeKey = $nodeKey2;
}
var_dump($this->_node[$nodeKey]);
list($config, $num) = explode(‘_’, $this->_node[$nodeKey]);
if (!$config) throw new Exception(‘Cache config Error’);
if (!isset($this->_memcache[$config])) {
$this->_memcache[$config] = new Memcache;
list($host, $port) = explode(‘:’, $config);
$this->_memcache[$config]->connect($host, $port);
}
return $this->_memcache[$config];
}

private function _findServerNode($m = 0, $b = 0) {
$total = count($this->_nodeData);
if ($total != 0 && $b == 0) $b = $total – 1;
if ($m _nodeData[$avg] == $this->_keyNode) return $this->_nodeData[$avg];
elseif ($this->_keyNode _nodeData[$avg] && ($avg-1 >= 0)) return $this->_findServerNode($m, $avg-1);
else return $this->_findServerNode($avg+1, $b);
}
if (abs($this->_nodeData[$b] – $this->_keyNode) _nodeData[$m] – $this->_keyNode)) return $this->_nodeData[$b];
else return $this->_nodeData[$m];
}

public function set($key, $value, $expire = 0) {
return $this->_connectMemcache($key)->set($key, json_encode($value), 0, $expire);
}

public function add($key, $value, $expire = 0) {
return $this->_connectMemcache($key)->add($key, json_encode($value), 0, $expire);
}

public function get($key) {
return json_decode($this->_connectMemcache($key)->get($key), true);
}

public function delete($key) {
return $this->_connectMemcache($key)->delete($key);
}

}

$runData[‘BEGIN_TIME’] = microtime(true);
//测试一万次set加get
for($i=0;$iset($key, time(), 10);
}

var_dump(number_format(microtime(true) – $runData[‘BEGIN_TIME’],6));
$runData[‘BEGIN_TIME’] = microtime(true); $m= new Memcache;
$m->connect(‘127.0.0.1′, 11211);
for($i=0;$iset($key, time(), 0, 10);
}
var_dump(number_format(microtime(true) – $runData[‘BEGIN_TIME’],6));
//测试结果,采用一致性哈希分布效率比原生单台速度高5倍左右

 

 

转载请注明:My House » memcache分布式 [一致性hash算法] 的php实现

喜欢 (1)
发表我的评论
取消评论
表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址