• Auto Scaling是指自动给应用按需增加或者减少计算资源。
• 在实施云计算之前，实现Auto Scaling很困难，当应用已经达到使用硬件资源的上限，需要要再购买硬件资源以及进行OS/应用等安装。
• 在实施云计算之后，构建Auto Scaling的应用才变为可能，才能实现按需分配。

• 处理计划内（促销/节日/开新服）和计划外的突发应用高峰
• 不仅仅是scale-up，更重要的是scale-down，节约成本

• Web Server，根据并发请求数或者带宽使用情况来作scale-up/down
• Queue Server，根据队列里剩余的数量来作scale-up/down
• DB Server不适合

可扩展的架构 Haproxy + Nginx

frontend http-in bind *:80 default_backend servers backend servers stats uri /admin?stats balance roundrobin server server1 10.199.18.11:80 maxconn 512 server server2 10.199.18.12:80 maxconn 512 server server3 10.199.18.13:80 maxconn 512

创建instance，安装好nginx以及应用

对这个instance作一次snapshot

• Up: 通过snapshot launch更多的instance
• Down: terminate过多的instance
• Demo: Haproxy application test url
• 需要手工添加/减少instance和手工修改haproxy配置
• 可以快速Scale，但还不是自动

require 'rubygems'
require 'openstack/compute'

auth_url = 'http://10.199.21.210:5000/v2.0/' #OpenStack keystone auth url
image_id = '9'
flavor_id = '1'

cs = OpenStack::Compute::Connection.new(:username => 'username', :api_key => 'password', :auth_url => auth_url)
image = cs.get_image(image_id)
flavor = cs.get_flavor(flavor_id)

newserver = cs.create_server(:name => "rails#{Time.now.strftime("%Y%m%d%H%M")}", 
    :imageRef => image.id, :flavorRef => flavor.id)
puts "New Server #{newserver.name} created"

while newserver.progress < 100
  puts "Server status #{newserver.status}, progress #{newserver.progress}"
  sleep 10
  newserver.refresh
end
puts "Server status #{newserver.status}, progress #{newserver.progress}"
puts "Done"
          

# ruby create_new_server.rb  
New Server rails201112161042 created
Server status BUILD, progress 0
Server status ACTIVE, progress 100
Done
          

cs = OpenStack::Compute::Connection.new(:username => 'username', :api_key => 'password', :auth_url => auth_url)
#预先定义一个haproxy template文件，backed server集群部分定义留空，将它拷贝过来
`cp haproxy.cfg.template haproxy.cfg`

File.open('haproxy.cfg', 'a') do |f|
  cs.servers.each do |s|
    server = cs.server(s[:id])
    #如果该实例的镜像等于我们之前做的snapshot，将它的IP加入配置文件
    if server.image['id'] == image_id
      ip = server.addresses.first.address
      puts "Found matched server #{server.name} #{ip}, add to haproxy"
      f.puts "        server #{server.name} #{ip}:80 maxconn 512"
    end
  end
end

#覆盖旧的haproxy配置文件，reload haproxy
`cp haproxy.cfg /etc/haproxy.cfg`
puts "Reload haproxy"
`/etc/init.d/haproxy reload`
          

# ruby update_haproxy.rb  
Found matched server rails201112161042 10.199.18.6, add to haproxy
Found matched server rails201112161003 10.199.18.5, add to haproxy
Found matched server rails201112160953 10.199.18.4, add to haproxy
Found matched server rails201112160924 10.199.18.8, add to haproxy
Reload haproxy
          

Haproxy Statistics

根据Haproxy Statistics CSV Export或者Unix Socket，获取当前的Sessions数

require 'socket'
require 'csv'

stats = UNIXSocket.open("/var/run/haproxy.socket") {|s|
  s.send "show stat\n", 0
  s.read
}

stats = CSV.parse stats

current_instances = stats.size - 4
current_sessions = stats[stats.size - 2][4].to_i
avg_session_num = current_sessions / current_instances
puts "current sessions: #{current_sessions}"
puts "current instances: #{current_instances}"
puts "current sessions per instance: #{avg_session_num}"
          

• 大于某个指标，执行创建instance的脚本
• 小于某个指标，执行销毁instance的脚本

if avg_session_num > 800
  add_new_server
  update_ha_proxy
elsif avg_session_num < 100
  terminate_server
  update_ha_proxy
end
                

#ruby auto_scale.rb 800 100
current sessions: 1800
current instances: 2
current sessions per instance: 900
create new instance
                

• Amazon, Rackspace, Libvirt...只要有API，就能实现
• Fog - 提供各种云计算平台的统一接口
• Rightscale - 提供集成监控的Auto Scaling设置

• Amazon, Rackspace在国内访问速度不佳，还有你懂的功夫网
• 国内目前没有成熟的公有云
• OpenStack搭建私有云，很适合国内目前的网页游戏，SNS应用，电子商务等行业

• Master/Slave，同步问题，可以scale-up slave，但是很难scale-down，
• DB Shard，根据Hash/Key来分布存储，可以scale-up，但是无法scale-down
• 大家有什么好办法？

• Email: quake.wang@gmail.com
• Twitter: twitter.com/quakewang