场景是这样的,有一个商城,预估用户数为 10w+,客户要求每月 1 日,计算每个用户上个月的消费总额和消费笔数,然后根据这 2 个数值,自动给用户升降级,同时需要写入升降级记录以便用户查询;
问题,写一个 php 程序,如果一次 foreach 出来 10w 个数据,再循环查询、插入,效率感觉很低,服务器基本要垮掉,而浏览器我记得可以一次处理一部分,然后跳转再执行下一部分,跟分页似的,可是用 shell 行么?不行吧,使用 sleep 让 php 等待不知道是不是可以,希望大家给个思路。
1
shmilyin 2017-05-30 22:13:42 +08:00 via iPhone
php cli
|
2
cnlongxi 2017-05-30 22:21:29 +08:00 via iPhone
PHP 一次执行 100 条,没计算完就用 PHP 执行 exec 继续
|
3
shoaly 2017-05-30 22:26:18 +08:00
放到 crond 里面去执行: 执行思路:
1 每次取 100 个用户, 计算积分, 并且缓存该积分, 然后记录本次计算的时间戳 2 注意取的时候要 where 出 当前时间减去上一次更新时间>阈值的数据 基于上面 2 个点, 就可以无限去运行 crond 了, 既不会重复计算, 也不会因为某一次计算量太大而卡住, 即便是卡住了, 也可以"断点续传"的接着上次 bug 掉的地方继续处理 |
7
sagaxu 2017-05-30 22:35:59 +08:00
10 万是很小的量,放心 foreach 吧
|
8
rekulas 2017-05-30 22:38:22 +08:00
10w+的数据量 PHP 的性能完全能胜任,如果慢很可能是卡在数据库相关操作上,检查你的语句即可
|
9
hiboshi 2017-05-30 22:45:02 +08:00
既然是写脚本不需要考虑浏览器,超时。直接 php-cli 即可。
|
11
doctorlai 2017-05-30 23:00:43 +08:00
每次从数据库里取 1000 条,执行,结束。
加入 crontab 每几分钟执行一次 |
12
coolyujiyu 2017-05-30 23:02:49 +08:00
任务分片、多线程处理。
|
13
dangyuluo 2017-05-30 23:04:26 +08:00
同时从数据库内取 10000 条,然后处理完成后,组成一条长 MySQL update 语句,这样执行很快。
|
14
Fishdrowned 2017-05-30 23:34:14 +08:00 via Android
我来说三个点
1、如果你要遍历所有用户,你可以写成两层循环,外层 while(读 1000 条),内层 foreach (刚才读到的 1000 条); 2、在 sql 里就可以筛选掉大部分记录。升级比较容易处理,降级再加一个条件,因为最低级别是不会再降级的,所以不用处理最低级的用户; 3、每月 1 号执行配置一下 crontab 就可以了,具体怎么配置,搜索一下。 |
15
cxbig 2017-05-31 07:26:39 +08:00 via Android
用户总有自增 ID 的吧?怕读多了锁表或吃太多内存,每次取 100 个来计算不就好了? SQL 不是有 LIMIT 分页么。
|
16
azh7138m 2017-05-31 07:56:03 +08:00 via Android
@Fishdrowned 最低级用户可以升级的吧
|
17
zhs227 2017-05-31 08:26:46 +08:00
如果数据不会因为后续的更新而导致 sql 变化,可以把要执行的 sql 都统一生成到一个文件里,前后加上事务执行开始和结束。然后使用 mysqladmin 导进去。
|
18
Fishdrowned 2017-05-31 08:57:19 +08:00 via Android
@azh7138m 升级和降级是分开处理的
|
19
klgd 2017-05-31 08:57:28 +08:00
没有消费的用户也要处理吗? 如果不处理的话,就反过来,先查出上月消费数据,根据这些数据来处理用户升降级,这样要处理的数据会少很多(每月不可能 10W 用户都有消费的)
|
20
sarices 2017-05-31 09:07:11 +08:00
分开取出或者一次性取出,10W 不多,但是看你取出会不会有慢查询了,然后放到队列跑
|
21
harborM 2017-05-31 09:42:04 +08:00
想必计算用户的上月总额和笔数不会在每月一日执行,每月一日前的工作是取出已经叠加的聚合数值执行升降级工作,那么可以用一条语句直接 update,担心性能的话可以用 crontab + limit 分段工作;
|
22
gouchaoer 2017-05-31 17:01:45 +08:00
php-cli 部署很麻烦的,10w 的数据量就用 php-fpm 就 ok 了,至于怕 cron 超时的话超过一定时间之后可以自己触发新的 php 请求。。。。
|
23
mengdodo 2017-05-31 17:37:49 +08:00
phpredis
|
24
mingyun 2017-05-31 22:11:13 +08:00
cli 每次取 1000 获取最后一个 id 然后第二次从 这个 id 开始,依次循环
|
25
baoguok 2017-06-02 11:55:29 +08:00
php xx.php
用多线程处理,10 万,也就几分钟的事情 |
26
zhengwenk 2017-07-06 13:53:23 +08:00
才 10w 用户 你开一个 php 脚本 放后台跑,一伙都跑完了吧
|