php从mysql读取超过200W行的表

需要从一个大表,如user表中读取所有user数据再做整理并導出csv。如果使用框架會報內存不足,因為很多php框架會將數據庫數據放入臨時變量。

PHP Fatal error:  Allowed memory size of xxxxxx bytes .....

解决办法:
1 可以用mysql_unbuffered_query 这个api不使用客户端缓存,这样就不存在php内存分配的问题。再使用mysql_fetch_assoc 逐行獲取數據
2 根据userID批量处理,分批导出多个csv文件。
3 使用臨時表保存數據,再從臨時表導出csv。

結合第1和第3點處理,原本6個小時才能生成的數據,優化後不到10分鐘導入到臨時表,很快就導出到csv了。


参考:https://www.oschina.net/question/251494_127915?sort=default&p=1#answers

猜你喜欢

转载自lhdst-163-com.iteye.com/blog/2348659