遇到一个因socket未关闭引发的文件句柄用完问题
“爱提踢斯”项目最近遇到一个问题,当FTP服务器磁盘没有空间时,设备会不断复位——这是测试人员反馈的。我们拿到log后,看到一个通信所用的文件打开失败。不断打印Too many open file,然后超时设备复位。同时我们看到数据库文件打开失败,无法写入数据。一个现象,看到好几处问题。还是从最初的表现来入手。虽然把bug指派给别人,但从时间、进度上考虑,周末还是去加班。而最后,解决了问题。根据老夫目测,是FTP的socket未关闭引起的。
linux系统的文件句柄(我很想说“文件描述符”,但“句柄”似乎更多人使用)是有限制的。查看系统支持句柄最大值用如下命令:
# ulimit -n 1024
可见,默认是1024。
下面用代码来说明一下问题。代码如下:
/** 系统一次允许最大的文件句柄为1024。 open foobar file for: 340 open bar file for: 340 open foo file for: 341 open foobar file failed: : Too many open files open BAR file failed: : Too many open files # ulimit -a ... open files (-n) 1024 ... */ #include#include #include #include #include int foo(void) { static int cnt = 1; int ret = 0; int fd =-1; char buf[5] = {0}; char read_buf[5] = {0}; fd = open("/tmp/FOO.txt",O_RDWR|O_CREAT,0666); if(fd < 0) { perror("open FOO file failed: "); return -1; } printf("open foo file for: %d\n", cnt++); return 0; } int bar(void) { static int cnt = 1; int ret = 0; int fd =-1; char buf[5] = {0}; char read_buf[5] = {0}; fd = open("/tmp/BAR.txt",O_RDWR|O_CREAT,0666); if(fd < 0) { perror("open BAR file failed: "); return -1; } printf("open bar file for: %d\n", cnt++); return 0; } int foobar(void) { static int cnt = 1; int ret = 0; int fd =-1; char buf[5] = {0}; char read_buf[5] = {0}; fd = open("/tmp/foobar.txt",O_RDWR|O_CREAT,0666); if(fd < 0) { perror("open foobar file failed: "); return -1; } printf("open foobar file for: %d\n", cnt++); return 0; } int main(void) { int ret = 0; while (1) { foo();usleep(1); foobar();usleep(1); ret = bar(); // if (ret < 0) break; // 不让其退出 usleep(100); } return 0; }
要查看这个进程占用文件句柄数,先获取该进程PID:
# ps -ef | grep a.out root 17835 7615 17 23:01 pts/1 00:00:00 ./a.out
我们查看该进程文件句柄最大值:
# cat /proc/17835/limits | grep "files" Max open files 1024 4096 files
和系统默认值一样。查看已占用值:
# ll /proc/17835/fd | wc -l 1027
我们看到,已经占用上千个句柄,一直未释放。当达到系统最大值时,就会报Too many open files的错误。
匆匆已然四载,不曾想到,当年刚入职搞FTP的我,竟然会埋下地雷,让今天的我不幸踩中。在没有离职情况下,只好义无反顾地去解决bug。——而这个bug,正是因为未关闭socket造成的。
FTP客户端的实现,是需要打开2个socket的,一个是命令通道,一个是数据通道。在服务器没有磁盘空间情况下,write数据是返回错误的,使用FTP模块者认为是无法登陆,下次会再次尝试登陆——在这种情况下,登陆是正常的,只是无法写数据。但每次登陆,都会创建命令通道的socket,这导致了socket的泄漏,不会关闭,因为使用者并没有调用logout函数退出登陆。另一个问题是最主要的,每次写数据时,要创建数据通道的socket,但在出错时,并没有关闭数据通道的socket,而是直接返回。这再次导致了socket泄漏。找到了原因,解决起来就好办了。
自从知道可以查看某个进程占用的文件句柄,我去看看以前的设备,发现有个别文件占用句柄较多——也就几十个。目测是只打开但未关闭。出于热心,我把情况在部门群里说了,至于后续的事,因为那些不是我的职责范围,不敢越趄代庖。
2015.8.1 李迟