/*
* 程序名:tcpputfiles.cpp,采用tcp协议,实现文件上传的客户端。
*/
#include "_el.h"
using namespace eviwbh;
// 程序运行的参数结构体。
struct st_arg
{
int clienttype; // 客户端类型,1-上传文件;2-下载文件,本程序固定填1。
char ip[31]; // 服务端的IP地址。
int port; // 服务端的端口。
char clientpath[256]; // 本地文件存放的根目录。 /data /data/aaa /data/bbb
int ptype; // 文件上传成功后本地文件的处理方式:1-删除文件;2-移动到备份目录。
char clientpathbak[256]; // 文件成功上传后,本地文件备份的根目录,当ptype==2时有效。
bool andchild; // 是否上传clientpath目录下各级子目录的文件,true-是;false-否。
char matchname[256]; // 待上传文件名的匹配规则,如"*.TXT,*.XML"。
char srvpath[256]; // 服务端文件存放的根目录。/data1 /data1/aaa /data1/bbb
int timetvl; // 扫描本地目录文件的时间间隔(执行文件上传任务的时间间隔),单位:秒。
int timeout; // 进程心跳的超时时间。
char pname[51]; // 进程名,建议用"tcpputfiles_后缀"的方式。
} starg;
// 帮助文档。
void _help();
// 把xml解析到参数starg结构中。
bool _xmltoarg(const char *strxmlbuffer);
clogfile logfile; // 日志对象。
ctcpclient tcpclient; // 创建tcp通讯的客户端对象。
// 程序退出和信号2、15的处理函数。
void EXIT(int sig);
bool activetest(); // 心跳。
string strsendbuffer; // 发送报文的buffer。
string strrecvbuffer; // 接收报文的buffer。
// 向服务端发送登录报文,把客户端程序的参数传递给服务端。
bool login(const char *argv);
// 文件上传的主函数,执行一次文件上传的任务。
bool _tcpputfiles(bool &bcontinue);
// 处理传输文件的响应报文(删除或者转存本地的文件)。
bool ackmessage(const string &strrecvbuffer);
// 把文件的内容发送给对端。
bool sendfile(const string &filename,const int filesize);
cpactive pactive; // 进程心跳。
int main(int argc,char *argv[])
{
if (argc!=3) { _help(); return -1; }
// 关闭全部的信号和输入输出。
// 设置信号,在shell状态下可用 "kill + 进程号" 正常终止些进程。
// 但请不要用 "kill -9 +进程号" 强行终止。
// 在网络通讯程序中,一般不关IO,因为某些函数可能会往1和2中输出信息
// 如果关了1和2,那么1和2会被socket重用,向1和2输出的信息会发送到网络中。
//closeioandsignal(false);
signal(SIGINT,EXIT); signal(SIGTERM,EXIT);
// 打开日志文件。
if (logfile.open(argv[1])==false)
{
printf("打开日志文件失败(%s)。\n",argv[1]); return -1;
}
// 解析xml,得到程序运行的参数。
if (_xmltoarg(argv[2])==false) return -1;
pactive.addpinfo(starg.timeout,starg.pname); // 把进程的心跳信息写入共享内存。
// 向服务端发起连接请求。
if (tcpclient.connect(starg.ip,starg.port)==false)
{
logfile.write("tcpclient.connect(%s,%d) failed.\n",starg.ip,starg.port); EXIT(-1);
}
// 向服务端发送登录报文,把客户端程序的参数传递给服务端。
if (login(argv[2])==false) { logfile.write("login() failed.\n"); EXIT(-1); }
bool bcontinue=true; // 如果调用_tcpputfiles()发送了文件,bcontinue为true,否则为false。
while (true)
{
// 调用文件上传的主函数,执行一次文件上传的任务。
if (_tcpputfiles(bcontinue)==false) { logfile.write("_tcpputfiles() failed.\n"); EXIT(-1); }
// 如果刚才执行文件上传任务的时候上传了文件,在上传的过程中,可能有新的文件陆续已生成,
// 那么,为保证文件被尽快上传,进程不体眠。(只有在刚才执行文件上传任务的时候没有上传文件的情况下才休眠)
if (bcontinue==false)
{
sleep(starg.timetvl);
// 发送心跳报文。
if (activetest()==false) break;
}
pactive.uptatime();
}
EXIT(0);
}
// 心跳。
bool activetest()
{
strsendbuffer="ok";
// xxxxxxxxxx logfile.write("发送:%s\n",strsendbuffer.c_str());
if (tcpclient.write(strsendbuffer)==false) return false; // 向服务端发送请求报文。
if (tcpclient.read(strrecvbuffer,10)==false) return false; // 接收服务端的回应报文。
// xxxxxxxxxx logfile.write("接收:%s\n",strrecvbuffer.c_str());
// 心跳机制的代码可简单化处理,只需要收到对端的回应就行了,不必判断回应的内容。
return true;
}
void EXIT(int sig)
{
logfile.write("程序退出,sig=%d\n\n",sig);
exit(0);
}
// 程序的帮助文档。
void _help()
{
printf("\n");
printf("Using:/project/tools/bin/tcpputfiles logfilename xmlbuffer\n\n");
printf("Sample:/project/tools/bin/procctl 20 /project/tools/bin/tcpputfiles /log/idc/tcpputfiles_surfdata.log "\
"\"192.168.150.1285005"\
"/tmp/client1"
"/tmp/server"\
"true*.xml,*.txt,*.csv10"\
"50tcpputfiles_surfdata\"\n\n");
printf("本程序是数据中心的公共功能模块,采用tcp协议把文件上传给服务端。\n");
printf("logfilename 本程序运行的日志文件。\n");
printf("xmlbuffer 本程序运行的参数,如下:\n");
printf("ip 服务端的IP地址。\n");
printf("port 服务端的端口。\n");
printf("ptype 文件上传成功后的处理方式:1-删除文件;2-移动到备份目录。\n");
printf("clientpath 本地文件存放的根目录。\n");
printf("clientpathbak 文件成功上传后,本地文件备份的根目录,当ptype==2时有效。\n");
printf("andchild 是否上传clientpath目录下各级子目录的文件,true-是;false-否,缺省为false。\n");
printf("matchname 待上传文件名的匹配规则,如\"*.TXT,*.XML\"\n");
printf("srvpath 服务端文件存放的根目录。\n");
printf("timetvl 扫描本地目录文件的时间间隔,单位:秒,取值在1-30之间。\n");
printf("timeout 本程序的超时时间,单位:秒,视文件大小和网络带宽而定,建议设置50以上。\n");
printf("pname 进程名,尽可能采用易懂的、与其它进程不同的名称,方便故障排查。\n\n");
}
// 把xml解析到参数starg结构。
bool _xmltoarg(const char *strxmlbuffer)
{
memset(&starg,0,sizeof(struct st_arg));
getxmlbuffer(strxmlbuffer,"ip",starg.ip);
if (strlen(starg.ip)==0) { logfile.write("ip is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"port",starg.port);
if ( starg.port==0) { logfile.write("port is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"ptype",starg.ptype);
if ((starg.ptype!=1)&&(starg.ptype!=2)) { logfile.write("ptype not in (1,2).\n"); return false; }
getxmlbuffer(strxmlbuffer,"clientpath",starg.clientpath);
if (strlen(starg.clientpath)==0) { logfile.write("clientpath is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"clientpathbak",starg.clientpathbak);
if ((starg.ptype==2)&&(strlen(starg.clientpathbak)==0)) { logfile.write("clientpathbak is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"andchild",starg.andchild);
getxmlbuffer(strxmlbuffer,"matchname",starg.matchname);
if (strlen(starg.matchname)==0) { logfile.write("matchname is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"srvpath",starg.srvpath);
if (strlen(starg.srvpath)==0) { logfile.write("srvpath is null.\n"); return false; }
getxmlbuffer(strxmlbuffer,"timetvl",starg.timetvl);
if (starg.timetvl==0) { logfile.write("timetvl is null.\n"); return false; }
// 扫描本地目录文件的时间间隔(执行上传任务的时间间隔),单位:秒。
// starg.timetvl没有必要超过30秒。
if (starg.timetvl>30) starg.timetvl=30;
// 进程心跳的超时时间,一定要大于starg.timetvl。
getxmlbuffer(strxmlbuffer,"timeout",starg.timeout);
if (starg.timeout==0) { logfile.write("timeout is null.\n"); return false; }
if (starg.timeout<=starg.timetvl) { logfile.write("starg.timeout(%d) <= starg.timetvl(%d).\n",starg.timeout,starg.timetvl); return false; }
getxmlbuffer(strxmlbuffer,"pname",starg.pname,50);
//if (strlen(starg.pname)==0) { logfile.write("pname is null.\n"); return false; }
return true;
}
// 向服务端发送登录报文,把客户端程序的参数传递给服务端。
bool login(const char *argv)
{
sformat(strsendbuffer,"%s1",argv);
// xxxxxxxxxx logfile.write("发送:%s\n",strsendbuffer.c_str());
if (tcpclient.write(strsendbuffer)==false) return false; // 向服务端发送请求报文。
if (tcpclient.read(strrecvbuffer,10)==false) return false; // 接收服务端的回应报文。
// xxxxxxxxxx logfile.write("接收:%s\n",strrecvbuffer.c_str());
logfile.write("登录(%s:%d)成功。\n",starg.ip,starg.port);
return true;
}
// 文件上传的主函数,执行一次文件上传的任务。
bool _tcpputfiles(bool &bcontinue)
{
bcontinue=false;
cdir dir;
// 打开starg.clientpath目录。
if (dir.opendir(starg.clientpath,starg.matchname,10000,starg.andchild)==false)
{
logfile.write("dir.opendir(%s) 失败。\n",starg.clientpath); return false;
}
int delayed=0; // 未收到对端确认报文的文件数量,发送了一个文件就加1,接收到了一个回应就减1。
// 遍历目录中的每个文件
while (dir.readdir())
{
bcontinue=true;
// 把文件名、修改时间、文件大小组成报文,发送给对端。
sformat(strsendbuffer,"%s%s%d",
dir.m_ffilename.c_str(),dir.m_mtime.c_str(),dir.m_filesize);
// xxxxxxxxxxxxxxx logfile.write("strsendbuffer=%s\n",strsendbuffer.c_str());
if (tcpclient.write(strsendbuffer)==false)
{
logfile.write("tcpclient.write() failed.\n"); return false;
}
// 发送文件内容。
logfile.write("send %s(%d) ...",dir.m_ffilename.c_str(),dir.m_filesize);
if (sendfile(dir.m_ffilename,dir.m_filesize)==true)
{
logfile << "ok.\n"; delayed++;
}
else
{
logfile << "failed.\n"; tcpclient.close(); return false;
}
pactive.uptatime();
// 接收服务端的确认报文。
while (delayed>0)
{
if (tcpclient.read(strrecvbuffer,-1)==false) break;
// xxxxxxxxxxxxxxx logfile.write("strrecvbuffer=%s\n",strrecvbuffer.c_str());
// 处理服务端的确认报文(删除本地文件或把本地文件移动到备份目录)。
ackmessage(strrecvbuffer);
}
}
// 继续接收对端的确认报文。
while (delayed>0)
{
if (tcpclient.read(strrecvbuffer,10)==false) break;
// xxxxxxxxxxxxxxx logfile.write("strrecvbuffer=%s\n",strrecvbuffer.c_str());
// 处理传输文件的响应报文(删除或者转存本地的文件)。
delayed--;
ackmessage(strrecvbuffer);
}
return true;
}
// 把文件的内容发送给对端。
bool sendfile(const string &filename,const int filesize)
{
int onread=0; // 每次打算从文件中读取的字节数。
char buffer[1000]; // 存放读取数据的buffer,buffer的大小可参考硬盘一次读取数据量(4K为宜)。
int totalbytes=0; // 从文件中已读取的字节总数。
cifile ifile; // 读取文件的对象。
// 必须以二进制的方式操作文件。
if (ifile.open(filename,ios::in|ios::binary)==false) return false;
while (true)
{
memset(buffer,0,sizeof(buffer));
// 计算本次应该读取的字节数,如果剩余的数据超过1000字节,就读1000字节。
if (filesize-totalbytes>1000) onread=1000;
else onread=filesize-totalbytes;
// 从文件中读取数据。
ifile.read(buffer,onread);
// 把读取到的数据发送给对端。
if (tcpclient.write(buffer,onread)==false) { return false; }
// 计算文件已读取的字节总数,如果文件已读完,跳出循环。
totalbytes=totalbytes+onread;
if (totalbytes==filesize) break;
}
return true;
}
// 处理传输文件的响应报文(删除或者转存本地的文件)。
bool ackmessage(const string &strrecvbuffer)
{
// /tmp/client/2.xmlok
string filename; // 本地文件名。
string result; // 对端接收文件的结果。
getxmlbuffer(strrecvbuffer,"filename",filename);
getxmlbuffer(strrecvbuffer,"result",result);
// 如果服务端接收文件不成功,直接返回(下次执行文件传输任务时将会重传)。
if (result!="ok") return true;
// 如果starg.ptype==1,删除文件。
if (starg.ptype==1)
{
if (remove(filename.c_str())!=0) { logfile.write("remove(%s) failed.\n",filename.c_str()); return false; }
}
// 如果starg.ptype==2,移动到备份目录。
if (starg.ptype==2)
{
// 生成转存后的备份目录文件名。 例如:/tmp/client/2.xml /tmp/clientbak/2.xml
string bakfilename=filename;
replacestr(bakfilename,starg.clientpath,starg.clientpathbak,false); // 注意,第三个参数一定要填false。
if (renamefile(filename,bakfilename)==false)
{ logfile.write("renamefile(%s,%s) failed.\n",filename.c_str(),bakfilename.c_str()); return false; }
}
return true;
}