最新公告
  • 新注册用户请前往个人中心绑定邮箱以便接收相关凭证邮件!!!点击前往个人中心
  • TCP 协议如何解决粘包、半包问题

    一 TCP 协议是流式协议
    很多读者从接触网络知识以来,应该听说过这句话:TCP 协议是流式协议。那么这句话到底是什么意思呢?所谓流式协议,即协议的内容是像流水一样的字节流,内容与内容之间没有明确的分界标志,需要我们人为地去给这些协议划分边界。
    举个例子,A 与 B 进行 TCP 通信,A 先后给 B 发送了一个 100 字节和 200 字节的数据包,那么 B 是如何收到呢?B 可能先收到 100 字节,再收到 200 字节;也可能先收到 50 字节,再收到 250 字节;或者先收到 100 字节,再收到 100 字节,再收到 200 字节;或者先收到 20 字节,再收到 20 字节,再收到 60 字节,再收到 100 字节,再收到 50 字节,再收到 50 字节……
    不知道读者看出规律没有?规律就是 A 一共给 B 发送了 300 字节,B 可能以一次或者多次任意形式的总数为 300 字节收到。假设 A 给 B 发送的 100 字节和 200 字节分别都是一个数据包,对于发送端 A 来说,这个是可以区分的,但是对于 B 来说,如果不人为规定多长为一个数据包,B 每次是不知道应该把收到的数据中多少字节作为一个有效的数据包的。而规定每次把多少数据当成一个包就是协议格式规范的内容之一。
    经常会有新手写出类似下面这样的代码:
    发送端:
    1//…省略创建socket,建立连接等部分不相关的逻辑…
    2char buf[] = “the quick brown fox jumps over a lazy dog.”;
    3int n = send(socket, buf, strlen(buf), 0);
    4//…省略出错处理逻辑…
    接收端:
    1//省略创建socket,建立连接等部分不相关的逻辑…
    2char recvBuf[50] = { 0 };
    3int n = recv(socket, recvBuf, 500);
    4//省略出错处理逻辑…
    5printf(“recvBuf: %s”, recvBuf);
    为了专注问题本身的讨论,我这里省略掉了建立连接和部分错误处理的逻辑。上述代码中发送端给接收端发送了一串字符”the quick brown fox jumps over a lazy dog.“,接收端收到后将其打印出来。
    类似这样的代码在本机一般会工作的很好,接收端也如期打印出来预料的字符串,但是一放到局域网或者公网环境就出问题了,即接收端可能打印出来字符串并不完整;如果发送端连续多次发送字符串,接收端会打印出来的字符串不完整或出现乱码。不完整的原因很好理解,即对端某次收到的数据小于完整字符串的长度,recvBuf 数组开始被清空成 0,收到部分字符串后,该字符串的末尾仍然是 0,printf 函数寻找以 0 为结束标志的字符结束输出;乱码的原因是如果某次收入的数据不仅包含一个完整的字符串,还包含下一个字符串部分内容,那么 recvBuf 数组将会被填满,printf 函数输出时仍然会寻找以 0 为结束标志的字符结束输出,这样读取的内存就越界了,一直找到为止,而越界后的内存可能是一些不可读字符,显示出来后就乱码了。
    我举这个例子希望你明白 能对TCP 协议是流式协议有一个直观的认识。正因为如此,所以我们需要人为地在发送端和接收端规定每一次的字节流边界,以便接收端知道从什么位置取出多少字节来当成一个数据包去解析,这就是我们设计网络通信协议格式的要做的工作之一。

    二 如何解决粘包问题

    网络通信程序实际开发中,或者技术面试时,面试官通常会问的比较多的一个问题是:网络通信时,如何解决粘包?
    有的面试官可能会这么问:网络通信时,如何解决粘包、丢包或者包乱序问题?这个问题其实是面试官在考察面试者的网络基础知识,如果是 TCP 协议,在大多数场景下,是不存在丢包和包乱序问题的,TCP 通信是可靠通信方式,TCP 协议栈通过序列号和包重传确认机制保证数据包的有序和一定被正确发到目的地;如果是 UDP 协议,如果不能接受少量丢包,那就要自己在 UDP 的基础上实现类似 TCP 这种有序和可靠传输机制了(例如 RTP协议、RUDP 协议)。所以,问题拆解后,只剩下如何解决粘包的问题。
    先来解释一下什么是粘包,所谓粘包就是连续给对端发送两个或者两个以上的数据包,对端在一次收取中可能收到的数据包大于 1 个,大于 1 个,可能是几个(包括一个)包加上某个包的部分,或者干脆就是几个完整的包在一起。当然,也可能收到的数据只是一个包的部分,这种情况一般也叫半包
    无论是半包还是粘包问题,其根源是上文介绍中 TCP 协议是流式数据格式。解决问题的思路还是想办法从收到的数据中把包与包的边界给区分出来。那么如何区分呢?目前主要有三种方法:
    固定包长的数据包
    顾名思义,即每个协议包的长度都是固定的。举个例子,例如我们可以规定每个协议包的大小是 64 个字节,每次收满 64 个字节,就取出来解析(如果不够,就先存起来)。
    这种通信协议的格式简单但灵活性差。如果包内容不足指定的字节数,剩余的空间需要填充特殊的信息,如 (如果不填充特殊内容,如何区分包里面的正常内容与填充信息呢?);如果包内容超过指定字节数,又得分包分片,需要增加额外处理逻辑——在发送端进行分包分片,在接收端重新组装包片(分包和分片内容在接下来会详细介绍)。
    以指定字符(串)为包的结束标志
    这种协议包比较常见,即字节流中遇到特殊的符号值时就认为到一个包的末尾了。例如,我们熟悉的 FTP协议,发邮件的 SMTP 协议,一个命令或者一段数据后面加上”rn”(即所谓的 CRLF)表示一个包的结束。对端收到后,每遇到一个”rn“就把之前的数据当做一个数据包。
    这种协议一般用于一些包含各种命令控制的应用中,其不足之处就是如果协议数据包内容部分需要使用包结束标志字符,就需要对这些字符做转码或者转义操作,以免被接收方错误地当成包结束标志而误解析。
    包头 + 包体格式
    这种格式的包一般分为两部分,即包头和包体,包头是固定大小的,且包头中必须含有一个字段来说明接下来的包体有多大。
    例如:
    1struct msg_header
    2{
    3  int32_t bodySize;
    4  int32_t cmd;
    5};
    这就是一个典型的包头格式,bodySize 指定了这个包的包体是多大。由于包头大小是固定的(这里是 size(int32_t) + sizeof(int32_t) = 8 字节),对端先收取包头大小字节数目(当然,如果不够还是先缓存起来,直到收够为止),然后解析包头,根据包头中指定的包体大小来收取包体,等包体收够了,就组装成一个完整的包来处理。在有些实现中,包头中的 bodySize可能被另外一个叫 packageSize 的字段代替,这个字段的含义是整个包的大小,这个时候,我们只要用 packageSize 减去包头大小(这里是 sizeof(msg_header))就能算出包体的大小,原理同上。
    在使用大多数网络库时,通常你需要根据协议格式自己给数据包分界和解析,一般的网络库不提供这种功能是出于需要支持不同的协议,由于协议的不确定性,因此没法预先提供具体解包代码。当然,这不是绝对的,也有一些网络库提供了这种功能。在 Java Netty 网络框架中,提供了FixedLengthFrameDecoder 类去处理长度是定长的协议包,提供了 DelimiterBasedFrameDecoder 类去处理按特殊字符作为结束符的协议包,提供 ByteToMessageDecoder 去处理自定义格式的协议包(可用来处理包头 + 包体 这种格式的数据包),然而在继承 ByteToMessageDecoder  子类中你需要根据你的协议具体格式重写 decode() 方法来对数据包解包。
    这三种包格式,希望读者能在理解其原理和优缺点的基础上深入掌握。

    三 解包与处理

    在理解了前面介绍的数据包的三种格式后,我们来介绍一下针对上述三种格式的数据包技术上应该如何处理。其处理流程都是一样的,这里我们以包头 + 包体 这种格式的数据包来说明。处理流程如下:
    假设我们的包头格式如下:
    1//强制一字节对齐
    2#pragma pack(push, 1)
    3//协议头
    4struct msg
    5{   
    6    int32_t  bodysize;         //包体大小  
    7};
    8#pragma pack(pop)
    那么上面的流程实现代码如下:
    1//包最大字节数限制为10M
    2#define MAX_PACKAGE_SIZE    10 * 1024 * 1024
    3
    4void ChatSession::OnRead(const std::shared_ptr<TcpConnection>& conn, Buffer* pBuffer, Timestamp receivTime)
    5{
    6    while (true)
    7    {
    8        //不够一个包头大小
    9        if (pBuffer->readableBytes() < (size_t)sizeof(msg))
    10        {
    11            //LOGI << “buffer is not enough for a package header, pBuffer->readableBytes()=” << pBuffer->readableBytes() << “, sizeof(msg)=” << sizeof(msg);
    12            return;
    13        }
    14
    15        //取包头信息
    16        msg header;
    17        memcpy(&header, pBuffer->peek(), sizeof(msg));
    18
    19        //包头有错误,立即关闭连接
    20        if (header.bodysize <= 0 || header.bodysize > MAX_PACKAGE_SIZE)
    21        {
    22            //客户端发非法数据包,服务器主动关闭之
    23            LOGE(“Illegal package, bodysize: %lld, close TcpConnection, client: %s”, header.bodysize, conn->peerAddress().toIpPort().c_str());
    24            conn->forceClose();
    25            return;
    26        }
    27
    28        //收到的数据不够一个完整的包
    29        if (pBuffer->readableBytes() < (size_t)header.bodysize + sizeof(msg))
    30            return;
    31
    32        pBuffer->retrieve(sizeof(msg));
    33        //inbuf用来存放当前要处理的包
    34        std::string inbuf;
    35        inbuf.append(pBuffer->peek(), header.bodysize);
    36        pBuffer->retrieve(header.bodysize);          
    37        //解包和业务处理
    38        if (!Process(conn, inbuf.c_str(), inbuf.length()))
    39        {
    40            //客户端发非法数据包,服务器主动关闭之
    41            LOGE(“Process package error, close TcpConnection, client: %s”, conn->peerAddress().toIpPort().c_str());
    42            conn->forceClose();
    43            return;
    44        }              
    45    }// end while-loop
    46}
    上述流程代码的处理过程和流程图中是一致的,pBuffer 这里是一个自定义的接收缓冲区,这里的代码,已经将收到的数据放入了这个缓冲区,所以判断当前已收取的字节数目只需要使用这个对象的相应方法即可。上述代码有些细节我需要强调一下:
    • 取包头时,你应该拷贝一份数据包头大小的数据出来,而不是从缓冲区 pBuffer 中直接将数据取出来(即取出来的数据从 pBuffer 中移除),这是因为倘若接下来根据包头中的字段得到包体大小时,如果剩余数据不够一个包体大小,你又得把这个包头数据放回缓冲区。为了避免这种不必要的操作,只有缓冲区数据大小够整个包的大小(代码中:header.bodysize + sizeof(msg))你才需要把整个包大小的数据从缓冲区移除,这也是这里的 pBuffer->peek() 方法 peek 单词的含义(中文可以翻译成瞟一眼或者偷窥)。
    • 通过包头得到包体大小时,你一定要对 bodysize 的数值进行校验,我这里要求 bodysize 必须大于 0 且不大于 10 * 1024 * 1024(即 10 M)。当然,实际开发中,你可以根据你自己的需求要决定 bodysize 的上下限(包体大小是 0 字节的包在某些业务场景下是允许的)。记住,一定要判断这个上下限,因为假设这是一个非法的客户端发来的数据,其 bodysize 设置了一个比较大的数值,例如 1 * 1024 * 1024 * 1024(即 1 G),你的逻辑会让你一直缓存该客户端发来的数据,那么很快你的服务器内存将会被耗尽,操作系统在检测到你的进程占用内存达到一定阈值时会杀死你的进程,导致服务不能再正常对外服务。如果你检测了 bodysize 字段的是否满足你设置的上下限,对于非法的 bodysize,直接关闭这路连接即可。这也是服务的一种自我保护措施,避免因为非法数据包带来的损失。
    • 不知道你有没有注意到整个判断包头、包体以及处理包的逻辑放在一个 while 循环里面,这是必要的。如果没有这个 while 循环,当你一次性收到多个包时,你只会处理一个,下次接着处理就需要等到新一批数据来临时再次触发这个逻辑。这样造成的结果就是,对端给你发送了多个请求,你最多只能应答一个,后面的应答得等到对端再次给你发送数据时。这就是对粘包逻辑的正确处理。
    以上逻辑和代码是最基本的粘包和半包处理机制,也就是所谓的技术上的解包处理逻辑(业务上的解包处理逻辑后面章节再介绍)。希望读者能理解他们,在理解了他们的基础之上,我们可以给解包拓展很多功能,例如,我们再给我们的协议包增加一个支持压缩的功能,我们的包头变成下面这个样子:
    1#pragma pack(push, 1)
    2//协议头
    3struct msg
    4{
    5    char     compressflag;     //压缩标志,如果为1,则启用压缩,反之不启用压缩
    6    int32_t  originsize;       //包体压缩前大小
    7    int32_t  compresssize;     //包体压缩后大小
    8    char     reserved[16];       //保留字段,用于将来拓展
    9};
    10#pragma pack(pop)
    修改后的代码如下:
    1void ChatSession::OnRead(const std::shared_ptr<TcpConnection>& conn, Buffer* pBuffer, Timestamp receivTime)
    2{
    3    while (true)
    4    {
    5        //不够一个包头大小
    6        if (pBuffer->readableBytes() < (size_t)sizeof(msg))
    7        {
    8            //LOGI << “buffer is not enough for a package header, pBuffer->readableBytes()=” << pBuffer->readableBytes() << “, sizeof(msg)=” << sizeof(msg);
    9            return;
    10        }
    11
    12        //取包头信息
    13        msg header;
    14        memcpy(&header, pBuffer->peek(), sizeof(msg));
    15
    16        //数据包压缩过
    17        if (header.compressflag == PACKAGE_COMPRESSED)
    18        {
    19            //包头有错误,立即关闭连接
    20            if (header.compresssize <= 0 || header.compresssize > MAX_PACKAGE_SIZE ||
    21                header.originsize <= 0 || header.originsize > MAX_PACKAGE_SIZE)
    22            {
    23                //客户端发非法数据包,服务器主动关闭之
    24                LOGE(“Illegal package, compresssize: %lld, originsize: %lld, close TcpConnection, client: %s”,  header.compresssize, header.originsize, conn->peerAddress().toIpPort().c_str());
    25                conn->forceClose();
    26                return;
    27            }
    28
    29            //收到的数据不够一个完整的包
    30            if (pBuffer->readableBytes() < (size_t)header.compresssize + sizeof(msg))
    31                return;
    32
    33            pBuffer->retrieve(sizeof(msg));
    34            std::string inbuf;
    35            inbuf.append(pBuffer->peek(), header.compresssize);
    36            pBuffer->retrieve(header.compresssize);
    37            std::string destbuf;
    38            if (!ZlibUtil::UncompressBuf(inbuf, destbuf, header.originsize))
    39            {
    40                LOGE(“uncompress error, client: %s”, conn->peerAddress().toIpPort().c_str());
    41                conn->forceClose();
    42                return;
    43            }
    44
    45            //业务逻辑处理
    46            if (!Process(conn, destbuf.c_str(), destbuf.length()))
    47            {
    48                //客户端发非法数据包,服务器主动关闭之
    49                LOGE(“Process error, close TcpConnection, client: %s”, conn->peerAddress().toIpPort().c_str());
    50                conn->forceClose();
    51                return;
    52            }
    53        }
    54        //数据包未压缩
    55        else
    56        {
    57            //包头有错误,立即关闭连接
    58            if (header.originsize <= 0 || header.originsize > MAX_PACKAGE_SIZE)
    59            {
    60                //客户端发非法数据包,服务器主动关闭之
    61                LOGE(“Illegal package, compresssize: %lld, originsize: %lld, close TcpConnection, client: %s”, header.compresssize, header.originsize, conn->peerAddress().toIpPort().c_str());
    62                conn->forceClose();
    63                return;
    64            }
    65
    66            //收到的数据不够一个完整的包
    67            if (pBuffer->readableBytes() < (size_t)header.originsize + sizeof(msg))
    68                return;
    69
    70            pBuffer->retrieve(sizeof(msg));
    71            std::string inbuf;
    72            inbuf.append(pBuffer->peek(), header.originsize);
    73            pBuffer->retrieve(header.originsize);
    74            //业务逻辑处理
    75            if (!Process(conn, inbuf.c_str(), inbuf.length()))
    76            {
    77                //客户端发非法数据包,服务器主动关闭之
    78                LOGE(“Process error, close TcpConnection, client: %s”, conn->peerAddress().toIpPort().c_str());
    79                conn->forceClose();
    80                return;
    81            }
    82        }// end else
    83
    84    }// end while-loop
    85}
    这段代码先根据包头的压缩标志字段判断包体是否有压缩,如果有压缩,则取出包体大小去解压,解压后的数据才是真正的业务数据。整个程序执行流程图如下:
    代码中有一个接收缓冲区变量 pBuffer,关于接收缓冲区如何设计,我们将在后面的文章中详细介绍。
    本站所有文章均由网友分享,仅用于参考学习用,请勿直接转载,如有侵权,请联系网站客服删除相关文章。若由于商用引起版权纠纷,一切责任均由使用者承担
    极客文库 » TCP 协议如何解决粘包、半包问题

    常见问题FAQ

    如果资源链接失效了怎么办?
    本站用户分享的所有资源都有自动备份机制,如果资源链接失效,请联系本站客服QQ:2580505920更新资源地址。
    如果用户分享的资源与描述不符怎么办?
    可以联系客服QQ:2580505920,如果要求合理可以安排退款或者退赞助积分。
    如何分享个人资源获取赞助积分或其他奖励?
    本站用户可以分享自己的资源,但是必须保证资源没有侵权行为。点击个人中心,根据操作填写并上传即可。资源所获收益完全归属上传者,每周可申请提现一次。
    如果您发现了本资源有侵权行为怎么办?
    及时联系客服QQ:2580505920,核实予以删除。

    参与讨论

    • 211会员总数(位)
    • 3737资源总数(个)
    • 0本周发布(个)
    • 0 今日发布(个)
    • 862稳定运行(天)

    欢迎加入「极客文库」,成为原创作者从这里开始!

    立即加入 了解更多
    成为赞助用户享有更多特权立即升级