Go语言基础之网络编程

老鬼少爷 發表於 2019-5-30 20:41:00

<div class="container">
<div class="col-group">
<div id="main" class="col-8">
<div class="res-cons">
<h1 class="post-title">Go语言基础之网络编程</h1>
<div class="post-content">
现在我们几乎每天都在使用互联网，我们前面已经学习了如何编写Go语言程序，但是如何才能让我们的程序通过网络互相通信呢？本章我们就一起来学习下Go语言中的网络编程。关于网络编程其实是一个很庞大的领域，本文只是简单的演示了如何使用net包进行TCP和UDP通信。如需了解更详细的网络编程请自行检索和阅读专业资料。
<h1 id="互联网协议介绍">互联网协议介绍</h1>
互联网的核心是一系列协议，总称为”互联网协议”（Internet Protocol Suite），正是这一些协议规定了电脑如何连接和组网。我们理解了这些协议，就理解了互联网的原理。由于这些协议太过庞大和复杂，没有办法在这里一概而全，只能介绍一下我们日常开发中接触较多的几个协议。
<h2 id="互联网分层模型">互联网分层模型</h2>
互联网的逻辑实现被分为好几层。每一层都有自己的功能，就像建筑物一样，每一层都靠下一层支持。用户接触到的只是最上面的那一层，根本不会感觉到下面的几层。要理解互联网就需要自下而上理解每一层的实现的功能。 
<img src="https://img2018.cnblogs.com/blog/1300537/201905/1300537-20190530203415032-1049584816.png" alt="">
如上图所示，互联网按照不同的模型划分会有不用的分层，但是不论按照什么模型去划分，越往上的层越靠近用户，越往下的层越靠近硬件。在软件开发中我们使用最多的是上图中将互联网划分为五个分层的模型。
接下来我们一层一层的自底向上介绍一下每一层。
<h3 id="物理层">物理层</h3>
我们的电脑要与外界互联网通信，需要先把电脑连接网络，我们可以用双绞线、光纤、无线电波等方式。这就叫做”实物理层”，它就是把电脑连接起来的物理手段。它主要规定了网络的一些电气特性，作用是负责传送0和1的电信号。
<h3 id="数据链路层">数据链路层</h3>
单纯的0和1没有任何意义，所以我们使用者会为其赋予一些特定的含义，规定解读电信号的方式：例如：多少个电信号算一组？每个信号位有何意义？这就是”数据链接层”的功能，它在”物理层”的上方，确定了物理层传输的0和1的分组方式及代表的意义。早期的时候，每家公司都有自己的电信号分组方式。逐渐地，一种叫做”以太网”（Ethernet）的协议，占据了主导地位。
以太网规定，一组电信号构成一个数据包，叫做”帧”（Frame）。每一帧分成两个部分：标头（Head）和数据（Data）。其中”标头”包含数据包的一些说明项，比如发送者、接受者、数据类型等等；”数据”则是数据包的具体内容。”标头”的长度，固定为18字节。”数据”的长度，最短为46字节，最长为1500字节。因此，整个”帧”最短为64字节，最长为1518字节。如果数据很长，就必须分割成多个帧进行发送。
那么，发送者和接受者是如何标识呢？以太网规定，连入网络的所有设备都必须具有”网卡”接口。数据包必须是从一块网卡，传送到另一块网卡。网卡的地址，就是数据包的发送地址和接收地址，这叫做MAC地址。每块网卡出厂的时候，都有一个全世界独一无二的MAC地址，长度是48个二进制位，通常用12个十六进制数表示。前6个十六进制数是厂商编号，后6个是该厂商的网卡流水号。有了MAC地址，就可以定位网卡和数据包的路径了。
我们会通过ARP协议来获取接受方的MAC地址，有了MAC地址之后，如何把数据准确的发送给接收方呢？其实这里以太网采用了一种很”原始”的方式，它不是把数据包准确送到接收方，而是向本网络内所有计算机都发送，让每台计算机读取这个包的”标头”，找到接收方的MAC地址，然后与自身的MAC地址相比较，如果两者相同，就接受这个包，做进一步处理，否则就丢弃这个包。这种发送方式就叫做”广播”（broadcasting）。
<h3 id="网络层">网络层</h3>
按照以太网协议的规则我们可以依靠MAC地址来向外发送数据。理论上依靠MAC地址，你电脑的网卡就可以找到身在世界另一个角落的某台电脑的网卡了，但是这种做法有一个重大缺陷就是以太网采用广播方式发送数据包，所有成员人手一”包”，不仅效率低，而且发送的数据只能局限在发送者所在的子网络。也就是说如果两台计算机不在同一个子网络，广播是传不过去的。这种设计是合理且必要的，因为如果互联网上每一台计算机都会收到互联网上收发的所有数据包，那是不现实的。
因此，必须找到一种方法区分哪些MAC地址属于同一个子网络，哪些不是。如果是同一个子网络，就采用广播方式发送，否则就采用”路由”方式发送。这就导致了”网络层”的诞生。它的作用是引进一套新的地址，使得我们能够区分不同的计算机是否属于同一个子网络。这套地址就叫做”网络地址”，简称”网址”。
“网络层”出现以后，每台计算机有了两种地址，一种是MAC地址，另一种是网络地址。两种地址之间没有任何联系，MAC地址是绑定在网卡上的，网络地址则是网络管理员分配的。网络地址帮助我们确定计算机所在的子网络，MAC地址则将数据包送到该子网络中的目标网卡。因此，从逻辑上可以推断，必定是先处理网络地址，然后再处理MAC地址。
规定网络地址的协议，叫做IP协议。它所定义的地址，就被称为IP地址。目前，广泛采用的是IP协议第四版，简称IPv4。IPv4这个版本规定，网络地址由32个二进制位组成，我们通常习惯用分成四段的十进制数表示IP地址，从0.0.0.0一直到255.255.255.255。
根据IP协议发送的数据，就叫做IP数据包。IP数据包也分为”标头”和”数据”两个部分：”标头”部分主要包括版本、长度、IP地址等信息，”数据”部分则是IP数据包的具体内容。IP数据包的”标头”部分的长度为20到60字节，整个数据包的总长度最大为65535字节。
<h3 id="传输层">传输层</h3>
有了MAC地址和IP地址，我们已经可以在互联网上任意两台主机上建立通信。但问题是同一台主机上会有许多程序都需要用网络收发数据，比如QQ和浏览器这两个程序都需要连接互联网并收发数据，我们如何区分某个数据包到底是归哪个程序的呢？也就是说，我们还需要一个参数，表示这个数据包到底供哪个程序（进程）使用。这个参数就叫做”端口”（port），它其实是每一个使用网卡的程序的编号。每个数据包都发到主机的特定端口，所以不同的程序就能取到自己所需要的数据。
“端口”是0到65535之间的一个整数，正好16个二进制位。0到1023的端口被系统占用，用户只能选用大于1023的端口。有了IP和端口我们就能实现唯一确定互联网上一个程序，进而实现网络间的程序通信。
我们必须在数据包中加入端口信息，这就需要新的协议。最简单的实现叫做UDP协议，它的格式几乎就是在数据前面，加上端口号。UDP数据包，也是由”标头”和”数据”两部分组成：”标头”部分主要定义了发出端口和接收端口，”数据”部分就是具体的内容。UDP数据包非常简单，”标头”部分一共只有8个字节，总长度不超过65,535字节，正好放进一个IP数据包。
UDP协议的优点是比较简单，容易实现，但是缺点是可靠性较差，一旦数据包发出，无法知道对方是否收到。为了解决这个问题，提高网络可靠性，TCP协议就诞生了。TCP协议能够确保数据不会遗失。它的缺点是过程复杂、实现困难、消耗较多的资源。TCP数据包没有长度限制，理论上可以无限长，但是为了保证网络的效率，通常TCP数据包的长度不会超过IP数据包的长度，以确保单个TCP数据包不必再分割。
<h3 id="应用层">应用层</h3>
应用程序收到”传输层”的数据，接下来就要对数据进行解包。由于互联网是开放架构，数据来源五花八门，必须事先规定好通信的数据格式，否则接收方根本无法获得真正发送的数据内容。”应用层”的作用就是规定应用程序使用的数据格式，例如我们TCP协议之上常见的Email、HTTP、FTP等协议，这些协议就组成了互联网协议的应用层。
如下图所示，发送方的HTTP数据经过互联网的传输过程中会依次添加各层协议的标头信息，接收方收到数据包之后再依次根据协议解包得到数据。
<img src="https://img2018.cnblogs.com/blog/1300537/201905/1300537-20190530203607160-82972860.png" alt="">
<h1 id="socket编程">socket编程</h1>
Socket是BSD UNIX的进程通信机制，通常也称作”套接字”，用于描述IP地址和端口，是一个通信链的句柄。Socket可以理解为TCP/IP网络的API，它定义了许多函数或例程，程序员可以用它们来开发TCP/IP网络上的应用程序。电脑上运行的应用程序通常通过”套接字”向网络发出请求或者应答网络请求。
<h2 id="socket图解">socket图解</h2>
<code>Socket</code>是应用层与TCP/IP协议族通信的中间软件抽象层。在设计模式中，<code>Socket</code>其实就是一个门面模式，它把复杂的TCP/IP协议族隐藏在<code>Socket</code>后面，对用户来说只需要调用Socket规定的相关函数，让<code>Socket</code>去组织符合指定的协议数据然后进行通信。
<img src="https://img2018.cnblogs.com/blog/1300537/201905/1300537-20190530203637395-1434973617.png" alt="">
<h2 id="go语言实现tcp通信">Go语言实现TCP通信</h2>
<h3 id="tcp协议">TCP协议</h3>
TCP/IP(Transmission Control Protocol/Internet Protocol) 即传输控制协议/网间协议，是一种面向连接（连接导向）的、可靠的、基于字节流的传输层（Transport layer）通信协议，因为是面向连接的协议，数据像水流一样传输，会存在黏包问题。
<h3 id="tcp服务端">TCP服务端</h3>
一个TCP服务端可以同时连接很多个客户端，例如世界各地的用户使用自己电脑上的浏览器访问淘宝网。因为Go语言中创建多个goroutine实现并发非常方便和高效，所以我们可以每建立一次链接就创建一个goroutine去处理。
TCP服务端程序的处理流程：
<ol>
<li>监听端口</li>
<li>接收客户端请求建立链接</li>
<li>创建goroutine处理链接。</li>
</ol>
我们使用Go语言的net包实现的TCP服务端代码如下：
<div class="cnblogs_code">
<pre>// tcp/server/main.go

// TCP server端

// 处理函数
func process(conn net.Conn) {
defer conn.Close() // 关闭连接
for {
 reader := bufio.NewReader(conn)
 var buf [128]byte
 n, err := reader.Read(buf[:]) // 读取数据
 if err != nil {
 fmt.Println("read from client failed, err:", err)
 break
 }
 recvStr := string(buf[:n])
 fmt.Println("收到client端发来的数据：", recvStr)
 conn.Write([]byte(recvStr)) // 发送数据
 }
}

func main() {
listen, err := net.Listen("tcp", "127.0.0.1:20000")
if err != nil {
 fmt.Println("listen failed, err:", err)
 return
}
for {
 conn, err := listen.Accept() // 建立连接
 if err != nil {
 fmt.Println("accept failed, err:", err)
 continue
 }
 go process(conn) // 启动一个goroutine处理连接
 }
}</pre>
</div>
将上面的代码保存之后编译成<code>server</code>或<code>server.exe</code>可执行文件。
<h3 id="tcp客户端">TCP客户端</h3>
一个TCP客户端进行TCP通信的流程如下：
<ol>
<li>建立与服务端的链接</li>
<li>进行数据收发</li>
<li>关闭链接</li>
</ol>
使用Go语言的net包实现的TCP客户端代码如下：
<div class="cnblogs_code">
<pre>// tcp/client/main.go

// 客户端
func main() {
conn, err := net.Dial("tcp", "127.0.0.1:20000")
if err != nil {
 fmt.Println("err :", err)
 return
}
defer conn.Close() // 关闭连接
inputReader := bufio.NewReader(os.Stdin)
for {
 input, _ := inputReader.ReadString('\n') // 读取用户输入
 inputInfo := strings.Trim(input, "\r\n")
 if strings.ToUpper(inputInfo) == "Q" { // 如果输入q就退出
 return
 }
 _, err = conn.Write([]byte(inputInfo)) // 发送数据
 if err != nil {
 return
 }
 buf := [512]byte{}
 n, err := conn.Read(buf[:])
 if err != nil {
 fmt.Println("recv failed, err:", err)
 return
 }
 fmt.Println(string(buf[:n]))
}
}</pre>
</div>
将上面的代码编译成<code>client</code>或<code>client.exe</code>可执行文件，先启动server端再启动client端，在client端输入任意内容回车之后就能够在server端看到client端发送的数据，从而实现TCP通信
<h2 id="go语言实现udp通信">Go语言实现UDP通信</h2>
<h3 id="udp协议">UDP协议</h3>
UDP协议（User Datagram Protocol）中文名称是用户数据报协议，是OSI（Open System Interconnection，开放式系统互联）参考模型中一种无连接的传输层协议，不需要建立连接就能直接进行数据发送和接收，属于不可靠的、没有时序的通信，但是UDP协议的实时性比较好，通常用于视频直播相关领域。
<h3 id="udp服务端">UDP服务端</h3>
使用Go语言的<code>net</code>包实现的UDP服务端代码如下：
<div class="cnblogs_code">
<pre>// UDP/server/main.go

// UDP server端
func main() {
listen, err := net.ListenUDP("udp", &net.UDPAddr{
 IP: net.IPv4(0, 0, 0, 0),
 Port: 30000,
})
if err != nil {
 fmt.Println("listen failed, err:", err)
 return
}
defer listen.Close()
for {
 var data [1024]byte
 n, addr, err := listen.ReadFromUDP(data[:]) // 接收数据
 if err != nil {
 fmt.Println("read udp failed, err:", err)
 continue
 }
 fmt.Printf("data:%v addr:%v count:%v\n", string(data[:n]), addr, n)
 _, err = listen.WriteToUDP(data[:n], addr) // 发送数据
 if err != nil {
 fmt.Println("write to udp failed, err:", err)
 continue
 }
}
}</pre>
</div>
<h3>UDP客户端</h3>
使用Go语言的<code>net</code>包实现的UDP客户端代码如下：
<div class="cnblogs_code">
<pre>// UDP 客户端
func main() {
socket, err := net.DialUDP("udp", nil, &net.UDPAddr{
 IP: net.IPv4(0, 0, 0, 0),
 Port: 30000,
})
if err != nil {
 fmt.Println("连接服务端失败，err:", err)
 return
}
defer socket.Close()
sendData := []byte("Hello server")
_, err = socket.Write(sendData) // 发送数据
if err != nil {
 fmt.Println("发送数据失败，err:", err)
 return
}
data := make([]byte, 4096)
n, remoteAddr, err := socket.ReadFromUDP(data) // 接收数据
if err != nil {
 fmt.Println("接收数据失败，err:", err)
 return
}
fmt.Printf("recv:%v addr:%v count:%v\n", string(data[:n]), remoteAddr, n)
}</pre>
</div>
<h2>HTTP客户端和服务端</h2>
<h3 id="http协议">HTTP协议</h3>
超文本传输协议（HTTP，HyperText Transfer Protocol)是互联网上应用最为广泛的一种网络传输协议，所有的WWW文件都必须遵守这个标准。设计HTTP最初的目的是为了提供一种发布和接收HTML页面的方法。
<h3 id="http-客户端">HTTP 客户端</h3>
使用Go语言编写一个简单的发送HTTP请求的Client端，代码如下：
<div class="cnblogs_code">
<pre>// http client demo

func main() {
conn, err := net.Dial("tcp", "www.baidu.com:80")
if err != nil {
 fmt.Println("dial failed, err:", err)
 return
}
defer conn.Close()

fmt.Fprintf(conn, "GET / HTTP/1.0\r\n\r\n") // 发送请求

var buf [8192]byte
// 接收响应
for {
 n, err := conn.Read(buf[:])
 if err == io.EOF {
 return
 }
 if err != nil {
 fmt.Println("get response failed, err:", err)
 break
 }
 fmt.Print(string(buf[:n]))
}
}</pre>
</div>
将上面的代码保存之后编译成可执行文件，执行之后就能在终端打印<code>liwenzhou.com</code>网站首页的内容了，我们的浏览器其实就是一个发送和接收HTTP协议数据的客户端，我们平时通过浏览器访问网页其实就是从网站的服务器接收HTTP数据，然后浏览器会按照HTML、CSS等规则将网页渲染展示出来。
我们还可以直接使用Go语言封装好的<code>net/http</code>包，它提供了HTTP客户端和服务端的实现。有了<code>net/http</code>包我们请求<code>liwenzhou.com</code>这个网站的页面就会比较简单了，示例代码如下:
<div class="cnblogs_code">
<pre>// http_client/main.go

package main

import (
"fmt"
"io/ioutil"
"net/http"
)

func main() {
resp, err := http.Get("https://www.baidu.com/")
if err != nil {
 fmt.Println("get failed, err:", err)
 return
}
defer resp.Body.Close()
body, err := ioutil.ReadAll(resp.Body)
fmt.Println(body)
}</pre>
</div>
将上面的代码保存之后编译成可执行文件，执行之后就能在终端输出<code>liwenzhou.com</code>网站首页的内容了。
<h3 id="http-服务端">HTTP 服务端</h3>
使用Go语言中的<code>net/http</code>包来编写一个简单的接收HTTP请求的Server端示例，<code>net/http</code>包是对net包的进一步封装，专门用来处理HTTP协议的数据。具体的代码如下：
<div class="cnblogs_code">
<pre>// http server

func sayHello(w http.ResponseWriter, r *http.Request) {
fmt.Fprintln(w, "Hello World！")
}

func main() {
http.HandleFunc("/", sayHello)
err := http.ListenAndServe(":9090", nil)
if err != nil {
 fmt.Printf("http server failed, err:%v\n", err)
 return
}
}</pre>
</div>
 
</div>
</div>
</div>
</div>
</div> 
来源：https://www.cnblogs.com/aaronthon/p/10951929.html

頁: [1]

琼殿技术论坛's Archiver

Go语言基础之网络编程