/runninglinuxkernel_5.0

奔跑吧linux内核第二版(卷1,卷2,入门篇) 实验平台

Primary LanguageCOtherNOASSERTION

《奔跑吧Linux内核》 第二版配套实验平台

奔跑吧第二版配套实验平台

《奔跑吧Linux内核》第二版系列三本书:卷1、卷2以及入门篇,已经出版,读者可以到异步社区、京东、当当等书店购买。

我们还提供丰富的学习资源,下载方法:登陆“奔跑吧linux社区”微信公众号,输入“奔跑吧2”获取下载地址。

  1. 全套实验环境,基于Ubuntu 20.04制作的VMware/VirtualBox虚拟机镜像
  2. 实验指导手册,400多页详细的实验指导手册(入门篇)
  3. 电子课件(入门篇)
  4. 实验参考代码
  5. 插图下载
  6. 勘误
  7. 免费视频
  8. Docker镜像
  9. 实验素材(例如卷2中用到vmcore等)

索取课件powerpoint和插图visio版本

奔跑吧入门篇第二版除了准备丰富的教学和学习资料, 我们还准备好了电子课件的powerpoint原稿和 插图的visio原稿,仅特供给:

  1. 选择奔跑吧作为教辅教材的高校任课老师,请提供课程主页或者开课的相关信息。
  2. 用于机构培训或者企业内部培训,请提供购买30本或者以上图书的购买发票或者购买截图。

请发送邮件给笨叔以及悦叔: 笨叔:runninglinuxkernel@126.com 悦叔:chenyuecn@163.com

入门篇课件的pdf和插图jpg版本已经上传到百度网盘,对读者来说已经足够,不必申请PowerPoint和visio版本.

《奔跑吧Linux内核》的来由

笨叔当fae的时候,去请教研发兄弟一些问题,时常会遭到白眼:我也不太懂,某某代码里有,你自己看啦,某某芯片手册有,你自己看啦。 现在人生活压力忒大,生怕教会了别人,感觉明天就会失业了一样。笨叔觉得,好东西需要记录下来和大家分享,于是有了《奔跑吧linux内核》。

奔跑吧面试必考题

你想试试《奔跑吧linux内核》这本书适不适合你,你可以来试试做一下这份卷子,只要考分在90%以下,《奔跑吧Linux内核》就是为您量身打造的。

奔跑吧面试必考题

实验平台说明

我们强烈推荐读者使用我们制作好的vmware image,开箱即用,下载方式:关注“奔跑吧linux社区”微信公众号,输入“奔跑吧2”下载。

本git repo是《奔跑吧Linux内核》第二版卷1卷2以及入门篇三本书的配套实验平台,包含Linux 5.0代码以及书上实验参考代码。 使用busybox工具制作的最小文件系统,该最小系统仅仅包含了Linux系统最常用的命令,如ls,top等命令。如果要在此最小系统中进行systemtap以及kdump等试验的话, 我们需要手动编译和安装这些工具,这个过程是相当复杂和繁琐的。为此,我们尝试使用Debian的根文件系统来构造一个小巧而且好用的实验平台。 在这个实验平台中,读者可以在线安装丰富的软件包,比如kdump,crash,systemtap等工具。这个实验平台具有如下特点:

  1. 使用“O0”来编译内核
  2. 在主机Host中编译内核
  3. 使用QEMU来加载系统
  4. 支持GDB单步调试内核以及Debian系统
  5. 使用ARM64版本的Debian系统的根文件系统
  6. 在线安装Debian软件包
  7. 支持在虚拟机里动态编译内核模块
  8. 支持Host主机和虚拟机共享文件

本书推荐的实验环境如下。

  1. 主机硬件平台:Intel x86_84处理器兼容主机。
  2. 主机操作系统:Ubuntu Linux 20.04
  3. GCC版本:9 (aarch64-linux-gnu-gcc-9)

在Ubuntu Linux 20.04可以通过如下命令来安装本书需要的软件包。

$ sudo apt update -y
$ sudo apt install net-tools libncurses5-dev libssl-dev build-essential openssl qemu-system-arm libncurses5-dev gcc-aarch64-linux-gnu git bison flex bc vim universal-ctags cscope cmake python3-dev gdb-multiarch openjdk-13-jre trace-cmd kernelshark bpfcc-tools cppcheck docker docker.io

本书配套的实验是在 kmodules 目录下面:

  1. 奔跑吧进阶篇(卷1和卷2)对应的实验:kmodules/rlk_lab/rlk_senior
  2. 奔跑吧入门篇对应的实验:kmodules/rlk_lab/rlk_basic

本书配套的其他资源

请关注奔跑吧linux社区微信公众号:runninglinuxkernel

本书配套的视频课程

若读者觉得阅读本书的文字版本不过瘾,想看笨叔录制的视频课程,请关注:

  1. 淘宝店:https://shop115683645.taobao.com/
  2. 微店:https://weidian.com/?userid=1692165428

目前上线的配套课程有3个:

  1. 第一季旗舰篇:Linux内存管理 image
  2. 第二季旗舰篇:Linux进程管理、中断管理、锁机制三合一 image
  3. 第三季旗舰篇:ARM64体系结构与编程

全球原创的ARM64实验,全球首个手把手解读ARMv8芯片手册,笨叔带您一起做实验,一起玩树莓派,一起进步! image

使用O0编译的内核的好处

这个runninglinuxkernel内核默认使用GCC的“O0”优化等级来编译的。 读者可能发现gdb在单步调试内核时会出现光标乱跳并且无法打印有些变量的值(例如出现)等问题,其实这不是gdb或QEMU的问题。 是因为内核编译的默认优化选项是O2,因此如果不希望光标乱跳,可以尝试把linux-5.0根目录Makefile中的O2改成O0,但是这样编译时有问题,作者为此做了一些修改。 最后需要特别说明一下,使用GCC的“O0”优化等级编译内核会导致内核运行性能下降,因此我们仅仅是为了方便单步调试内核。 使用O1或者O2编译的内核,使用gdb进行单步调试时查看变量会出现大量的。

实验说明

本书配套的实验代码是在kmodules/rlk_basic目录下面。

1. 编译运行

在runninglinuxkernel_5.0目录下面有一个rootfs_arm64.tar.xz文件,这个是采用Ubuntu/Debian系统的根文件系统制作而成。 但是,这个根文件系统还只是一个半成品,我们还需要根据编译好的内核来安装内核镜像和内核模块,整个过程比较复杂。

  1. 编译内核。
  2. 编译内核模块。
  3. 安装内核模块。
  4. 安装内核头文件。
  5. 安装编译内核模块必须依赖文件。
  6. 制作ext4根文件系统。 这个过程比较繁琐,我们制作了一个脚本来简化上述过程。 注意,该脚本会使用dd命令来生成一个4GB大小的镜像文件,因此主机系统需要保证至少10 GB的空余磁盘空间。若读者需要生成一个更大的根文件系统镜像,可以修改run_rlk_arm64.sh这个脚本文件。

如果在编译内核之前想进入menuconfig界面来配置内核:

$ cd runninglinuxkernel_5.0
$ ./run_debian_arm64.sh menuconfig

编译内核。

$ ./run_debian_arm64.sh build_kernel

执行上述脚本需要几十分钟,依赖于主机的计算能力。接着,编译根文件系统。

$ cd runninglinuxkernel_5.0
$ sudo ./run_debian_arm64.sh build_rootfs

读者需要注意,编译根文件系统需要管理员权限,而编译内核则不需要。执行完成后会生成一个名为rootfs_arm64.ext4的根文件系统。

运行刚才编译好的ARM64版本的Linux系统。 运行run_debian_arm64.sh脚本,输入run参数即可。

$./run_debian_arm64.sh run

系统登录名: benshushu 密码:123

切换到root用户:su root

如果读者修改了runninglinuxkernel_5.0内核的配置文件,比如arch/arm64/config/debian_defconfig文件,那么需要重新编译内核以及更新根文件系统。

$ ./run_debian_arm64.sh build_kernel         # 重新编译内核
$ sudo ./run_debian_arm64.sh update_rootfs  #更新根文件系统

2. 在线安装软件包

QEMU虚拟机可以通过VirtIO-Net技术来生成一个虚拟的网卡,通过NAT网络桥接技术和主机进行网络共享。使用ifconfig命令来检查网络配置。

root@ubuntu:~# ifconfig
enp0s1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 10.0.2.15  netmask 255.255.255.0  broadcast 10.0.2.255
        inet6 fec0::ce16:adb:3e70:3e71  prefixlen 64  scopeid 0x40<site>
        inet6 fe80::c86e:28c4:625b:2767  prefixlen 64  scopeid 0x20<link>
        ether 52:54:00:12:34:56  txqueuelen 1000  (Ethernet)
        RX packets 23217  bytes 33246898 (31.7 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 4740  bytes 267860 (261.5 KiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

lo: flags=73<UP,LOOPBACK,RUNNING>  mtu 65536
        inet 127.0.0.1  netmask 255.0.0.0
        inet6 ::1  prefixlen 128  scopeid 0x10<host>
        loop  txqueuelen 1000  (Local Loopback)
        RX packets 2  bytes 78 (78.0 B)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 2  bytes 78 (78.0 B)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

可以看到生成了一个名为enp0s1的网卡设备,分配的IP地址为:10.0.2.15。 通过apt update命令来更新Debian系统的软件仓库。

root@ubuntu:~# apt update

如果更新失败,有可能是系统时间比较旧了,可以使用date命令来设置日期。

root@ubuntu:~# date -s 2020-03-29 #假设最新日期是2020年3月29日
Sun Mar 29 00:00:00 UTC 2020

使用apt install命令来安装软件包。比如,可以在线安装gcc。

root@ubuntu:~# apt install gcc

3. 共享文件夹

在主机和QEMU虚拟机之间共享文件。 主机和QEMU虚拟机可以通过NET_9P技术进行文件共享,这个需要QEMU虚拟机和主机的Linux内核都使能NET_9P的内核模块。本实验平台已经支持主机和QEMU虚拟机的共享文件,可以通过如下简单方法来测试。 复制一个文件到runninglinuxkernel_5.0/kmodules目录下面。

$ cp test.c  runninglinuxkernel_5.0/kmodules

启动QEMU虚拟机之后,首先检查一下/mnt目录是否有test.c文件。

root@ubuntu:/# cd /mnt
root@ubuntu:/mnt # ls
README     test.c

我们在后续的实验中会经常利用这个特性,比如把编译好的内核模块或者内核模块源代码放入QEMU虚拟机。

4. 编译内核模块

在QEMU虚拟机中安装必要的软件包。

root@ubuntu: # apt install build-essential

在QEMU虚拟机里编译内核模块时需要指定QEMU虚拟机本地的内核路径,例如BASEINCLUDE变量指向了本地内核路径。“/lib/modules/$(shell uname -r)/build”是一个链接文件,用来指向具体内核源代码路径,通常是指向已经编译过的内核路径。

BASEINCLUDE ?= /lib/modules/$(shell uname -r)/build

编译内核模块,下面以最简单的hello_world内核模块程序为例。

root@ubuntu:/mnt/hello_world# make
make -C /lib/modules/5.0.0+/build M=/mnt/hello_world modules;
make[1]: Entering directory '/usr/src/linux'
  CC [M]  /mnt/hello_world/test-1.o
  LD [M]  /mnt/hello_world/test.o
  Building modules, stage 2.
  MODPOST 1 modules
  CC      /mnt/hello_world/test.mod.o
  LD [M]  /mnt/hello_world /test.ko
make[1]: Leaving directory '/usr/src/linux'
root@ubuntu: /mnt/hello_world#

加载内核模块。

root@ubuntu:/mnt/hello_world# insmod test.ko

5. Livepatch support

在rlk_5.0内核下添加了对arm64 livepatch的支持。aarch64-linux-gnu-gcc版本必须是8或者以上。

  1. 编译热补丁模块

在内核源码根目录下samples/livepatch/目录中有相关用例,在ubuntu主机里编译相关模块

$ export ARCH=arm64
$ export CROSS_COMPILE=aarch64-linux-gnu-

$ cd samples/livepatch/
$ make CONFIG_SAMPLE_LIVEPATCH=m -C ../../ M=$(pwd) modules
  1. 启动内核
$ ./run_debian_arm64.sh run

将相关热补丁模块拷贝到共享目录

$ cp samples/livepatch/*.ko  kmodules/
  1. 进入系统, 执行cat命令.
benshushu:mnt# cat /proc/cmdline 
noinintrd sched_debug root=/dev/vda rootfstype=ext4 rw crashkernel=256M loglevel=8

加载热补丁模块后再次执行该命令:

benshushu:mnt# cat /proc/cmdline
this has been live patched

可以看到内核函数cmdline_proc_show被替换成功。

卸载热补丁模块

benshushu:mnt# echo 0 > /sys/kernel/livepatch/livepatch_sample/enabled
[  702.928721] livepatch: 'livepatch_sample': starting unpatching transition
benshushu:mnt# [  704.373970] livepatch: 'livepatch_sample': unpatching complete

benshushu:mnt# cat /proc/cmdline
noinintrd sched_debug root=/dev/vda rootfstype=ext4 rw crashkernel=256M loglevel=8

可以看到热补丁模块卸载后,cmdline_proc_show函数恢复到补丁前状态。

6. kdump的使用

请参考《奔跑吧Linux内核》第二版卷2第5章相关内容。

7. 调试ARM64 Linux内核

请参考《奔跑吧Linux内核》第二版卷2第3.1章相关内容,里面详细介绍如何使用QEMU+GDB+Eclipse来调试arm64内核。

8. apt update证书问题

如果在QEMU+ARM64平台里apt更新失败,如下面日志显示。

benshushu:~# apt update
Get:1 http://mirrors.ustc.edu.cn/debian unstable InRelease [165 kB]
Err:1 http://mirrors.ustc.edu.cn/debian unstable InRelease
  The following signatures couldn't be verified because the public key is not available: NO_PUBKEY 648ACFD622F3D138 NO_PUBKEY 0E98404D386FA1D9
Reading package lists... Done
W: GPG error: http://mirrors.ustc.edu.cn/debian unstable InRelease: The following signatures couldn't be verified because the public key is not available: NO_PUBKEY 648ACFD622F3D138 NO_PUBKEY 0E98404D386FA1D9
E: The repository 'http://mirrors.ustc.edu.cn/debian unstable InRelease' is not signed.
N: Updating from such a repository can't be done securely, and is therefore disabled by default.
N: See apt-secure(8) manpage for repository creation and user configuration details.
benshushu:~#

这个是由于PGP证书的问题,上述日志显示有两个证书有问题,我们可以通过如下方式来修复。

# apt-key adv --keyserver pgp.mit.edu --recv-keys 648ACFD622F3D138 //其中648ACFD622F3D138为有问题的证书Key

# apt-key adv --keyserver pgp.mit.edu --recv-keys 0E98404D386FA1D9 //其中0E98404D386FA1D9为有问题的证书KEY

上述两个证书修复之后就可以执行apt update操作了。

# apt update

加入奔跑吧微信技术交流群

我们建立奔跑吧读者交流群,可以先加我们的客服微信号,请出示奔跑吧系列图书购买截图,以方面我们邀请您进读者群(我们目的是邀请读者进群,过滤机器人,销售,HR,猎头等):

  1. 客服微信号:runninglinuxkernel