Review

A thread is a basic unit of CPU utilization.

Thread Concept

pros：

• 多相似任务处理
• 利用多核系统
• 创建线程轻量化

examples：

• Client-server applications
• Most operating system kernels are multithreaded

Multicore Programming

Parallelism

• Data Parallelism
  • Mapreduce
  • Distributed Machine Learning
• Task Parallelism
  • Federated Submodel Learning
  • Distributed Machine Learning

Amdahl’s Law

公式：

• P: 串行部分的比例
• N: 并行部分的数量

取决于串行部分的比例

Multithreading Models

Lightweight process (LWP): A mapping between user threads and kernel threads

Multithreading models

Thread Libraries

Tools for manage threads

• POSIX Pthreads
• Java Threads
• Win32 Threads

Pthreads

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

#include <pthread.h> 
#include <stdio.h> 
#include <stdlib.h> 
int sum; /* this data is shared by the thread(s) */ 
void *runner(void *param); /* threads call this function */ 
int main(int argc, char *argv[]) 
{
pthread_t tid; /* create thread identifier */ 
pthread_attr_t attr; /* create thread attributes */ 
/* set the default attributes of the thread */ 
pthread_attr_init(&attr); 
/* create the thread */ 
pthread_create(&tid, &attr, runner, argv[1]); 
/* wait for the thread to exit */ 
pthread_join(tid, NULL); 
printf("sum = %d ∖ n",sum);

Implicit Threading

• Thread Pools
  • 提前创建多个线程，等待任务到来
• Fork-Join
  • 分治法
• OpenMP
  • 并行编程接口
• Grand Central Dispatch
  • 苹果的并行编程框架
• Intel Threading Building Blocks
  • 英特尔的并行编程框架

Threading Issues

关于Kernel和User

学习操作系统到这里，我发现大量出现Kernel和User的概念，这里有一些自己的探索与思考。

溯源

• Multics系统（1960年代）
  由MIT、贝尔实验室和通用电气联合开发的分时操作系统，首次提出了层次化保护机制（Protection Rings）。系统分为多个特权级别（如Ring 0到Ring 3），其中：

  • 内核态（Kernel Mode）：运行在最高特权级（如Ring 0），可访问所有硬件资源和系统数据。
  • 用户态（User Mode）：运行在较低特权级（如Ring 3），受限访问敏感资源。

• UNIX的继承与简化
  贝尔实验室的Ken Thompson和Dennis Ritchie在设计UNIX时，受Multics启发，但简化了保护机制，仅保留两级模式：

  • 内核态：执行内核代码，直接操作硬件。
  • 用户态：运行应用程序，通过系统调用请求内核服务。

为什么需要用户态与内核态分离？

• 安全性：防止用户程序恶意或误操作破坏内核。
• 稳定性：用户程序崩溃不会影响内核运行。
• 资源管理：内核统一调度硬件资源（如CPU、内存）。

思考

内核态与用户态的设计哲学是典型的抓住主要矛盾，忽略次要矛盾。同时体现了严格的hierarchical design。