Week1

Why We do Performance Analysis

• The ultimate goal: to obtain or provide the highest performance at the lowest cost.

一些概念

1. 系统 (System)： Hardware, software
2. 评估技术 (Evaluation techniques)： Measurement, simulation, analytical modeling
3. 指标 (Metrics)： Criteria used to quantify system performance
4. 工作负载 (Workload)： The requests made by the users of the system
5. 参数 (Parameters)： Include system parameters and workload parameters

Week2

What are Computer Systems?

• A computer system is a basic, complete and functional computer, including all the hardware and software required to make it functional for a user. It should have the ability to receive user input, process data, and with the processed data, create information for storage and/or output.

三大评估技术定义

1. 分析建模 (Analytical Modelling)： 一种数学建模技术，用于描述、解释和预测系统中涉及的机制和过程 。
2. 计算机仿真 (Computer Simulation)： 使用计算机来模拟一个系统的动态响应行为 。
3. 测量 (Measurement)： 收集、分析和报告个体性能信息的实际过程 。


组合使用策略（非常重要）：

1. 先用分析模型快速探索大致的参数范围。
2. 再用仿真在感兴趣的参数范围内进行详细研究。
3. 最后用测量来验证前两种方法得到的结果。

核心思想：在所有结果被验证之前，它们都是不确定的。要警惕违反直觉的结果。

常见指标

• 吞吐量 (Nominal capacity:)：单位时间内完成的请求数。（越高越好）
• 响应时间 (Throughput)：系统对请求作出反应的时间。（越低越好）
• 可用性：系统正常运行时间的比例。
• 利用率：资源忙碌时间的比例。（名义上最佳，过高可能导致队列堆积，过低表示资源浪费）
• 可靠性：系统无错误运行的概率。
• 可扩展性：系统随负载增加而保持性能的能力。

Week3

Why Simulation?

• 系统尚不存在时：在设计和论证阶段，系统可能还只是一个概念，仿真成为主要的评估手段。
• 比测量更可控：可以轻松地测试在真实世界中难以复现的极端工作负载和系统配置。
• 比分析建模更精确：能够纳入更多细节，减少为了数学便利而做的简化假设。
• 主要缺点：开发一个准确的仿真模型非常耗时，是三种方法中最慢的。

仿真常见陷阱总结

三种主要仿真类型总结

Week5-Queuing Model

1. 基本概念与结构

排队模型用于描述一个“顾客”到达、等待接受“服务”、然后离开的系统。

• 顾客：不一定是人，可以是数据包、工作任务、打印作业等。
• 队列：不一定是物理队伍，可以是内存中的缓冲区、等待处理的请求队列等。
• 核心结构：$\text{输入源} \to \text{队列} \to \text{服务机制} \to \text{离开}$

模型的关键组成部分：

• 输入源：顾客的总体。通常假设为无限（如互联网用户），这样计算更简单。
• 排队规则：最常见的规则是先到先服务，但也有基于优先级的调度。
• 服务机制：可以有一个或多个服务台（服务器）。多服务器可以是单队列（效率更高）或多队列（可能负载不均衡）。

2. 性能指标与利特尔定律

我们关心系统的稳态性能，常用指标有：

• $L$：系统中的平均顾客数（包括正在被服务的）。
• $L_q$：队列中的平均顾客数（不包括正在被服务的）。
• $W$：顾客在系统中的平均时间（包括服务时间）。
• $W_q$：顾客在队列中的平均等待时间（不包括服务时间）。

利特尔定律 是排队论中最重要的定理，它建立了这些指标间的根本联系：

• $L = λ * W$
• $L_q = λ * W_q$

其中 $λ$ 是平均到达率。 利特尔定律的强大之处在于它无需任何关于到达或服务过程的分布假设，适用于任何稳态系统。

例子：磁盘平均响应时间$W$为0.1秒，请求到达率$λ$为100/秒。根据利特尔定律，磁盘中平均请求数$L$为 $100 * 0.1 = 10$个。

5. 关键性能指标计算

一旦有了稳态概率 $π_k$，我们就可以计算所有关心的性能指标：

• 系统中的平均顾客数：$L = Σ (k * π_k)$
• 队列中的平均顾客数：$L_q = Σ ( (k - s) * π_k )$ （对 k > s 求和，s为服务器数量）
• 服务中的平均顾客数：$L_s = L - L_q$
• 服务器效率（利用率）：$E = L_s / s$
• 有效到达率：$λ_bar = Σ (λ_k * π_k)$ （考虑因队列满而拒绝顾客的情况）

最后，再利用利特尔定律计算平均时间：

• $W = L / λ_bar$
• $W_q = L_q / λ_bar$

6. 实例：3服务器系统分析

课件通过一个3服务器、系统容量为6的例子，完整演示了如何应用以上理论：

• 给定：$λ = 5 \text{ 次/小时}$， $μ = 2 \text{ 次/小时}$， $s=3$， 最大容量 $K=6$。
• 已计算出稳态概率 $π_0$ 到 $π_6$。
• 计算过程：
  • 所有服务器空闲的概率：$P_idle = π_0 = 0.068$
  • 顾客无需等待的概率：$P_no_wait = π_0 + π_1 + π_2 = 0.45$
  • 顾客必须等待的概率：$P_wait = 1 - P_no_wait = 0.55$
  • 顾客被拒绝的概率：$P_balk = π_6 = 0.102$
  • 平均队列长度：$L_q = 1*π_4 + 2*π_5 + 3*π_6 = 0.700$
  • 平均服务中的顾客数：$L_s = 2.244$
  • 系统中的总顾客数：$L = L_q + L_s = 2.944$
  • 服务器效率：$E = L_s / 3 = 74.8\%$
  • 有效到达率：$λ_bar = λ * (1 - π_6) = 4.488$
  • 平均等待时间：$W_q = L_q / λ_bar = 0.156 \text{ 小时}$
  • 平均系统时间：$W = L / λ_bar = 0.656 \text{ 小时}$

Week6

M/M/1 模型：定义与假设

关键参数：

• $λ$：平均到达率。
• $μ$：平均服务率。
• $ρ = λ / μ$：利用率或流量强度。系统稳定的必要条件是 $ρ < 1$（即 $λ < μ$），否则队列会无限增长。


Provided $ρ <1$, i.e., $λ < \mu$ Thus：

M/M/1 应用示例：网络网关


• 问题：网关到达率 λ = 125 pps，服务率 μ = 500 pps，ρ = 0.25。
• 分析：
  • $L = 0.333$ 个包，$W = 2.66 ms$。
  • 缓冲区溢出概率：如果缓冲区为13个包，溢出概率是系统中有14个或更多包的概率。由于 $π_k$ 随 $k$ 指数下降 ($0.25^k$)，此概率极小（约 $0.25^{14} * 0.75$），可近似为0。
  • 满足丢包率要求的缓冲区大小：需要 $π_K <= 10^-6$，解 $(1-ρ)ρ^K <= 10^-6$ 可求出所需的最小 $K$。