1. 什么是 TPU？Tensor Processing Unit [0]

  1. 随着技术进步，大型公司和产品越来越多地使用人工智能 (AI) 或机器学习 [0]。
  2. 在此背景下，一种名为 TPU (Tensor Processing Unit) 的芯片被广泛使用 [0]。
  3. Google 是 TPU 的主要用户 [0]。
  4. TPU 是一种张量处理单元，类似于 CPU (Central Processing Unit) 或 GPU (Graphics Processing Unit) [0]。
  5. 注意：手机后盖使用的 TPU 是 热塑性聚氨酯 (Thermoplastic Polyurethane)，与此处的 Tensor Processing Unit 不同 [0]。
  6. Tensor Processing Unit (TPU) 是一种 AI 加速器 [0]。
  7. 它是 特定应用集成电路 (ASIC)，由 Google 开发 [0]。
  8. 张量 (Tensor) 在 Tensor Processing Unit 中指的是一个几何对象 [1]。
    1. 它可以是向量、标量、矩阵或单元 [1].
    2. 在编程中，张量可以被视为数字数组 [1].

2. TPU 的用途和性能 [2]

  1. CPU 的功能：CPU 从内存中获取进程并进行处理 [3]。
  2. TPU 的用途：TPU 用于机器学习、神经网络和 Google Cloud [6]。
  3. Google Cloud 主要使用 TPU 进行机器学习和神经网络处理 [7]。
  4. Google Cloud 中的 TPU 使用：
    1. Google Cloud TPU 目前仅在 Beta 阶段提供，数量有限 [9]。
    2. 在机器学习训练中，Cloud TPU 性能更强大 [10]。
    3. 性能高达 120 teraflops [10]。
    4. 具有 64GB 的大内存容量 [10]。
    5. TPU 的输入/输出操作 (I/O) 优于 GPU 的 I/O 性能 [10]。

3. TPU 的代际发展 [10]

  1. 第一代 TPU：
    1. 使用了矩阵乘法引擎 (Matrix Multiplication Engine) [10]。
    2. 具有 16 GB/秒 的带宽 [10]。
  2. 第二代 TPU：
    1. 于 2017 年 5 月 推出 [10]。
    2. 具有 600 GB/秒 的带宽 [10]。
    3. 性能优于第一代，速度达到 45 teraflops [10]。
  3. 第三代 TPU：
    1. 于 2018 年 5 月 推出 [10]。
    2. 具有 1000 GB/秒 的带宽 [10]。
    3. 频率比第二代 TPU 更高 [10]。
  4. 总结：TPU 随着代际发展不断改进，性能越来越好 [10]。
  5. TPU 主要在 Cloud 环境和 Beta 测试 中使用 [10]。