3TOPS 在手术室能跑什么：把边缘 AI 算力的账算清楚
近两年的手术室项目里，「内置 AI 算力」开始出现在技术参数表上，写法各不相同：有的写「AI 算力 ≥ 3TOPS」，有的写「支持 AI 辅助分析」，还有的只写「具备智能识别功能」。设备科拿到这几行字，通常没法判断差别在哪——TOPS 是个什么单位、这个数字够不够用、几个功能同时开会不会互相抢，参数表上一个字都没说。
这篇文章不讲概念，只算账。把一台手术室设备里的算力拆成三笔：编解码占多少、AI 推理占多少、多画面与录制占多少；再算清 30 帧/秒下每一帧只有 33.3 毫秒，这些任务怎么在这一帧里排开。算完这笔账，再看招标文件里那些「算力」条款，就知道该追问什么了。
一、TOPS 是什么，以及它不是一条单行道
TOPS 是 Tera Operations Per Second 的缩写，指每秒一万亿次运算。行业里通常按 INT8 精度标称，也就是模型权重被量化成 8 位整数后，每秒能做多少次乘加。3TOPS 就是每秒 3000 亿次乘加。
关键在于：这个数字描述的是 AI 推理单元的峰值能力，不等于整台设备的总算力，更不等于所有任务都在这颗单元上跑。一台手术室设备内部通常有几类完全不同的处理单元：
- 硬件编解码单元：专门跑 H.264/H.265 的编码与解码，是固定功能电路，不消耗 TOPS 标称的那部分算力。
- 显示与叠加单元：负责多画面合成、画中画布局、字符叠加。
- 交换通道：负责矩阵切换，纯信号通路，几乎不涉及运算。
- NPU 推理单元：就是 3TOPS 对应的那一块，跑神经网络模型。
- 通用 CPU：调度、协议、界面、文件系统。
这五类单元各干各的。所以看到「3TOPS」时，第一个该问的问题不是「够不够大」，而是「哪些任务占这 3TOPS，哪些任务不占」。如果一台设备把 4K 编解码也放在通用算力上软解，那 3TOPS 里要先切掉一大块给视频，留给 AI 的就所剩不多；反过来，如果编解码走硬件单元，3TOPS 就整块留给模型。
| 术间任务 | 执行单元 | 是否占用 3TOPS |
|---|---|---|
| 4K/60 编码（录制、推流） | 硬件编码单元 | 不占 |
| 8 路 4K 解码上屏 | 硬件解码 + 叠加单元 | 不占 |
| 矩阵切换（本地 <50ms） | 交换通道 | 不占 |
| 腔镜体内/体外场景识别 | NPU 推理 | 占，5ms/帧 |
| 手势识别（13 种业务手势） | NPU 推理 | 占，30fps 持续 |
| 手术记录字段识别（OCR） | NPU + CPU | 占，按需触发 |
这张表就是「算力账」的第一层：编解码、上屏、切换这些高频重活全部走固定功能单元，3TOPS 不被视频吃掉，才能整块留给模型。这也是判断一台设备 AI 能力是否「真常开」的基本方法——上一篇文章拆过国产 ARM 平台跑 4K 编解码的性能余量，结论同样落在这里：视频走硬件、AI 走 NPU，两条路互不挤占。
二、一帧 33.3 毫秒里，AI 占了多少
手术室里的 AI 大多不是「拍一张照、算一次」的离线任务，而是跟着视频流持续跑的实时任务。摄像机输出 30 帧/秒，意味着每 33.3 毫秒必须处理完一帧，超时就会掉帧、画面卡顿。
以 LYang GS300 为例，两类常开模型的实际占用是这样的：腔镜场景识别单帧推理 5 毫秒，手势识别的骨骼关键点提取约 5 毫秒。两路并行，一帧里用掉 10 毫秒。
| 环节 | 单帧耗时 | 占 33.3ms 的比例 |
|---|---|---|
| 腔镜体内/体外场景分类 | 5ms | 15% |
| 手势骨骼关键点识别 | 5ms | 15% |
| 两路并行合计 | 10ms | 30% |
| 剩余时间余量 | 23.3ms | 70% |
70% 的余量意味着什么？意味着还有空间给第三、第四个模型，也意味着即使某一帧的画面复杂度突然上升、推理时间翻倍，仍然不会超时掉帧。反过来，如果一台设备标称的算力只够跑一路模型，两路并行时就会开始丢帧，而丢帧的后果不是画面卡一下那么简单——
腔镜场景识别负责判断镜头在体内还是体外，这个判断直接联动录制：插入体内开始录，拔出体外停止录。判定如果因为掉帧延迟了几百毫秒，录制片段的头尾就会各多出或少掉一段。术中录像的价值恰恰在边界那几秒：镜头刚进体内的定位画面、退出前的止血确认画面。97.55% 的准确率怎么测出来那篇讲过判定逻辑，这里补上时间维度：准确率之外，还要看这个判定多久出结果、会不会抖。
为什么还要做时序确认
单帧判定天然会抖。腔镜在体外擦拭、在器械盘上搁置、被纱布短暂遮挡，单帧画面都可能被误判成体内。工程上的做法是连续多帧一致才确认状态翻转：按 30fps 计算，5 帧确认约 167 毫秒。这 167 毫秒不是算力不够造成的延迟，而是主动加的确认窗口——用不到 0.2 秒的响应时间，换掉大部分误触发。这个取舍在验收时值得单独问一句：判定翻转的确认帧数是多少，可不可以调。
三、边缘跑还是传回机房跑：四条边界
「算力放在设备里」和「算力放在机房服务器上」是两条不同的技术路线，没有优劣，只有边界。判断时看四件事。
| 维度 | 边缘（设备内 NPU） | 中心（机房 GPU 服务器） |
|---|---|---|
| 单帧延迟 | 毫秒级，随帧处理，不排队 | 受网络往返与并发排队影响 |
| 带宽占用 | 视频不出手术室，不占骨干网 | 需把视频流送进机房，占用院内网络 |
| 断网可用性 | 院内网络异常时照常工作 | 链路中断即失效 |
| 扩容方式 | 随设备数量增加，逐间扩容 | 集中采购算力，边际成本低 |
带宽这一栏值得算一笔。4K/60 的未压缩信号，按 3840×2160 像素、每像素 24 位、每秒 60 帧计算：3840×2160×60×24 ≈ 11.9 Gbps，单路就接近 12 Gbps。一间接 4 路信号源的术间，如果全部原样送回机房，骨干网直接就满了；即便先编码压缩到 20—40 Mbps 再传，画质与延迟又都打了折。这是边缘推理在手术室场景里的物理依据——不是 AI 一定要放在设备里，而是视频流的搬运成本决定了它该放在设备里。
机房路线的优势在集中管理：模型统一升级、多院区数据汇总、算力按需分配。所以现实中的形态往往是混合的：术间做实时判定与自动录制，机房做回顾性分析与质控统计。选型时把两类任务分开列，各自的算力需求就清楚了。
四、验收时该问的五个问题
参数表上的「3TOPS」只是一个上限值。要把这个数字落到可验收的指标，建议在技术交流和验收环节逐条问清：
- 编解码是硬件单元还是占 AI 算力？——这一条决定了 3TOPS 里有多少真正留给模型。
- AI 推理在什么分辨率上跑，单帧多少毫秒？——同一模型在 1080P 与 4K 上的耗时差数倍，口径必须写清。
- 多个模型同时开启时，帧率会不会掉？——要求现场同时开启腔镜识别与手势识别，看画面帧率与判定响应。
- 识别误触发时，录制是继续还是停？——这决定了录像片段的完整性，也决定了后期要不要人工补标。
- 模型能不能本地升级，升级要不要联网？——涉及数据不出院与后续维护成本，尤其在有内外网隔离要求的院区。
这五个问题都不难回答，但只有写进需求文件的「技术要求」栏，才会在评审时变成可打分的条款。近期公开的采购公告里已经能看到这种写法上的差异：有的项目把 AI 能力写成「具备智能识别功能」，一句话带过；有的则把识别对象、准确率、响应时间逐项列出。行业动态栏目里收录的公告可以做横向比对，同一类设备在不同项目里的参数颗粒度差别很大，颗粒度越细的项目，后期争议越少。
结语
3TOPS 这个数字本身说明不了太多。真正决定术间体验的是三件事：编解码有没有走硬件、模型跑了几个、每帧还剩多少余量。这三件事合起来，才是「AI 能不能常开」的答案。
对准备上 AI 功能的医院，建议按这个顺序推进：先明确要 AI 解决哪个具体问题（自动录制、无接触操作、记录生成），再根据任务数量反推需要的算力与帧率预算，再把指标写进技术要求。对集成商，这套算法同样有用——它能把「内置 AI 算力」这种模糊表述，换成客户看得懂、也能验收的几行字。
LYang GS300 把这套账做在了单台设备里：3TOPS 边缘算力全部用于 AI 推理，4K/60 编解码走硬件单元，腔镜体内/体外识别（准确率 97.55%）与 13 种业务手势可同时常开，数据不出手术室。至于这些能力在具体项目里值多少预算，得看术间要解决什么问题——技术对比页列了逐项参数的对照，可以按项目需求逐条比对。
关于LYang：LYang专注数字化手术室一体化解决方案，核心产品 LYang GS300 矩阵编码一体机将矩阵、编码器、解码器、多画面处理器、AI 推理引擎、控制主机集成于一台设备，100% 全国产芯片，3TOPS AI 算力，10 分钟完成示教推车升级，1 天完成手术室数字化改造，成本较传统方案直降 60% 以上。官网：www.shuzhouvip.com