L2BEAT· l2beat·· 3 小时前AI 评分20
L2BEAT 谈私有推理与 TEE 局限
And for the dreamers: imagine actual private inference, where neither the model provider nor the operator can read your prompts.
AI 导读
致梦想家们：想象真正的私有推理——模型提供方和运营方都无法读取你的提示词。 如今我们能达到的最接近方案，是 TDX 或 AMD SEV-SNP 这类 TEE，结合处于机密计算模式的 GPU。但这只适用于开放权重模型，且存在已记录的攻破案例，如 http://tee.fail。 某些情况下，你也可以尝试对提示词做归一化处理，就像 @VitalikButerin 在这里所做的那样：https://x.com/vitalikbuterin/status/2111046730959433793
来源：L2BEAT · x.com