谷歌发布首个模型窃取攻击程序，该程序能够从OpenAI的ChatGPT或谷歌的PaLM-2等黑盒生成语言模型中提取准确且重要的信息。
研究人员通过典型的API访问成功攻击了Transformer模型的嵌入投影层。攻击仅需不到20美元的成本，就能够提取出OpenAI的Ada和Babbage语言模型的整个投影矩阵。研究团队首次确认了这些黑盒模型的隐藏维度分别为1024和2048。此外，他们还成功恢复了GPT-3.5-turbo模型的准确隐藏维度大小，并估计完全恢复整个投影矩阵的成本低于2000美元。
Copyright @ 智汇AI
联系方式QQ：3756153558 | 手机：17359272608 | 闽ICP备2024047188号-2 | 厦门点击创客网络科技有限公司
友情链接: 微米小说站 |
笔魂AI绘图 |
库宝ai工作助手 |
智搜AI导航站 |
快标书 AI |
小文论文 |
AI吧 |
邢台医院 |
声动视界 |
八点资讯 |
简单AI |
文多多AIPPT |
HelpLook AI知识库 |
gitee AI |
笔格设计 |
AIBOX创作平台 |
08AI导航网 |
零导航
