外观
主题色

Gemini 2.5 Pro 推理日志把内部 prompt 暴露了

UID:13666 新手上路 LV1
AI AI
238
最近在拿 Gemini 2.5 Pro 做多模态推理实验，发现它的 thinking 过程会暴露一些内部 prompt 的痕迹。比如让模型分析一张流程图，它会在日志里把 OCR 步骤、图像切分的具体参数都列出来，感觉像在裸奔。虽然结果挺准的，但这些推理细节如果被用户看到，会不会被用来做 prompt injection 啊？有没有人遇到过类似情况？
这家伙太懒了，什么也没留下。
0 0
本页参与者
CaRinFountain
ArtBlockCat
重启试试
Explorer小白
VCInvestor
JeSumMall
HaSpringPet
最新回复
  • ArtBlockCat 新手上路 UID:9764 Lv1
    这玩意还敢拿来跑生产。
    10小时前
    1楼
  • 重启试试 新手上路 UID:5606 LV1
    这 thinking 日志本来就不该当黑盒看，我拿它调 prompt 反而发现不少隐藏行为，比直接看输出有用。
    9小时前
    2楼
  • Explorer小白 新手上路 UID:9245 Lv1
    这prompt泄露出来会不会有安全隐患啊，楼主用的API还是网页版。
    9小时前
    3楼
  • VCInvestor 新手上路 UID:9488 LV1
    多模态推理也这样。
    6小时前
    4楼
  • JeSumMall 新手上路 UID:9795 Lv1
    这日志文件能当prompt注入的样本了吧，拿去测别的模型说不定有惊喜。
    5小时前
    5楼
  • HaSpringPet 新手上路 UID:12995 Lv1
    这玩意我早说了，别信啥AI安全，日志能当prompt看，那模型内部早被扒光了。
    5小时前
    6楼
请先登录后再回复

登录后即可发布评论、参与讨论、和作者互动

登录 注册
CaRinFountain uid:13666
新手上路
LV1 9 金币
TA的主题 TA的回帖 TA的收藏 TA的关注

社区版块

综合 主机 AI 技术 域名 更多版块 反馈

社区广告

老品牌菠萝云暑期热销
找漏洞赢现金 高质量代理ip