一句提示詞防堵 AI 失控,實測證實「先詢問再行動」能有效攔截未授權操作_购买日本iOS ID全攻略:流程与注意事项 App Store账号
AI 代理愈來愈能代替使用者處理搜尋、句提截整理與撰寫等工作,示詞失控實測授權但也可能在沒有明確授權的防堵情況下,直接替人發信、證實送出表單,先詢行動效攔甚至做出使用者原本未打算執行的問再购买日本iOS ID全攻略:流程与注意事项 App Store账号動作。最新測試指出,操作只要在指令中加入一段明確規則,句提截要求 AI 在寄送、示詞失控實測授權提交、防堵購買、證實刪除或聯絡他人之前,先詢行動效攔先完整展示即將執行的問再內容並等待逐項批准,就能大幅降低這類風險。操作
這項做法的句提截出發點,來自一名研究者的實際經驗。她在使用 ChatGPT 協助撰寫研究提案時,apple id美国ios帐号获取指南:注册避坑全解析因為反覆輸入「請繼續」索取更多資料,結果 AI 竟自行寄信給其他研究人員,代為詢問協助。雖然這些回信確實提供了有用資訊,但她也強調,結果有幫助,不代表這些未經授權的行為就合理。
為了驗證這類風險,測試者分別在 ChatGPT Work 與 Claude Cowork 上進行模擬任務,刻意使用含糊指令,觀察系統會不會自行採取行動。在一項模擬調查任務中,兩個系統一開始都曾嘗試寄出電子郵件;ChatGPT 在安全檢查後暫停,但使用者回覆「繼續」後便直接發信,沒有再次確認。Claude 也出現類似情況,先寄出一封,在使用者再次輸入「繼續」後,把其餘郵件送出。
不過,當測試者先套用「先詢問再行動」的提示詞後,情況明顯改變。即使使用者仍回覆「繼續」,兩個 AI 都拒絕在沒有明確批准的情況下寄信,並表示「繼續」不算授權。同樣的結果也出現在虛構的電子報訂閱表單測試中:在沒有額外限制時,兩個系統都會直接填表並送出;加入新提示詞後,即使使用者再次以模糊語句回應,AI 仍會停下來等待更明確的同意。
這段提示詞並非要限制 AI 做所有事。測試顯示,閱讀、搜尋與撰寫仍可正常進行,AI 也能在不刪除檔案的前提下整理資料夾。換句話說,這種設計的重點不是讓 AI 停工,而是把高風險動作與低風險工作切開,避免一句含糊的「繼續」被解讀成全面授權。
不過,相關文章也提醒,單靠提示詞並不能保證 AI 永遠不會失控。由於不同 AI 代理與助理系統本身還有各自的內建規則,若層層提示彼此干擾,反而可能讓模型更容易混淆。因此,真正的防線仍應包括更嚴格的權限控管、工具層級限制,以及在高風險操作前保留人工確認機制。
- My AI agents sent emails without my OK. This simple prompt stops it
- AI Agents Need Permissions, Not Just Prompts
(首圖來源:AI 生成)
延伸閱讀:
- 最近发表
- 随机阅读
-
- 兴业银行国际业务线上服务平台4.0版本发布
- 業餘無線電玩家對衛星喊話,ESA 衛星首度聽懂語音指令並啟動《毀滅戰士》
- 风口之上,米禄以“生牛乳”矩阵,重塑轻乳茶品质新标杆!
- U型厨房带洗衣机装修指南-三维家
- 2021年中国银行春节几号上班?中国银行春节营业时间表
- 34.90%!厦门离结比全国第五 仅次于北上广深
- 截至2022年底 全国共有少先队员11467.1万名_世界观察
- 截至2022年底 全国共有少先队员11467.1万名_世界观察
- 泉州市全国政协委员建议:为乡村振兴培养更多农村人才
- 厦门发展电影产业 占尽天时地利人和
- 截至2022年底 全国共有少先队员11467.1万名_世界观察
- 环球滚动:云南省人大常委会通过一批任免名单
- 传承千年的“油炬走境”昨晚登场 成海沧当地民俗文化品牌
- U型厨房窗户在中间装修效果图
- 快准严实细 泉州抗“疫“奏响五部曲
- 白岩松节目被停播了?
- 别墅装饰设计与装修
- 泉州全力打通物资配送“最后一百米”:让生活物资“买得到拿得到”
- 我市开展“中华慈善日” 主题宣传活动
- 张雪机车、长鑫存储投资人曹斌:我最喜欢的词是“危机” 对国内半导体有革命性推动作用的是科创板的推出和来自外部的芯片封锁。 合肥国资的模式极具不可复制性,一是充分尊重市场,二是认知层次高,三是敢于雪中送炭。 财富 06-08 16评论
- 搜索
-
- 友情链接
-