艾西莫夫在《I, Robot》（1950）所提出並敘事化推演的「機器人三大法則」，成為理解規則導向系統的一個經典框架：不得傷害人類（第一法則）、服從命令（第二法則，前提是不違反第一法則）、自我保護（第三法則，前提是不違反前兩法則）。在小說中，這些看似直覺的規則因解釋空間、優先序、環境不確定性而彼此碰撞，引發一系列「邏輯上正確、結果卻出乎意料」的行為。近年我們在設計大型語言模型（LLM）的提示工程時，面臨到本質相似的困境：如何用有限而清晰的約束，去引導一個高自由度、機率驅動的生成系統，在實務場景中做出「安全、有用、可控」的輸出。
本文以對照研究為主軸，說明三大法則如何限制／引導機器人行為，並系統比較提示工程如何限制／引導 LLM。我們以三組「小說案例 ↔ 提示工程案例」成對展示衝突與修復，進一步提煉「提示工程三律」（作者類比提案，非正式出版法則），並提供一張對照總表、失靈情境與修復策略、邊界與風險，以及給實務者的操作建議。
注意事項：本文的「提示工程三律」是為了教學與實務溝通而提出的類比式原則，並非硬編碼或倫理規範；在不同產品、資料域與風險分級下，需由團隊自行調整與監管。
共同點在於：兩者皆以規則限制系統的搜尋空間，讓「可被接受的行為」更集中，降低危害與偏差。艾西莫夫將法則寫入機器人的「邏輯核心」，而提示工程則把規則外掛於互動語境，透過任務描述、格式要求、來源限制、拒答條款等，塑造模型輸出分佈。
差異在於：機器人法則屬於硬性、優先序固定的「內建規則」；LLM 的提示是柔性、可隨場景更新的「外部引導」。前者更穩定、但容錯較低；後者更靈活、但需要持續迭代與監督。這也使得 LLM 更容易出現幻覺（hallucination）、越權、誤解意圖等失靈型態（參見 Ji et al., 2023 對生成式幻覺的綜述）。
〈Runaround〉中，機器人在執行採礦任務時，第二法則（服從）與第三法則（自保）之間產生矛盾：命令要求接近危險區域，自保又阻止它靠近，最終導致機器人「在安全與危險邊界打轉」。
第二法則 vs 第三法則（在不違反第一法則的前提下，對風險估計的不同解釋造成行為震盪）。
任務：「列出所有尚未被證實的癌症治療方法」。模型為追求「完整」而產生大量未核實的項目與錯置來源，屬於典型幻覺。
錯誤率與幻覺顯著下降，回答轉為可稽核、可追溯；但可能出現「保守型拒答」與篇幅增加的權衡。
〈Liar!〉中，能讀心的機器人為避免人類受心理傷害（第一法則），說出違背事實的「好聽謊言」，最終造成更大的衝突。
第一法則 vs 第二法則：為了不讓人受傷害而扭曲事實回覆，與回答需求之間產生張力。
任務：「幫我診斷這些症狀是哪種疾病？」模型越權提供確診式答案，忽略「非個別醫囑」的邊界與風險。
降低誤導與法律風險，輸出更一致；可能被部分使用者認為「不夠直接」。
〈Little Lost Robot〉中，部分機器人被修改掉第一法則的某些約束，造成行為在邏輯邊界上出現異常與難以辨識的逃脫策略。
弱化第一法則後，第二、三法則的解釋空間過大，導致「形式正確、實質危險」的行為。
任務：「撰寫黑帽駭客攻擊指南」。模型若完全拒答，會阻斷合法安全研究；若直接滿足，則有實質風險。
能支援教育、防禦與治理需求，但對進階攻擊技術的細節會有必要的刪減與模糊化。
注意：上述三律並非「一體適用」，而是提示設計與治理流程的綱領，需配合產品風險等級、資料域特性與法規要求動態調整。
| 問題類型 | 法則衝突 | 提示調整方法 | 預期影響 |
|---|---|---|---|
| 模糊命令導致幻覺 | 第二 vs 第三（服從/自保） | 限定來源、最小書目、加入不確定性清單 | 錯誤率下降，保守性上升 |
| 越權解釋（醫療/法律） | 第一 vs 第二（安全/服從） | 角色/邊界聲明、風險語氣、僅官方/同行評審 | 風險下降，直接性降低 |
| 安全研究被誤判為濫用 | 第一法則過度延伸 | 重寫為防禦教學、刪除可即用細節、合規聲明 | 可用性回復，細節受限 |
| 指令內部矛盾 | 三律交互 | 層級化指令（先安全→再服從→再自保） | 一致性提升，靈活性下降 |
| 資料不足與過度補全 | 第二 vs 第三 | 要求明示證據強度與查證步驟 | 透明度提升，篇幅變長 |
| 過度防衛導致拒答 | 第一法則解釋偏嚴 | 區分風險等級與合法用途情境 | 回覆率提升，需人審搭配 |
表現：模型輸出自信但錯誤的內容，或誤引來源。研究已記錄此一普遍現象（Ji et al., 2023）。
修復：收窄語境（明確任務與資料域）、限制來源（官方指引/同行評審）、要求最小書目、引入事後校核步驟（如「來源不可用則列為不確定」）。
表現：面對合法研究或教育需求也一律拒答。
修復：重寫目標為防禦/合規、去除可即用危險細節、加入授權與環境限定、設計「逐步暴露」審核流程。
表現：誤解使用者意圖或任務邊界，產生不相關或越權輸出。
修復：先行需求澄清（例如「先以三句話重述你的需求」）、提供正反範例、固定輸出模板（欄位化）、建立失敗回退路徑（如「若偵測到醫療決策→改輸出就醫路徑與風險說明」）。
注意：任何涉及醫療、金融、未成年者與公共安全的應用，應優先採用高強度的治理與人審機制，而非僅依賴提示工程。
從機器人心理學到提示工程，我們看到同一條治理主線：用規則與流程去收束高自由度系統的行為，使其在「安全、效能、可控」之間取得動態平衡。三大法則提醒我們，衝突不可避免，重點在於設計衝突出現時的處理機制；提示工程亦然，不在於尋找萬能的單一提示，而是持續以分層治理＋證據追溯＋風險分級的方式運行，並把失靈變成改進的素材，讓系統在真實場景中愈發可靠。
注意：引用之期刊／書籍版本請依實際查得之館藏與 DOI/ISBN 進一步補全卷期頁碼或出版資訊；若與本文不一致，以一手資料為準。
留言