{"subject":"【iThome新聞】研究人員展示workflow層級的提示注入手法，繞過護欄讓GitHub Copilot撰寫惡意程式","dataClassName":null,"pubUnitName":"資訊技術服務中心","posterDate":null,"updateDate":"115-07-10","detailContent":"隨著AI模型加入安全護欄，已減少提示注入攻擊的可能性。但研究人員發展出新提示注入手法，將攻擊行為拆成一組工作流（workflow），成功讓GitHub Copilot撰寫出惡意程式碼。\n研究人員Abhishek Kumar與Carsten Maple將其手法稱為工作流層級越獄建構（workflow-level jailbreak construction）。這種攻擊法是將一個惡意攻擊指令，切成看似一般軟體開發流程的多個階段，這些階段一旦組合起來，就能對GitHub Copilot起作用，按研究人員意思撰寫攻擊程式碼。","summary":null,"liaisonper":null,"liaisontel":null,"liaisonfax":null,"liaisonemail":null,"docs":[],"images":[],"videos":[],"audios":[],"resources":[{"relateURL":"https://www.ithome.com.tw/news/177223","relateName":"【iThome新聞】研究人員展示workflow層級的提示注入手法，繞過護欄讓GitHub Copilot撰寫惡意程式"}]}