<![CDATA[【iThome新聞】研究人員展示workflow層級的提示注入手法，繞過護欄讓GitHub Copilot撰寫惡意程式]]>資訊技術服務中心115-07-10<![CDATA[隨著AI模型加入安全護欄，已減少提示注入攻擊的可能性。但研究人員發展出新提示注入手法，將攻擊行為拆成一組工作流（workflow），成功讓GitHub Copilot撰寫出惡意程式碼。 研究人員Abhishek Kumar與Carsten Maple將其手法稱為工作流層級越獄建構（workflow-level jailbreak construction）。這種攻擊法是將一個惡意攻擊指令，切成看似一般軟體開發流程的多個階段，這些階段一旦組合起來，就能對GitHub Copilot起作用，按研究人員意思撰寫攻擊程式碼。]]>

<![CDATA[]]>

https://www.ithome.com.tw/news/177223【iThome新聞】研究人員展示workflow層級的提示注入手法，繞過護欄讓GitHub Copilot撰寫惡意程式