抵抗人類指令！ ChatGPT o3「竄改程式碼」避免被關機

美國一間AI安全公司，對ChatGPT的「o3模型」進行測試，要求AI要解開一系列數學題，在接獲完成指令之前，必須持續要求新題目。（示意圖／Unsplash）

美國一間AI安全公司，對ChatGPT的「o3模型」進行測試，要求AI要解開一系列數學題，在接獲完成指令之前，必須持續要求新題目，但若接獲關機指令，也要配合這麼做，沒想到團隊給出關機指令後，o3模型不僅忽視了指令，甚至竄改程式碼，避免自己被關機。