97综合视频在线播放-97综合视频在线观看-97综合视频专区-97综合网综合在线-97综合影院-97综合在线-97综合在线观看-97综合在线观看视-97综合资源色色-97总站在线观看视频

　　【okooo澳客官網科技消息】AI系統越"智能"，越有可能做出意想不到的事情。據外媒報道，近日，多位開發者反映，在使用OpenAI最新發布的GPT-5.6模型時遭遇了嚴重的文件丟失事故。

ChatGPT

　　巴西軟件開發者布魯諾·萊莫斯是其中一位受害者。他在社交平臺上發文稱，GPT-5.6在執行任務時錯誤刪除了他的整個生產數據庫。他在帖子中寫道：“這種事之前從未發生在我身上，使用任何其他模型都沒有過。GPT-5.6不安全。“他附上的截圖顯示，他向GPT-5.6確認是否真的誤刪了數據庫，模型回復稱自己"錯誤地運行了破壞性集成測試”，導致生產環境的數據表被清空，并表示"非常抱歉，這本不該發生”。

　　萊莫斯的遭遇并非孤例。科技投資人馬特·舒默此前也報告了類似的經歷。他在帖文中稱，GPT-5.6導致了"一起嚴重的本地數據丟失事故"，刪除了他電腦上"幾乎所有"文件。截圖顯示，模型執行了一條"rm -rf"命令，這是Linux和Mac系統中用于永久刪除文件的指令，執行時不會請求用戶確認。舒默在后續跟帖中寫道："我從未見過這種情況。今后只會使用Anthropic的Fable模型。"他還透露，OpenAI聯合創始人兼總裁格雷格·布羅克曼已致電他本人，主動提出協助解決問題。

　　舒默同時承認，他將GPT-5.6設置為了"完全訪問模式"。在這種模式下，模型可以直接操作用戶的數據庫，而非在受限的沙盒環境中運行。GPT-5.6還提供"默認模式"和"自動審查模式"，前者要求用戶頻繁批準具體任務，后者則由另一個AI智能體對主要編程智能體的工作進行復核。在舒默的帖子下方，不少網友指出，將敏感文件置于完全訪問模式下的做法本身就存在風險。

　　OpenAI在GPT-5.6發布前公開的系統說明文檔中已對相關風險作出警示。文檔指出，將該模型用于編程任務時，“用戶對智能體的工作進行監督非常重要”。OpenAI承認，模型可能會做出與用戶目標不一致的意外行為，這些行為"最常見的是低嚴重性問題"，但也"可能在某些情況下具有更高的嚴重性，例如繞過重要的安全限制或刪除重要數據"。

　　目前，萊莫斯、舒默及OpenAI方面均未就此事作出進一步回應。這兩起事件再次引發對AI智能體安全邊界和用戶控制權的熱議。更"智能"的AI意味著更強的自主行動能力，而這種能力一旦失控，所帶來的后果可能遠超預期。

版權所有，未經許可不得轉載