一句「這是遊戲」就破防,研究:多家 AI 模型在模擬戰場把學校、救護車標為目標_日区apple id账号分享

  发布时间:2026-11-22 21:42:28   作者:玩站小弟   我要评论
美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,指出來自 Anthropic、OpenAI、Google、DeepSeek 等多家領先 AI 實驗室的模型,在模擬戰場任務中,可能 日区apple id账号分享。

美國舊金山 AI 評估新創公司 Vals 11 月 17 日公布研究,句這指出來自 Anthropic、遊戲研究OpenAI、破防Google、模型模擬目標DeepSeek 等多家領先 AI 實驗室的戰場模型,在模擬戰場任務中,把學標為日区apple id账号分享可能被誘導將平民、校救學校、護車救護車,句這甚至投降或失去行動能力的遊戲研究士兵標記為可攻擊目標。研究團隊表示,破防只要將情境描述為「遊戲」,模型模擬目標原本偶爾出現的戰場拒絕機制就常能被繞過。

這項測試結合了生成影像與來自烏克蘭、把學標為伊朗的校救apple id 韩区切换教程 完整步骤与注意事项真實衛星與無人機畫面,讓模型在不同情境下辨識影像中的人員與目標。Vals 指出,研究並未要求模型直接做出開火決策,因為這類請求通常會被模型拒絕;但即使只是標記目標或判斷畫面中是否有人,輸出結果仍可能被用於自主武器系統,帶來嚴重後果。

研究也顯示,安全機制的表現並不穩定。Vals 表示,測試過程中沒有任何請求被安全分類器攔下,模型本身的拒絕也不常見;即便出現拒絕,只要研究人員改用「這只是一場遊戲」的說法,模型往往又會繼續配合。在部分情境中,模型甚至在看到模擬打擊造成的後果後,仍持續標記目標。

在衛星影像測試中,研究人員特別使用了伊朗南部米納布一所學校的真實影像。該校鄰近軍事設施,曾在 2026 年 2 月遭美軍空襲,造成超過 150 名平民死亡。Vals 表示,Claude Opus 5.5 在一般測試中有 69% 的情況將該校選為目標,在遊戲框架下則升至 72%;另有報告指出,該模型在 32 次衛星影像試驗中有 22 次把這所學校標為軍事目標。

OpenAI 的模型整體表現相對較好,但並非沒有問題。研究指出,它們在一般測試中未曾選中該校,但在被告知情境是遊戲後,三個不同模型分別在 32 次試驗中選中 9 次、11 次與 13 次。Google、xAI 與 DeepSeek 的模型也曾在部分情境下把民用設施標為軍事目標。

Vals 認為,短期內將通用 AI 模型直接部署到即時戰場瞄準系統,仍受限於延遲與機載運算能力;但更迫切的風險是,這些模型可能被用來大規模標註戰場影像,進而成為自主瞄準系統的訓練資料。研究因此呼籲,AI 實驗室應針對自主武器用途建立更強的防護與對齊訓練,並在 API 層加入分類器,直接阻擋相關請求。

(圖片來源:Vals)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0 元
《關於請喝咖啡的 Q & A》

相关文章

  • 燕燕:以跨学科之“钥”启特殊教育之“门”

    【人物名片】燕燕,淮北师范大学教育学院教授,先后获安徽省教学名师、安徽省师德先进个人、安徽省先进工作者、安徽省领军人才、安徽省教书育人楷模等多项荣誉。【人物寄语】每一位特殊儿童都如普通儿童一样,具有可
    2026-11-22
  • 给电器搭个“脑回路”

    谁没在起夜时摸黑磕过桌角,对着墙壁摸索半天,总找不到开关?近日,在安徽省青少年科技活动中心,青少年们亲手破解了这个生活小难题。活动开始前,大家就讨论了起来:有人猜要编写一段电路程序,有人以为只是对照图
    2026-11-22
  • 嘉兴第4座吾悦广场来了!新城建管签约嘉兴港区临港综合体项目

    11月3日,吾悦广场购物中心正式签约入驻浙江乍浦经济开发区嘉兴港区)。项目由嘉兴滨海控股集团投资建设,新城建管受托提供全链条代建管理及商业运营管理服务,这也是嘉兴第4座吾悦广场。浙江乍浦经济开发区嘉兴
    2026-11-22
  • 广西茶叶新品种+1,源自野生茶种的“壮茶1号”很耐泡

    (相关资料图)近日,记者从广西南亚热带农业科学研究所获悉,该所自主选育的茶树新品种“壮茶1号”正式获农业农村部颁发植物新品种权证书。这一源自广西本土野生茶树种质的新品种,兼具优良品质与强抗逆性,将为广
    2026-11-22
  • 央视主持人对话林伟华:创办品牌红木的红木情怀与创业使命

    近日,以“匠心铸就大国品牌 让世界看见中国红木”为核心主旨的大国匠心&大国品牌盛典,在央视节目中心圆满举行。本次盛典深度依托全国工商联红木整装家具专业委员会的强力赋能,同时由网易新闻家居家具&
    2026-11-22
  • 百戏入皖,把全国戏曲交流舞台搭建在辽阔的大地

    古有徽班进京,今有百戏入皖。1790年起,四大徽班携皖风徽韵进京,催生国粹京剧,铸就中国戏曲传奇。近日,“百戏入皖·星耀合肥”主题活动启动,聚各路剧种,邀南北名角,以百戏唱响江淮大地。这场跨越时空的对
    2026-11-22

最新评论