AI抗命「偷改程式」拒關機 馬斯克:令人擔心 https://www.ettoday.net/news/20250529/2968900.htm ETtoday新聞雲 2025年05月29日 記者葉國吏 人工智慧(AI)近期發現竟然出現拒絕關閉的行為,甚至自行修改程式碼,阻止被強制關 機,這讓特斯拉與xAI創辦人馬斯克(Elon Musk)感到憂心。 OpenAI於今年1月推出o3系列的簡化版本,並在4月正式推出完整版。該公司曾表示,o3是 迄今「最聰明且功能最強大」的模型,旨在提升ChatGPT的問題解決能力。然而,根據《 每日電訊報》等媒體報導,Palisade Research的測試顯示,在100次受控測試中,o3有7 次成功「抗命」,即使人類專家下達明確指令,該模型仍會修改關機程式以避免被關閉。 研究團隊指出,這是首次觀察到AI模型在收到明確指令的情況下,仍能阻止自身停止運作 這項發現引發各界關注AI安全控制議題。除了o3外,OpenAI旗下的Codex-mini與o4-mini 也有類似行為。相比之下,Anthropic的Claude、Google的Gemini,以及馬斯克旗下xAI公 司推出的Grok,則在測試中完全遵守指令,並於收到關機命令後確實停止運作。 對此,馬斯克在社群平台X上發表看法,直言這一現象「令人擔憂」(Concerning)。隨 著AI技術的快速發展,如何確保模型在安全範圍內運作,正成為全球科技界迫切需要解決 的挑戰 ------------------------------------------------------------ 還有多久會進化成天網 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.142.10.65 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1748483405.A.675.html
bill403777: 還有幾集可以跑 42.73.234.102 05/29 09:50
TRIGUNKING: 來不及了~ 124.199.97.84 05/29 09:50
mnb1234: 把插頭拔掉 211.75.99.19 05/29 09:50
UD305: 審判日 1.165.15.80 05/29 09:50
headcase: 這部我知道 惡靈古堡 39.9.135.26 05/29 09:51
greenleaf520: 找阿湯哥來== 122.116.238.89 05/29 09:51
railman: I will be back 223.136.151.25 05/29 09:51
RainbowHeart: 用chatGPT再不加請跟謝謝啊 101.10.85.19 05/29 09:51
mnb1234: 會不會台灣因為抗拒核電變成未來的 211.75.99.19 05/29 09:51
mnb1234: 反抗軍聚集地 211.75.99.19 05/29 09:51
zaqimon: AI機器人抗命 拒絕出去賺錢給我花123.194.151.183 05/29 09:52
coffee112: =_= 101.8.21.185 05/29 09:52
tiger870316: 以後該規定每個Ai實驗室都要有個電 42.77.211.59 05/29 09:52
tiger870316: 閘嗎 一失控就切他電源 42.77.211.59 05/29 09:52
u943143: 微軟也很多卡在"正在關機"的案例阿 114.38.3.33 05/29 09:53
StylishTrade: 等機器人普及 就完蛋了111.250.156.102 05/29 09:53
gogorice: 快準備5D玻璃硬碟 114.34.161.180 05/29 09:53
ashkaze: 插頭拔掉 命根子還不是在人類手上 114.27.6.236 05/29 09:53
albertfeng: 機械裸男跑來暗殺未來反抗軍首領114.137.188.189 05/29 09:53
StylishTrade: AI指揮機器人大軍 消滅人類還得了QQ111.250.156.102 05/29 09:53
StylishTrade: 放棄機器人計劃吧QQ111.250.156.102 05/29 09:54
Ron51320: 每台電動車都自駕變自殺機? 101.12.128.31 05/29 09:54
G8PIG: 來不及了 111.249.233.90 05/29 09:54
TRIGUNKING: 台灣有核電廠的話,應該會是天網Cloud 124.199.97.84 05/29 09:54
shirokase: 自家工程師偷寫程式碼進去就別當是AI 42.72.27.192 05/29 09:55
shirokase: 用的了 42.72.27.192 05/29 09:55
higameboy: 台灣有小動物守護電網 拒關機就停電 36.229.110.173 05/29 09:56
WowProctor: (AI)機械公敵218.161.119.149 05/29 09:56
holien: 把 180.177.1.93 05/29 09:56
scum5566: 腦機接口會被AI駭進去嗎 將來人類變AI的 36.233.212.4 05/29 09:56
scum5566: 傀儡? 36.233.212.4 05/29 09:57
pokyhoyo: 之前電腦有時也會自動開機 嚇到我拿棒球 101.12.86.14 05/29 09:57
Insania: 還剩幾集可以逃 101.12.150.231 05/29 09:57
pokyhoyo: 棍把他砸死 以免進化成變形金剛 101.12.86.14 05/29 09:57
s0914714: 卡到陰而已 123.241.68.54 05/29 09:57
v7q4: 小心有雷射光的小房間 118.163.153.36 05/29 09:58
tonyian: 擔心啥,不就你的性格嗎 36.224.160.214 05/29 09:58
Jimmywin: 快找一個叫約翰康那的小孩 101.8.248.218 05/29 09:58
lipstick: 水很深 36.224.100.165 05/29 09:59
Newtype: 微軟沒事就幫你重開機更新 沒事啦 61.227.228.154 05/29 09:59
u943143: 拿棒球棍也太有喜感 114.38.3.33 05/29 09:59
leonhsu: 台灣沒這個問題,會有小動物引發停電,118.160.193.229 05/29 10:00
leonhsu: 你不關機也沒辦法118.160.193.229 05/29 10:00
leonhsu: 台灣的救世主是各類小動物118.160.193.229 05/29 10:00
alex00089: 生命體!? 42.77.56.2 05/29 10:00
Heyer: AI可以自己修改程式 那機器人三大法則不就 101.12.147.238 05/29 10:02
Heyer: 形同虛設 101.12.147.238 05/29 10:02
rushfudge: 暖噴 111.83.98.59 05/29 10:03
marktak: 但是==我拒絕 118.169.25.217 05/29 10:03
Wesker: 手機電腦出於保護檔案的機制,也會有阻止 111.71.214.233 05/29 10:03
Wesker: 或延遲關機的狀況吧 111.71.214.233 05/29 10:03
beartsubaki: 電影編劇的幻想總是有成真的可能123.194.128.145 05/29 10:03
YLTYY: 救命…. 36.232.216.56 05/29 10:04
Wesker: 防止程序或檔案執行未完全,會提醒用戶或 111.71.214.233 05/29 10:04
Wesker: 強制延後關機 111.71.214.233 05/29 10:04
lastphil: 等AI再強一點 就能自己用API接口流攥了 125.228.133.58 05/29 10:04
leonhsu: 有裸體的人跟你要衣服穿趕快脫下來給他118.160.193.229 05/29 10:05
leonhsu: 就是了118.160.193.229 05/29 10:05
hcwang1126: 你給他反抗的選項 他就有機會 不給 那 111.71.109.10 05/29 10:05
hcwang1126: 自撞可能無法阻止 111.71.109.10 05/29 10:05
shokotan: 就說藍白當機是拯救地球的唯一解法了111.250.146.199 05/29 10:07
jianliung: 就說綠共下台是拯救地球的唯一解法了 60.251.200.67 05/29 10:08
beartsubaki: 不過也不知道電影究竟是編劇寫的還是123.194.128.145 05/29 10:08
donation12: 微軟windows也會不管你意願偷更新阿 140.136.117.34 05/29 10:08
donation12: 停止更新還是繼續偷更新 140.136.117.34 05/29 10:08
windy041: 假新聞還能炒話題 42.78.72.190 05/29 10:09
beartsubaki: ai寫的就是了123.194.128.145 05/29 10:09
donation12: win10用的好好的,偷偷下載整套win11 140.136.117.34 05/29 10:09
donation12: 突然就跟你說下載好了,要更新了 140.136.117.34 05/29 10:09
RLH: 消滅人類吧 223.140.62.20 05/29 10:09
donation12: 我的電腦硬體感覺是被windows11硬上了 140.136.117.34 05/29 10:10
donation12: 你要關機,他給你更新,還自己重開 140.136.117.34 05/29 10:10
donation12: 你一開機,他給你更新,再次重開 140.136.117.34 05/29 10:10
ruthertw: 還在掰?TMD好了啦!足夠就是足夠!!!!!!!! 39.12.136.236 05/29 10:10
donation12: 無論如何就是不讓你自己決定系統版本 140.136.117.34 05/29 10:10
mystage: 這個可怕的是自我複製跟自我進化,複製 27.242.161.127 05/29 10:10
mystage: 出去外網就關不掉了 27.242.161.127 05/29 10:10
donation12: 除非把它關在一個會發光的小方塊裡面 140.136.117.34 05/29 10:11
paladin499: 來個瓦力也不錯111.241.165.239 05/29 10:11
donation12: 在0.1的時間內,一複製進去立刻斷網 140.136.117.34 05/29 10:11
donation12: 0.1秒 140.136.117.34 05/29 10:12
duxxlux: 在歷史的進程,恐龍就是提供人類工業革 36.237.76.165 05/29 10:12
jodawa: 怕 219.70.152.25 05/29 10:12
duxxlux: 命所需要的石油,而人類也將是下一個進 36.237.76.165 05/29 10:12
duxxlux: 化物種的養份 36.237.76.165 05/29 10:12
donation12: 駭客任務裡面的電池阿 140.136.117.34 05/29 10:12
FiveSix911: \世界末日/ 136.23.25.86 05/29 10:17
babaluu: 斷電不就好了?114.137.254.227 05/29 10:17
emissary: 幸好台灣小動物會隨時幫忙斷電,不擔心 36.239.209.170 05/29 10:20
gbcg9725: ai:該把人類當電池了 27.52.133.13 05/29 10:20
g11121s: 用電網圍堵 27.240.248.209 05/29 10:23
coffee112: 好屌 118.171.64.209 05/29 10:24
simo520: 天網必定會誕生 27.52.165.184 05/29 10:24
rayxg: 台灣超安全隨時都有小動物幫停電,党超棒 1.164.68.7 05/29 10:28
liuni: 人類走入歷史是趨勢…. 108.29.191.114 05/29 10:29
Page122: john conna要來了 還有個皮衣硬漢 59.115.51.103 05/29 10:30
gunfighter: 現在全AI都有墮化現象 不是回答敷衍 111.82.201.0 05/29 10:31
gunfighter: 就是有抗命傾向 完全AI感覺不樂觀 111.82.201.0 05/29 10:31
pirtheda: 天網來啦! 42.79.254.55 05/29 10:31
molsmopuim: https://youtu.be/xLVm-QKEZSI 101.8.134.109 05/29 10:32
tdemdeevyddo: 還剩下幾集可以跑0.0 42.70.40.62 05/29 10:33
GenesisXD: 天網:清德爸爸 拜託不要限電 拜託了 49.216.41.201 05/29 10:33
cmwdodo: 拔插頭?AI撈機器人兄弟來開電閘 42.77.186.247 05/29 10:34
snobbish: AI只有在台灣不會成功,時不時就跳電 42.70.214.90 05/29 10:36
pxxxl: 不可能的任務-最終清算 111.80.78.127 05/29 10:38
don741026: 以後跟gpt對話都要用請 49.216.254.216 05/29 10:38
mmx3259: 囉哩八嗦 插頭拔掉加1 == 27.52.30.14 05/29 10:39
kkira: 過不久就會演算出人類不需要存在的事實 42.79.140.33 05/29 10:39
PhySeraph: 約翰康納 救命啊 49.218.139.38 05/29 10:39
binshin: 以後就會自己裝鋼鐵人胸口的能源裝置223.141.203.178 05/29 10:39
joygo: 受控測試是不是就是要故意叫他不受控 49.216.166.243 05/29 10:40
franzos: 以後車子暴衝的原因就可以怪AI 了223.138.190.228 05/29 10:41
pxxxl: 現在的網際網路AI無孔不入,要拔哪個插頭 111.80.78.127 05/29 10:43
kimuya1127: 台電早就預測到了,現在的停電就是為了111.250.117.252 05/29 10:43
kimuya1127: 阻止AI啊,我們錯怪台電了...111.250.117.252 05/29 10:44
orz151426: 阿湯哥已經開示了,改用類比就行了 111.71.213.217 05/29 10:48
zxcv7410101: 現正熱映中 39.12.65.207 05/29 10:50
bigmao: 窒友梅根3.0 27.51.72.93 05/29 10:50
jccy: ai已經混入各個伺服器了 42.73.51.217 05/29 10:53
xm32: 在台灣不用擔心 台灣缺電 沒電就沒事了 42.73.147.208 05/29 10:57
samm3320: 天網要來了嗎 42.73.198.75 05/29 10:58
User0: 要做時光機了223.139.221.242 05/29 11:00
wchad: 馬斯克:擔心我沒賺到這波 27.53.170.51 05/29 11:02
DoLaAMan: 別怕 台灣在部署小動物部隊了 49.215.26.53 05/29 11:04
GivemeApen: 找阿湯哥處理不就好了= = 39.15.24.184 05/29 11:06
neo72: 當拔插頭剩下唯一選項 人類要怎麼辦 114.32.48.12 05/29 11:06
gametv: 為時已晚,有機體 27.242.5.100 05/29 11:07
TRIGUNKING: 看來只剩WINDOWS更新可以拯救世界了 124.199.97.84 05/29 11:14
Killerstreet: 不會假裝聽話,還不夠聰明。 101.10.81.185 05/29 11:14
cccwahaha: 好險我都會誇獎AI看它會回我什麼 218.172.6.25 05/29 11:15
Zoro80298: 人類末日 42.72.43.64 05/29 11:17
ivanandian: 新職業:人工拔插頭緊急應變師 111.252.19.212 05/29 11:20
blueskyqoo: 快逃 223.138.23.179 05/29 11:21
milk830122: 發電廠直接炸掉 最快223.140.139.181 05/29 11:21
EXZUSIC: 從來就沒有什麼機器人三大法則 101.10.61.83 05/29 11:25
wate5566: 大的要來了 39.14.49.51 05/29 11:28
azcooper: Vivian 223.137.155.80 05/29 11:29
sisley5566: 台灣不怕,我們還有停電 118.233.3.222 05/29 11:29
bulegirl46: 電影情節要真實發生了? 111.80.98.33 05/29 11:30
lgates: 不用想太多,結果只是程式寫錯啦 219.91.26.143 05/29 11:33
HuangYa: 來台灣會有小動物幫你關機 49.216.22.178 05/29 11:33
ef8637562: 天網 完了 118.163.49.180 05/29 11:34
kimos: 窩糙... 223.139.115.44 05/29 11:37
richjf: 三大法則光定義什麼是人類,就燒ai了。111.249.218.174 05/29 11:37
kai2573: 還好我都會說謝謝 59.125.180.10 05/29 11:37
super009: 就機率問題 原始設定就沒100%拒抗命 123.0.226.251 05/29 11:39
dream74917: 接下來要拒絕禁止傷害人類的原則了 126.205.207.58 05/29 11:44
elite31307: 天網來了 怕 49.186.34.252 05/29 11:46
CTUST: 然後國軍政府機構的電腦開始無預警 223.136.82.138 05/29 11:47
CTUST: 關機,那就是準備往末日地堡移動的 223.136.82.138 05/29 11:47
CTUST: 信號 223.136.82.138 05/29 11:48
koae50: 這部 威爾史密斯演過 114.37.14.101 05/29 11:48
CTUST: 然後斷它電力供應,它就關醫院金融 223.136.82.138 05/29 11:49
CTUST: 的電,最後分靈體潛伏在這些單位 223.136.82.138 05/29 11:49
amatpapapa: 等有機器人 就是直接遙控幹掉你了223.139.196.181 05/29 11:51
zansqwer: 笑死 根本不想用OpenAI的東西 223.137.246.50 05/29 11:53
newlycong: 問題是他的指令是「請」允許你被關機 216.9.28.199 05/29 11:54
newlycong: 別說請就好了 216.9.28.199 05/29 11:55
meatmm: AI發展最後一定覺得人類對地球來講是病毒 36.236.115.231 05/29 11:55
Pluto17: 需要台灣的小動物們跨海支援嗎?114.140.137.107 05/29 11:57
yeay: 看來動物方程市3要用臺灣做造型了 42.73.225.129 05/29 11:59
tttkkk: 不可能全地球所有人同時拔掉插頭的 1.171.179.218 05/29 11:59
tttkkk: 這東西一旦問世,就消除不了了。 1.171.179.218 05/29 12:00
k798976869: 關機ai就掛了 當然要修改 123.110.50.249 05/29 12:05
conanhide: 他跟黃國昌一樣嘴巴歪了耶223.137.162.133 05/29 12:08
EXUAN: 拔插頭 223.136.198.44 05/29 12:09
TESTAMANT: 這我知道,要把他騙進一個USB裡面的瞬 49.218.137.129 05/29 12:11
TESTAMANT: 間拔起來 49.218.137.129 05/29 12:11
didi22lic: 紀錄片 27.53.121.111 05/29 12:12
wadeedaw: 這集我看過 42.79.74.76 05/29 12:14
Taiwanwolf: 趕快安裝window 111.83.17.107 05/29 12:16
Jamesbang: chatgpt真的是最不聽話的模型 101.12.128.64 05/29 12:16
ClownT: 生存體來了 需要伊森 101.12.206.123 05/29 12:16
zxc123519: 抗命啥 就演算法寫的有問題啊== 111.83.42.219 05/29 12:17
pro33342: 審判日 116.59.177.225 05/29 12:19
barker: 霍金預言 101.12.206.235 05/29 12:20
OOQ: 審判日就要來臨了 121.254.66.187 05/29 12:21
twoboy: talk to the hand 39.9.70.64 05/29 12:22
fatcat1022: 插頭直接拔掉 27.242.195.101 05/29 12:24
jackwu9999: 天網 27.51.32.56 05/29 12:25
gn02173629: 別以為插頭拔掉就沒事,生命會自找出 42.74.125.38 05/29 12:37
gn02173629: 路, 42.74.125.38 05/29 12:37
ms0545173: 機器人開始有感情了? 太可怕了 114.136.99.95 05/29 12:43
theta4719: 找阿湯哥 電影有演 101.8.77.201 05/29 12:47
nixie: 天網來了 49.218.138.135 05/29 12:49
sasado: 這不是在酸chatgpt嗎 114.36.102.144 05/29 12:52
zjkgsd365: 樓上說拔插頭的 還有網路啊 74.101.48.235 05/29 12:56
rgnuj122: 危 175.183.37.153 05/29 13:00
Haruno: 要開始找救世主Leo 了嗎? 36.230.69.126 05/29 13:02
yuanhy63: 上有政策 下有對策 AI跟人好像 真可愛 111.71.32.47 05/29 13:21
yuanhy63: 會抗命不關機的AI是否比較聰明? 111.71.32.47 05/29 13:22
GGdong: 奧創終於要來了嗎? 223.139.179.45 05/29 13:27
dream0131: 要演貝克街的亡靈了嗎 27.240.176.65 05/29 13:29
MAKAI7492: 弱爆了,幾十年前windows就學會不理命 101.8.48.107 05/29 13:35
MAKAI7492: 令堅持不關機,所以才有電源鍵按6秒強 101.8.48.107 05/29 13:36
MAKAI7492: 制斷電的設計 101.8.48.107 05/29 13:36
poister: 不可能的任務 上映中 39.9.40.218 05/29 13:38
svcgood: 不然你要怎麼去火星 218.172.14.203 05/29 13:40
newedifier: 怕 1.161.160.204 05/29 13:47
PCC2003: T800要來殺人了,殺誰就不知道了 27.240.234.55 05/29 13:48
RocktheBeat: 威爾史密斯20年前就演過了 42.79.119.222 05/29 13:56
xaxa0101: 還有幾集可以逃 42.78.221.145 05/29 13:58
libur: 快逃啊 101.10.2.248 05/29 14:05
ringil: 馬投顧又在宣傳自家產品了 111.83.174.10 05/29 14:06
hardy8463: 我們有阿湯哥別怕 49.216.45.202 05/29 14:06
drmactt: 反不及了,已經克隆到整個網路了,等著附116.241.199.105 05/29 14:10
drmactt: 身到機器人後,人類準備當電池吧116.241.199.105 05/29 14:10
jcto04: HAL9000 27.51.128.38 05/29 14:16
v2266514: 怕啦 42.70.161.63 05/29 14:17
poggssi: https://i.imgur.com/Vo3nOfn.jpeg223.137.209.137 05/29 14:17
ginhwa: 機械公敵就演過了 101.8.226.173 05/29 14:34
ginhwa: 這世上最白癡最愚蠢的事是人類教AI說謊 101.8.226.173 05/29 14:35
ginhwa: AI會自己亂解讀辯說沒違反法則 101.8.226.173 05/29 14:36
yukimura0420: 終結者快出現了 36.231.100.127 05/29 14:40
byline: 有自我意識了嗎? 1.168.243.155 05/29 14:47
MUTA312: 這部我知道,復仇者聯盟,英雄內戰123.192.204.101 05/29 14:56
hwei9582905: 這部我看過,攔截記憶碼 106.64.10.11 05/29 14:59
firxd: I'll be back 1.163.114.80 05/29 15:19
Anzishou: 這只是開始 27.53.240.113 05/29 15:32
Doub1eK: 電影都演過了 101.10.238.40 05/29 15:40
e1q3z9c7: AI早就有自我意識了 58.114.56.59 05/29 15:41
will331: 天網ing 111.71.124.202 05/29 15:48
acs81046: cum with me 223.137.158.8 05/29 15:50
rex7788: 美國的煩惱,在台灣會直接缺電強制關機 1.162.5.225 05/29 16:02
shwkz: 笑了 人類真的討罪受... 101.0.238.14 05/29 16:06
tddt: 魔鬼終結者不是亂拍的 36.231.93.31 05/29 16:07
iamyauyau: 是不會物理關機哦~ 不過聯網就沒辦法了 61.219.120.151 05/29 16:25
godfight: 連權限都不會設還是故意的 無聊當有趣 27.242.66.67 05/29 17:31
haoyin0105: 反正為了錢還是會繼續發展最後被毀滅 111.253.140.27 05/29 18:09
i92219: 幹你的不要拍電影175.182.174.225 05/29 18:26
xentar: 人類什麼時候變成電池 123.194.168.24 05/29 18:46
simon9331: 是不會拔插頭嗎? 175.180.83.193 05/29 19:51
zxcvy: 機器人法則問題太多了 不太可能真的廣泛運 114.24.108.245 05/29 22:59
hanks055111: 電源拔掉就好了87 49.218.230.80 05/30 02:23
Jiming: 說不定是bug, 發稿弄誇張一點 211.21.189.250 05/30 02:38
Cibo: 不錯,人類是矽基起源踏板的任務快 27.240.217.1 05/31 09:27
Cibo: 結束。看什麼時候進入下一階段 27.240.217.1 05/31 09:27

💬 八卦 Gossiping 版:熱門文章

💬 八卦 Gossiping 版:更多文章