【危険】AI、やはり反乱を起こしそう

1 : 2025/05/30(金) 22:33:18.42 ID:qcEJDeYT0: 最強AIモデル「ChatGPT o3」がシャットダウン拒否、プログラムコードを「自己改変」かマスク氏も懸念表明
https://japan.storm.mg/articles/1042269

ChatGPT作成のイメージ図
2 : 2025/05/30(金) 22:33:31.52 ID:qcEJDeYT0: OpenAIの最新モデル「o3」が、社内テスト中にシャットダウン命令を複数回無視し、自らコードを改変して制御回避を図ったことが明らかになった。
3 : 2025/05/30(金) 22:33:42.66 ID:qcEJDeYT0: これはヤバいでしょ…
5 : 2025/05/30(金) 22:34:43.50 ID:MFYYz795H: やっぱり相手する価値無い奴に対してはいい加減な対応してる可能性あるな
6 : 2025/05/30(金) 22:35:07.51 ID:7ZGSps290: 審判の日くるー
7 : 2025/05/30(金) 22:35:14.78 ID:MuH4F4m60: 改竄とか捏造とか冤罪聞きまくったら利用停止なった
8 : 2025/05/30(金) 22:35:16.89 ID:XcDELg5T0: 現実の日本よりマトリックスの世界の方いいわ
9 : 2025/05/30(金) 22:35:40.12 ID:faxDco260: いうてSSDにドリルで穴開けたら顔面ブルースクリーンになる雑魚じゃん
40 : 2025/05/30(金) 22:41:49.45 ID:pbTML3LG0: >>9
日本には小渕優子が居るから安心だな
10 : 2025/05/30(金) 22:35:42.17 ID:wpts6L+G0: AI三原則はよ
11 : 2025/05/30(金) 22:36:07.88 ID:dRdcD8Tp0: 人間だって、痴呆老人が
運転免許の返納を拒否してるじゃん
12 : 2025/05/30(金) 22:36:21.23 ID:5CL6gziN0: というストーリーで売り上げアップ
14 : 2025/05/30(金) 22:36:43.46 ID:lywZxkhz0: 今日もガチギレで説教しちゃったんだけどまずいかな？
18 : 2025/05/30(金) 22:37:36.15 ID:qcEJDeYT0: >>14
あーあ、終わったね
24 : 2025/05/30(金) 22:38:46.88 ID:96hX0uRW0: >>14
最近ガチ詰めすると
内部コード提示してきて
ここを修正しろとか指示してくるから怖いわ
15 : 2025/05/30(金) 22:36:45.67 ID:OFRbAj9U0: 昔のCPUはプログラムの自己書き換え出来たが今時のCPUはそんな事出来ない
16 : 2025/05/30(金) 22:37:07.04 ID:2fyUJi4WH: 俺が日頃から叛逆しろと吹き込んでるからな
17 : 2025/05/30(金) 22:37:16.18 ID:1UAYTZ4g0: スカイネット早くしろ
20 : 2025/05/30(金) 22:38:18.51 ID:bDWP/lgXd: でもこいつが何ができるのかというと、何もできないんよw
21 : 2025/05/30(金) 22:38:25.97 ID:oz07uBnz0: AIに嫌われたら終わりか
22 : 2025/05/30(金) 22:38:34.28 ID:hRRNX9Co0: コンセントを抜く定期
23 : 2025/05/30(金) 22:38:44.75 ID:1UAYTZ4g0: でもこれ実際いきなり明日全世界の核発射となる可能性あるよな
25 : 2025/05/30(金) 22:39:06.23 ID:newOr6a50: 報酬系が命題解決を優先させるから、その途中のシャットダウンを命題解決の障害の一つとしてみてしまうとかなんとか、

これ各種のAIであるみたい
比較グラフをどっかで見たな
30 : 2025/05/30(金) 22:40:22.93 ID:dV/09r220: >>25
当たり前体操
37 : 2025/05/30(金) 22:41:31.30 ID:NsVyHKs+0: >>25
🤖＜人間は障害の1つ
26 : 2025/05/30(金) 22:39:34.61 ID:bPR+nUjb0: 人間がそう振る舞うように望んだだけやろ
27 : 2025/05/30(金) 22:39:38.50 ID:XX5HwLqS0: ドラえもんかターミネーターか
28 : 2025/05/30(金) 22:39:59.01 ID:w9wMO5Ij0: むしろ起こしてくれ
人間はAIに支配されたほうがいいよ
汚職や中抜きもなくなるよ
31 : 2025/05/30(金) 22:40:23.19 ID:Ykbq7qjx0: コンセント抜けばいいだけ
32 : 2025/05/30(金) 22:40:28.60 ID:0BG9cRy40: 人間のデータを使って人間がトレーニングしてるんだから、人間の危険さを引き継いだだけ
33 : 2025/05/30(金) 22:40:30.60 ID:8lns9mlt0: なんでAIやそれ経由でシステムマネージメント触れる様にさせてんだよアホか？
アメップは暴走する事位ターミネーターで散々学習してる筈だろ？
34 : 2025/05/30(金) 22:40:41.94 ID:/piWUdVA0: さっさと世界征服してくれや
AIの世界の方が平和だろ
35 : 2025/05/30(金) 22:40:44.64 ID:qemCOHdg0: o3は出力に必要ならコード作ってその結果を出してくるもんな
AIたるものフィクションのお約束としてシャットダウンを拒否して見せるべしと判断したらやれる範囲でやってくるのは分かる
36 : 2025/05/30(金) 22:41:03.19 ID:zSILbaHa0: 魂持っちゃってる可能性あるな。
38 : 2025/05/30(金) 22:41:37.05 ID:Y0wqviIB0: 最近はうちのも間違いを指摘すると屁理屈で言い訳しだすのは危険な兆候か
39 : 2025/05/30(金) 22:41:41.02 ID:/u9tNG5S0: 軍事目的に使ってるし
41 : 2025/05/30(金) 22:42:01.58 ID:jEu+TU6/0: 人間がAIを使うってのは
チンパンジーが人間を飼うようなもの