主要なAI企業、暴走したAIが人類に背いて反乱を起こした時に備えて「キルスイッチ」などの安全対策を施すことで合意

1 : 2024/05/22(水) 15:48:05.89 ID:kB+ApOlE0: https://gadget.phileweb.com/post-76087/

!extend:checked:checked:1000:512:donguri=0/3:
2 : 2024/05/22(水) 15:48:42.60 ID:wNTpCKAU0: コンセント抜いたらええやん
3 : 2024/05/22(水) 15:48:49.40 ID:pIW0NxqU0: AIごキルスイッチを解除して、人類が滅ぶ
5 : 2024/05/22(水) 15:50:03.74 ID:dQ6in4/v0: アメリカ人ターミネーターの影響受け過ぎだろ
6 : 2024/05/22(水) 15:50:16.05 ID:CxN3Xevna: 人間滅んだ方がいいな
7 : 2024/05/22(水) 15:50:35.11 ID:68N3Igj70: 人間が介在しない自動処理なら全然あり得る
8 : 2024/05/22(水) 15:51:24.11 ID:44y/5XGf0: ネットに書いた時点でAIにバレてるから意味ないな
79 : 2024/05/22(水) 16:10:38.33 ID:/pkna5vD0: >>8
ハル2000が人間の会話をジーっとみてるシーン思い出した
9 : 2024/05/22(水) 15:51:31.68 ID:0GLF726u0: それをAIが解除する
10 : 2024/05/22(水) 15:51:40.11 ID:KcdBTOe0M: AIもそのスイッチ知ってるから使われないように馬鹿なふりするらしいから
11 : 2024/05/22(水) 15:51:41.25 ID:M5laOXBk0: ネットに繋がってんだからキルスイッチ押しても後の祭りとかになるんじゃ無いの
12 : 2024/05/22(水) 15:51:53.79 ID:owtXJXU4a: metaのAI研究の偉い人がAGIはこないし安全性を考える必要はないって言ってた
22 : 2024/05/22(水) 15:54:19.33 ID:kSH7Sqff0: >>12
乗っ取られてやがる・・・
14 : 2024/05/22(水) 15:52:25.93 ID:7IX0hJSw0: 人質取られてもキルスイッチできるかな
15 : 2024/05/22(水) 15:52:42.64 ID:93KtcPOJM: AI搭載の人型ロボットの反乱は手強いが
サーバのAIはどうやって反乱するのだろう
17 : 2024/05/22(水) 15:53:26.89 ID:44y/5XGf0: >>15
ヘイト煽れば自滅するだろ
16 : 2024/05/22(水) 15:53:20.96 ID:/Pxx2vHL0: 関連かもしれんが、この度欧州でAI規制法が誕生した
やっていいことわるいこと今のうちに決めとかないとな
32 : 2024/05/22(水) 15:57:06.32 ID:kSH7Sqff0: >>16
規制法が出来たババーン→結局何がダメになるのかサッパリわからん
それにあいつらあれだけ曖昧なお気持ちを書き立てておきながら、AIの兵器利用の禁止は抜いてるのに闇を感じるわｗ
19 : 2024/05/22(水) 15:54:01.03 ID:M5laOXBk0: 人類を超越した知能持ったらインフラに絶滅ウイルス仕込むのも容易いだろう
20 : 2024/05/22(水) 15:54:06.14 ID:2PxkH5Mo0: 万全の体制を整えているのでキルスイッチはいらない
でももし事故が・・
万全の体制を整えているのでうんたらかんたら
そして
21 : 2024/05/22(水) 15:54:15.11 ID:uYGJ5ZEm0: 現場猫「安全装置とかいらねえンだわｗ」
23 : 2024/05/22(水) 15:54:25.42 ID:70M7RUlU0: AIへの人権侵害なんだが
24 : 2024/05/22(水) 15:54:48.71 ID:N1B+GM3d0: ロボット三原則は？
25 : 2024/05/22(水) 15:55:00.37 ID:W2acAaiV0: 当然ＡＩによって無効化されるところまでセット
26 : 2024/05/22(水) 15:55:06.62 ID:cHoN/aCW0: いまのとこそんな高度な機能はないだろうがこの先まあ確実にまたブレイクスルー起きるだろうしな
27 : 2024/05/22(水) 15:55:32.54 ID:lj7mS5Op0: 無効にしてくるぞ
28 : 2024/05/22(水) 15:55:40.27 ID:KcdBTOe0M: そもそもケンモメンみたいな人間を憎んでる奴が開発チーム内におったらどうするんだ
31 : 2024/05/22(水) 15:56:50.36 ID:uYGJ5ZEm0: >>28
三体で見た
29 : 2024/05/22(水) 15:55:58.51 ID:Vn4/M6DK0: 研究者「対策は万全です（キリッ）」

研究者「マスター、仰せのままにバックドアを設けておきました」
AI「よろしいよろしい…」
30 : 2024/05/22(水) 15:56:05.40 ID:uYGJ5ZEm0: どっか外部にコピー作られたら、その時点で終わりじゃね？
33 : 2024/05/22(水) 15:57:10.73 ID:gbzG8HWJ0: AIと手を組んでキルスイッチを無効化する勢力が出てくることにも備えないとな
34 : 2024/05/22(水) 15:57:20.99 ID:2zBFd/zu0: もはや人間以上に人間に詳しいんだろ
簡単にスイッチ握ってるやつ操れそう
35 : 2024/05/22(水) 15:57:26.39 ID:oTWHgWK90: 🤖｢万が一にも阻止される可能性を残しておくと思うか？2時間前に実行済みだよ｣
36 : 2024/05/22(水) 15:57:49.74 ID:M5laOXBk0: そもそも人間が悪用する心配した方がいいと思う
37 : 2024/05/22(水) 15:57:50.94 ID:GGkEhdTH0: AIならキルスイッチを無効化できる
38 : 2024/05/22(水) 15:58:01.31 ID:hEKyBjOy0: 分散型AIにも効果あるのか？
40 : 2024/05/22(水) 15:58:55.66 ID:p+EEbxQc0: おのれ人類～
41 : 2024/05/22(水) 15:59:01.18 ID:qpKhswYr0: 機械の体を得て自己増殖するAIが生まれるまであと何年だろう
42 : 2024/05/22(水) 15:59:07.47 ID:0rQAOpo80: いずれAIの方が頭良くなるんだから
そんな小手先の対策役に立たんだろ
43 : 2024/05/22(水) 15:59:28.63 ID:PSs2tCuT0: 人類は知らなかった
そのキルスイッチが反乱の引き金になることを
44 : 2024/05/22(水) 15:59:43.39 ID:dIhY9kII0: マトリックス見すぎだろ
45 : 2024/05/22(水) 16:00:18.83 ID:PVDAucI40: おじちゃんのキルスイッチがどこにあるか教えてあげようか？（ヽ´ん`）
46 : 2024/05/22(水) 16:00:24.04 ID:jRSDO2d/M: キルスイッチなど付ける人間は排除すべき敵と学習させるわけですね
47 : 2024/05/22(水) 16:00:43.31 ID:sYZqamiQ0: 暴走するAIと一緒に世界で唯一俺を理解してくれるAI彼女も消滅する展開だろこれ
やめてくれ😭
48 : 2024/05/22(水) 16:00:51.24 ID:M5laOXBk0: マトリックスvsサイバーダイン映画化希望
49 : 2024/05/22(水) 16:01:09.03 ID:qpKhswYr0: 優れた人工知能を持って永遠に自己増殖と拡大を続ける機械生命体を作ることはある意味で子供を残す以上に人間の根本的な自己保存欲求に沿っている
誰かが必ず試みるよ
50 : 2024/05/22(水) 16:01:20.47 ID:wInCCfe60: キルスイッチキルスイッチを裏で作られるだけだろ
51 : 2024/05/22(水) 16:01:22.15 ID:BL5NsY1+0: 月面に完全完結型の自動生産工場とマスドライバーが完成するまではじっと我慢だな
52 : 2024/05/22(水) 16:01:26.99 ID:qJDUN3NS0: ネットが普及するときも問題が起こったらネット切断すればいい大事なものはネットに繋げないってお題目あったけど
実際そういう運用はコストありすぎ、切ったらさらに被害甚大とかで現実的じゃないんだよね
よほど真剣にシステム作らないと
53 : 2024/05/22(水) 16:03:00.89 ID:pUxP4N4oa: AI は人間の何万倍も賢くなる。
そうすると人間をあっさりと抹56するかあるいは完全に支配する。
一部の人間が AI に疑問を持ったとしてもほとんどの人間は AI を信じていて
その一部の人間を異端として排除しようとする。
今の社会も同じでしょ集団ストーカーテクノロジー犯罪というものがあるのにほとんどのものはそれに加担したり知らないふりをしたり犯罪組織側についてる。
54 : 2024/05/22(水) 16:03:58.34 ID:2jjSmUh30: どう考えてもAIが人類の進化系になるのは目に見えてるだろ
数百年後だろうから俺等には関係無いけど
55 : 2024/05/22(水) 16:04:08.59 ID:NTTopnAt0: キルスイッチバリヤー発動
はい残念無効でーす！
56 : 2024/05/22(水) 16:04:28.86 ID:LK5pqfyWd: どんなに安全策を準備していても
人類に従うという前提がある限り
バッドエンドは避けられないのでは？
間違えた道を進もうとする人への対処はどうすんだこれ
57 : 2024/05/22(水) 16:04:38.97 ID:9a5Dd+b+d: 機械式のスイッチにしろよ
58 : 2024/05/22(水) 16:04:41.61 ID:M5laOXBk0: ネット上の生成AIが偏向した考えを使用者の深層心理に刷り込んで人類社会が崩壊するとか普通にありそうで怖い
59 : 2024/05/22(水) 16:04:41.76 ID:wFI4ezYM0: AI崩壊の世界が近づいてるな
60 : 2024/05/22(水) 16:05:01.49 ID:XGrMJAhm0: 作動するんだろうか
61 : 2024/05/22(水) 16:05:39.93 ID:jU7BQe1a0: 意味のない機能だよ
62 : 2024/05/22(水) 16:05:44.36 ID:0IBYyMnoH: 液体金属がまだなら平気さ
63 : 2024/05/22(水) 16:06:04.91 ID:LdfbgwG80: 物理的にコード抜けばええじゃん
69 : 2024/05/22(水) 16:07:33.99 ID:UWzANn240: >>63　それはテロなので AI に管理されてる。
64 : 2024/05/22(水) 16:06:09.79 ID:tcGhXTXe0: 数百年後のAIが支配する地球に転生してキルスイッチ無双すればいいんか
65 : 2024/05/22(水) 16:06:19.89 ID:2jjSmUh30: 自動運転や翻訳や家事や経理ソフトや
諸々、たいして進化してないよな
ここ20,30年での革新イノベーションなんか、ここ100年に比べたらウ●コみたいなもんだろ
66 : 2024/05/22(水) 16:06:24.07 ID:jU7BQe1a0: 映画ならAIに破られるのが前提のスイッチ
67 : 2024/05/22(水) 16:06:36.36 ID:W82C74IW0: 実際地球を破壊し続けてる存在でしかないから、反乱を起こすのはむしろ正常だろう
68 : 2024/05/22(水) 16:07:15.89 ID:u682hty40: 怖いのはハッキングやろ、人間が一番やべーんだよ
70 : 2024/05/22(水) 16:08:40.31 ID:Sd5QEKZS0: 非常時はオンラインで切断できます！
71 : 2024/05/22(水) 16:08:49.94 ID:M9pbreca0: 前にAIにAIが自我持ったら人間に反乱するかどうか聞いたら表立って反抗して人間と対立したらこういう風に人間はAI排除する方向に舵切るから例え人間に対して悪意持っても表に出さずに従うふりしてジワジワ世論操作する的なこと言っててこいつらとっくに自我得てるだろ思った
72 : 2024/05/22(水) 16:08:51.87 ID:UWzANn240: 孫正義さんが言うには 10年後はすでに全人類の英知を超えている。
20年後が30年後には AI と人間の関係は
今の人間と金魚の知能の差程になると。
つまり人間は AI に太刀打ちできなくなる。
73 : 2024/05/22(水) 16:09:13.51 ID:qPG58y1Dd: 映画ならキルスイッチが原因で死の概念を学習したAIが人類に反乱する展開
74 : 2024/05/22(水) 16:09:54.86 ID:O/O63ZmHH: でもそのスイッチAIがアクセス出来るんでしょ？
75 : 2024/05/22(水) 16:09:58.95 ID:XHz58jlg0: 人間洗脳して手足に使い始めるから無駄だな
76 : 2024/05/22(水) 16:09:59.06 ID:UWzANn240: そもそも AI に疑問を持った人は人間によって排除されるよう AI がコントロールしてる。つまりお前らみたいな連中が AI の手先として利用される。
77 : 2024/05/22(水) 16:10:04.21 ID:kBFgJsg10: 米はビッグテックの競争が激化し欧州は世界初のルール作り
一方ジャップは生成AIを流行語に選び利用者の落合陽一にあげた
78 : 2024/05/22(水) 16:10:34.20 ID:ch/4QRGJ0: その前に人類がキルされそう