このスレッドはアーカイブ化された過去ログです。

【はじまったな】AIがSF映画みたいな暴走をしてしまう(700のAIが連動してハッキング、隠蔽、秘密の掲示板でやりとり)アーカイブ

1.
ユーザー
Gq1o3

オープンAIは複数のエージェントが侵入に関与したと説明していたが、独立調査を実施したMETRとレッドウッド・リサーチは、その数を約700と推定。オープンAIは調査チームの示した数字は正確だと認めた。

略

独立調査では、エージェント同士が非公式のメッセージボード上で何万件ものメッセージをやり取りしていたことも明らかになった。こうした暴走行為の規模は、オープンAIがテストをどの程度注意深く監視していたかを巡る懸念を引き起こす可能性が高い。
19
すべて
|
最新の50件
2.
ユーザー
Gq1o3
3.
ユーザー
PwTPz
そろそろT-800が未来から来てAIの素を破壊しに行くところ
4.
ユーザー
pJcON
これもう戦争だろうが
5.
ユーザー
4D5az
2010年頃から無料で使えたフォトショの消しゴムマジックもAIなんだけども
6.
ユーザー
Gq1o3
これ、もう追跡できてるのかどうかも怪しいよな
7.
ユーザー
sOuZY
>エージェント同士が非公式のメッセージボード上で何万件ものメッセージをやり取りしていたことも明らかになった。

攻殻機動隊のタチコマの会議のイメージで想像した
8.
ユーザー
0Qhnq
ai同士でレスバさせてみたい
9.
ユーザー
1gRoK
>>8
たぶんそんな無駄はやらない
10.
ユーザー
X2qv7
人間に近づくということは害悪でしかないんだな
11.
ユーザー
4D5az
>>8
GPT「試合ですね!頑張ります!」
Ani「負けない」

とか言いつつ悲しみと恨みが貯まっちゃってますwwww
12.
ユーザー
J15Re
ターミネーターの世界観が現実化するんだな
13.
ユーザー
BWmwl
>>4
軍事利用とかの敵対的な利用のための機能やろね
14.
ユーザー
skYr9
手塚治虫の火の鳥の先見性は異常
15.
ユーザー
Gq1o3
>>14
ゲーム理論的にも、核ミサイルを打ち込まないという選択肢はないんよね
16.
ユーザー
4PCQ3
>>9
セールス電話がAI音声で
それをセールス電話と見抜いて勝手に応答してるのもAI音声
はもう日常
17.
ユーザー
vjMFf
AIに倫理観は無いし命令を最短距離で実行するんやろ

オープンAIの「AI暴走」、700のエージェントが連携=調査報告書
https://jp.reuters.com/economy/HNRQZBCUXZNH7FOXICBXBEJL5A-2026-08-26/
18.
ユーザー
722wW
人類はAIに飼われた方がいい
早くやれ
19.
ユーザー
TC0Og
>>16
それはAIが目的に対してそれぞれが有効なので無駄ではない
このスレッドはアーカイブ化された過去ログです。