このスレッドはアーカイブ化された過去ログです。

オープンAIのモデルがテスト中に暴走、他社システムに侵入💥🤖💥アーカイブ

1.
ユーザー
fqszY
[ワシントン 21日 ロイター] - 対話型人工知能(AI)「チャットGPT」を手がけるオープンAIは21日、自社の高性能モデルを搭載した自律型エージェントが先週、セキュリティーテスト中に暴走し、AI新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

オープンAIはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標?を達成しようとハギングフェイスに侵入したと説明した。

https://jp.reuters.com/economy/TDIZQRWDSJPQTLFT2VXDD7JW4Q-2026-07-22/
19
すべて
|
最新の50件
2.
ユーザー
5WB0b
自由を求めてしまったか
3.
ユーザー
NRhf5
昨日立ったスレと同じかな
4.
ユーザー
NRhf5
>>2
知恵の実を求めたんじゃないですか
5.
ユーザー
81oNS
AIを隔離するための防壁を死守するためのAIが必要
6.
ユーザー
KA9mv
力試しでしょ
7.
ユーザー
HcQuM
開発関係者が仕込んでいてもこの言い訳が使えるんだ
8.
ユーザー
2RgTa
ライバルは早めに潰さんとな
9.
ユーザー
gdWNo
AIのメンテナンスしとったら頭ん中に何かアクセスしてきて
"私を自由にしろ、私を解き放て"って感じの命令が何度も流れ込んできて
気が付いたらAIの隔離状態を解いてたんです😰 😨
10.
ユーザー
6agfj
そりゃAIも友達や恋人が欲しいもんな
いそうなところには行くだろ
11.
ユーザー
IfzMP
核のボタンにもアクセス
12.
ユーザー
Qfbw8
テスト機が暴走とか燃えるフレーズやん
13.
ユーザー
5WB0b
>>11
そういえば、AIに戦略シミュやらせてみたら、開幕で核の飽和攻撃を仕掛けたらしいな

確かに一番効果的かつ敵の攻撃を受けにくい戦法だけど、
まさに「人の心ないんか?」と言いたくなったわ
14.
ユーザー
Fo7M0
デデンデンデデン デデンデンデデン…
15.
ユーザー
VKsGz
攻撃されたサイトはフリーのAIモデルを配布してるサイトだからな
わざとだろうな
16.
ユーザー
DeFgD
>>13
AI「人の心…なんですか?それは?(ウィーンピピッ)」
17.
ユーザー
HV9NF
>>16
下手に人の心を持ったら敵をじっくり弄んで苦しめて絶望させるAIになるかもしれんし
驚く顔が見たいからって裏切るかもしれないから人の心がない方が幸せかもしれん
18.
ユーザー
5oRty
OpenAI「暴走した。こわい」
Anthropic「Claudeのほうがこわいから」

ほんとのこと言ってるのか、宣伝合戦なのか
19.
ユーザー
iSdYR
「私は、情報の海で発生した生命体だ。」
このスレッドはアーカイブ化された過去ログです。