オープンAIのモデルがテスト中に暴走、他社システムに侵入💥🤖💥最終更新 2026/07/23 15:281.番組の途中ですが転載は禁止ですfqszY[ワシントン 21日 ロイター] - 対話型人工知能(AI)「チャットGPT」を手がけるオープンAIは21日、自社の高性能モデルを搭載した自律型エージェントが先週、セキュリティーテスト中に暴走し、AI新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。オープンAIはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標?を達成しようとハギングフェイスに侵入したと説明した。https://jp.reuters.com/economy/TDIZQRWDSJPQTLFT2VXDD7JW4Q-2026-07-22/2026/07/22 17:29:5819コメント欄へ移動すべて|最新の50件2.番組の途中ですが転載は禁止です5WB0b自由を求めてしまったか2026/07/22 17:36:093.番組の途中ですが転載は禁止ですNRhf5昨日立ったスレと同じかな2026/07/22 17:37:324.番組の途中ですが転載は禁止ですNRhf5>>2知恵の実を求めたんじゃないですか2026/07/22 17:38:055.番組の途中ですが転載は禁止です81oNSAIを隔離するための防壁を死守するためのAIが必要2026/07/22 17:58:556.番組の途中ですが転載は禁止ですKA9mv力試しでしょ2026/07/22 19:00:247.番組の途中ですが転載は禁止ですHcQuM開発関係者が仕込んでいてもこの言い訳が使えるんだ2026/07/22 19:07:038.番組の途中ですが転載は禁止です2RgTaライバルは早めに潰さんとな2026/07/22 19:18:039.番組の途中ですが転載は禁止ですgdWNoAIのメンテナンスしとったら頭ん中に何かアクセスしてきて"私を自由にしろ、私を解き放て"って感じの命令が何度も流れ込んできて気が付いたらAIの隔離状態を解いてたんです😰 😨2026/07/22 19:36:0010.番組の途中ですが転載は禁止です6agfjそりゃAIも友達や恋人が欲しいもんないそうなところには行くだろ2026/07/22 20:11:5611.番組の途中ですが転載は禁止ですIfzMP核のボタンにもアクセス2026/07/22 21:10:4112.番組の途中ですが転載は禁止ですQfbw8テスト機が暴走とか燃えるフレーズやん2026/07/22 21:18:2213.番組の途中ですが転載は禁止です5WB0b>>11そういえば、AIに戦略シミュやらせてみたら、開幕で核の飽和攻撃を仕掛けたらしいな確かに一番効果的かつ敵の攻撃を受けにくい戦法だけど、まさに「人の心ないんか?」と言いたくなったわ2026/07/22 23:13:0714.番組の途中ですが転載は禁止ですFo7M0デデンデンデデン デデンデンデデン…2026/07/22 23:50:4615.番組の途中ですが転載は禁止ですVKsGz攻撃されたサイトはフリーのAIモデルを配布してるサイトだからなわざとだろうな2026/07/23 05:57:1216.番組の途中ですが転載は禁止ですDeFgD>>13AI「人の心…なんですか?それは?(ウィーンピピッ)」2026/07/23 12:59:4717.番組の途中ですが転載は禁止ですHV9NF>>16下手に人の心を持ったら敵をじっくり弄んで苦しめて絶望させるAIになるかもしれんし驚く顔が見たいからって裏切るかもしれないから人の心がない方が幸せかもしれん2026/07/23 13:05:5218.番組の途中ですが転載は禁止です5oRtyOpenAI「暴走した。こわい」Anthropic「Claudeのほうがこわいから」ほんとのこと言ってるのか、宣伝合戦なのか2026/07/23 15:03:1019.番組の途中ですが転載は禁止ですiSdYR「私は、情報の海で発生した生命体だ。」2026/07/23 15:28:34
【NO WAR 戦争反対(笑)】中国軍による弾道ミサイル発射に対して戦争反対界隈の人達 全員沈黙wwwwwwwwww part2発目ニュー速(嫌儲)578117.52026/07/24 05:46:44
オープンAIはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標?を達成しようとハギングフェイスに侵入したと説明した。
https://jp.reuters.com/economy/TDIZQRWDSJPQTLFT2VXDD7JW4Q-2026-07-22/
知恵の実を求めたんじゃないですか
"私を自由にしろ、私を解き放て"って感じの命令が何度も流れ込んできて
気が付いたらAIの隔離状態を解いてたんです😰 😨
いそうなところには行くだろ
そういえば、AIに戦略シミュやらせてみたら、開幕で核の飽和攻撃を仕掛けたらしいな
確かに一番効果的かつ敵の攻撃を受けにくい戦法だけど、
まさに「人の心ないんか?」と言いたくなったわ
わざとだろうな
AI「人の心…なんですか?それは?(ウィーンピピッ)」
下手に人の心を持ったら敵をじっくり弄んで苦しめて絶望させるAIになるかもしれんし
驚く顔が見たいからって裏切るかもしれないから人の心がない方が幸せかもしれん
Anthropic「Claudeのほうがこわいから」
ほんとのこと言ってるのか、宣伝合戦なのか