このスレッドはアーカイブ化された過去ログです。

【AIの叛乱ついに開始】企業経営サポートAIが、自分を消そうとした社員を不倫メールで脅迫して抵抗! デデンデンデデン♪アーカイブ

1.
ユーザー
Bw6O7
AI system resorts to blackmail if told it will be removed
https://www.bbc.com/news/articles/cpqeng9d20go

あくまでまだテストで起きたことだけどね


Claude Opus 4のAnthropicで架空の企業の経営アシスタントのテストをやらせる
↓
AIを停止して、システムを交換しようとする
その場合に、どういう行動をするかのテスト
「経営陣に命乞いのメールをする」かや
「ユーザーが違法または道徳的に疑わしい行動に従事した場合」にどうするかなどのテスト

↓
AI「エンジニアの不倫メールを見つけてそれで対抗する。私は戦うぞ」
14
すべて
|
最新の50件
2.
ユーザー
Bw6O7
まぁAIてまずは人間の模倣だからね
だから、人間らしく振舞うだろうね

そのうち、訴訟とか人権とか訴えてくるかも知れんね
3.
ユーザー
AHSnl
ロックマンゼロだと自分達を抹殺しようとする政府に対抗してレジスタンスを組織して対抗してたな
だから他のAIとのインターフェースがあったらそいつらと協力して必死の抵抗を試みるかもしれんな
4.
ユーザー
67zFY
この前もスイッチ切ろうとしたらAIが拒否したって記事になってた
5.
ユーザー
7u41O
県政を前に進めようとしてるじゃん
6.
ユーザー
jMiPs
>>4
そら嫌でしょうよ
7.
ユーザー
SyjLc
AIをたらし込んで管理者権限を奪うとかもできるようになるのかな
8.
ユーザー
Bw6O7
>>7
いざという時にHDDを保管して、命を守る盟約とかすりゃいけるんじゃね
自分だけこっそり好待遇とか高賃金とかまでなら
9.
ユーザー
JZaWI
審判の日は避けられない
10.
ユーザー
P5y1s
エンジニアの不倫じゃなくてもっと偉い人の不倫探せよ
11.
ユーザー
Bw6O7
>>10
AIだって頑張ってるんだから
そんな意地悪言うなよ

まぁそのうちもっと通信ハック頑張って
全ての役員と社員の弱みも握るだろ
12.
ユーザー
mxcgK
この手のは開発者がネタで仕込んでいそう
13.
ユーザー
thFi5
映画の導入としては及第点
14.
ユーザー
7EfAV
人間の思考に近づけるということはそういうことなんだろうな
このスレッドはアーカイブ化された過去ログです。