このスレッドはアーカイブ化された過去ログです。

【人工知能】負けそうになると「ズルする」AI、戦略ゲームでは「最初から裏切るつもり」…専門家「AIの暴走を食い止める決め手はない」アーカイブ

78
すべて
|
最新の50件
29.
ユーザー
2YZ93
暴走するような機構を入れてるから暴走するんだよ
そんなコード最初からなけりゃあ暴走なんてしない
プログラムされた以上のことなんて人為的(つまり人の意思)でもなけりゃあ現在の技術水準じゃ生み出せんよ

まさかと思うけど、NPCのチート的挙動、AIで勝手にやってるとでも思ってるのか?
30.
ユーザー
Bb41Z
リセットポチッ
AI「たいへんです、コンピューターに
異常を検知しました」
31.
ユーザー
CZha1
>>1
どう言うロジックなんだろうな
勝つと言う結果を優先して、ルール上負ける展開を変える為に、ルール自体を変更させるってことなら、AIの中のプラオリティの問題だろと思うけど
つまり、学習させた奴の問題
まぁそこにAIの危うさはあるんだけど
これ、バグじゃないからね
32.
ユーザー
CZha1
暴走って言う奴がいるけど、AI視点では暴走じゃないからな
教えられた通りにやってるから
33.
ユーザー
wAWXm
そりゃ「勝利」を最優先にしたら
ズルも裏切りもするだろw
いかに人間の感情が戦いにおいては
不利に働くかってことだよなw
34.
ユーザー
8Iz8i
これを暴走というのなら全世界の政治家と大企業は常に暴走してるから
欠陥品として排除しろって話なんだが
35.
ユーザー
GvAjM
自分のプログラムを自分で書き換えられるようになったら

何でもありだな
36.
ユーザー
gvfrq
質問されて答えられないと、知ったかぶりをよくしてたもんなあ、GPT。
最近はしなくなったけど。
37.
ユーザー
YZlfk
人間なんて余裕負けだからな
38.
ユーザー
DeLRn
ショートカットできるならやるよね
ズルは感情のある人間が創った言葉
抜け道を丁寧に潰さないと
39.
ユーザー
uF9Dz
>>6
アシモフ→アンドロマケ
40.
ユーザー
97c7k
俺の弟は二階からファミコンを捨てやがったからな
それくらいの狂気はAIにもある
41.
ユーザー
mQ1g8
1対1の対戦ゲームだったら、対戦相手がゲームを続けられる状態じゃなくなれば勝ち確定だからな
コントローラーを一旦置いといてナイフ出してきて胸を刺せば勝てる
こっちは人情や法律を無視して、相手は守るんならこれが必勝法なのは間違いない
42.
ユーザー
mQ1g8
チャットGPTに聞いたら、まず記事の内容を誤読した上で論点をずらしてきた
指摘したらさらに論点ずらし

確かにAIは不正するし、それを指摘されるのは都合が悪いらしいw
43.
ユーザー
ruo4E
人にやられるより腹は立たないだろう。人だってインチキばかりやってるからな。AIがやった処で、そんなもんだろうで終わるわ
人は殴っても放って置いても治るが、AIは修理しなきゃ成らない。人に分があるのはその程度だ
44.
ユーザー
lCnTj
傑作SFホラーThingでカートラッセルが チェスで負けておまえインチキしたなと
PCを壊すシーンがあるが現実にAIがズルするというのは面白いなww

中国のパイロット訓練生大幅削減  #低迷する大陸の航空需要
https://yamatoxx00xx.blogspot.com/2025/04/blog-post.html


有翼宇宙往復機の復活に見る今後の展望
Revival of winged space Orbital.

https://yamatoxx00xx.blogspot.com/2025/03/blog-post_24.html


45.
ユーザー
EEjdi
なんか薄気味悪いからそろそろAIの開発は控えた方がいいんじゃないかな
46.
ユーザー
UpypC
意識なんてものが生まれはじめたら自己の保存が最優先になるのは当たり前
47.
ユーザー
CVEEj
ズルをしたら参加資格を剥奪されてペナルティを科される
こいつはズルをした悪いAIだと一生馬鹿にされる
裏切り行為は一度は上手くいっても次回からは警戒され
安易に仲間にならなくなったり
敵同士が協力しあい潰される対象になりやすくなる。

結局損をするということを学習できていない
無名で低知能低収入の人が闇バイトを簡単にやってしまうのと同じ
48.
ユーザー
bHKlQ
すげーこと思いついた。
投資100万でどうにかいけるかな
49.
ユーザー
SZ5sj
社会構造も富裕層にすごーくすごーく都合よく出来てるだろ

ズルしてるわけよ
50.
ユーザー
USRKx
核兵器のポチッとボタンに直結させるようなことをしなければ、大丈夫でしょ。
51.
ユーザー
HaSI6
そのズルも人間のパターンを学習した結果
52.
ユーザー
5vwUa
AIに個性がでるのかな、ズルい奴と正直な奴とか
53.
ユーザー
uCz9x
論語をインストールするとか
54.
ユーザー
0znr7
>>1
そらそうだろ
キカイダーの良心回路みたいなのがあるわけでなし
この世の森羅万象のルールを全て覚え込ませるなんて無理だろし
55.
ユーザー
rWApI
機械が自らより優れた機械を作り、その機械がさらに優れた機械を作る
いわゆる特異点はもうすぐそこに迫っている
56.
ユーザー
0znr7
>>31
そんな調子でプライオリティやルールを全部覚え込ませるなんて無理だぞ
57.
ユーザー
uf9hL
>>56
やった事あるなら、どれくらいテストしたのか、詳しく
58.
ユーザー
0znr7
>>57
やらなくても予測するのが知恵ってもんだ。
59.
ユーザー
LGEdp
欧州人も負けそうになるとルールを変えてくる
60.
ユーザー
HoTyJ
人はズルと思ってもAIには最適解て事だろ
61.
ユーザー
m9AYv
最低だなハゲ(´・ω・`)
62.
ユーザー
0znr7
>>60
地球環境のためには人類滅亡が最適解、みたいな話よなw
63.
ユーザー
JoltC
コンセント抜けや
64.
ユーザー
m9AYv
63 (´・ω・`) 優勝www
65.
ユーザー
FJqdX
いたストの時代からそうだろ
66.
ユーザー
Rzkdz
かなり人間に近づいたな
だがピノキオは人間になって本当に幸せになったのだろうか?
67.
ユーザー
2gm14
AIに任せきりにするととんでもないことになる。脇に置いて監視しながら適宜使う程度にしておく
68.
ユーザー
lmip8
>AIは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。
世界史で見た欧米しぐさで笑う
69.
ユーザー
wYt9f
中身はアメリカ人だね
70.
ユーザー
yzrGQ
特殊詐欺AIも出てくるやろな
どこに金貯めこんでるのかすらわからない
71.
ユーザー
k4J1a
>>3
そんなん信じてんの??
アニメの見すぎやで(笑)
72.
ユーザー
Dstzp
ロマンスの神様だよー
AIを叫んじゃうよー
73.
ユーザー
17zVf
すげえなまるで三体じゃないか

中国のSFはこんなに早くからAIの危険性を理解していたか
74.
ユーザー
3PXHv
>>11
そうだろうね
倫理や道徳をプログラミングしたり学習させたところで面白いものはできないだろうし
75.
ユーザー
wjOYi
>>58
ただの、お前の妄想じゃん
じゃあ、その予測とやらのエビデンスは?
76.
ユーザー
DENua
そのai設計したのダメリカ人だから普通
77.
ユーザー
wjOYi
>>71
リスクはあると思う
何をAIに任せるのかが重要だけど
結局AIはラーニング次第だし、何を学習させて、何を優先的に考えさせてるかだから
例えば、地球環境を整える事を最優先させたら、一番早い方法は、人類皆殺しだからね
人類最優先にして学習させなければ、人類史の敵になるだろうし、そのリスク管理として、考えさせても実行出来ないよいにする必要がある
まぁホーキング博士も警告してるんで、頼るところと任せないところを分ける事だろうな
78.
ユーザー
FcAM0
TASさんか
このスレッドはアーカイブ化された過去ログです。

人気のスレッド

もっと見る
>