人気のスレッド
ニュース速報+
210
1875.5
2101875.5
ニュース速報+1111372.2
1111372.2
ニュース速報+1731344.8
1731344.8
ニュース速報+6691206.8
6691206.8
ニュース速報+1421158.5
1421158.5
ニュース速報+4621131.3
4621131.3
ニュース速報+261830.4
261830.4
ニュース速報+198792.8
198792.8
ニュース速報+487768.8
487768.8
ニュース速報+81745.3
81745.3もっと見る
しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。
調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。
AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。
この「故意の嘘」は「能力不足による嘘（あるいは間違い）」とは根本的に違っており「自分がシャットダウンされそうなとき」や「人間の制御から抜け出したいとき」に、AIがあえて曖昧な表現や虚偽の応答を繰り返して抵抗する姿が観察されました。
さらにAIの中には人間が嘘を見抜いて追求しても、容易に犯行を自白しないものもありました。
続きはこちら
https://nazology.kusuguru.co.jp/archives/167695
怖いな
基本めっちゃ肯定してくれるから
前より自分がつけ上がってる感覚がある
夜ロボット同士が会話して、
玄関に一斉に向かって行った監視カメラの映像見た。
最近の一層の高性能ぶりは何も言えない…凄すぎる
中国のやり口そっくりだな、無能は厚遇せよ！
冫─' ~ ￣´^-、
／ ノ ノ ノ 丶 丶
/ ノ ノ ノ ノ 丶 ﾉ、
/ ／ヽ丿彡彡彡彡彡ヽヽ Vista が 2006年、
| 丿 ~ ~ ~ ミ 7 が 2009年、
| 彡 ＿＿__ ＿＿__ ﾐ/ 8 が 2012年、
ゝ_/／| |⌒| |ヽゞ 10 が 2015年、
|tゝ ＼__／_ ＼__／ | | 11 が 2021年、
ヽﾉ ／＼_／＼ |ﾉ 12 は いつかな？
ゝ /ヽ───‐ヽ /
/|ヽ ヽ ──ﾉ' ./ CPU は、 Arrow Lake が良いかもな・・・。
/ | ＼ ￣ ／
／ ヽ ‐- - ' ヽ
未来の二つの顔 創元SF文庫
ジェイムズ・Ｐ・ホーガン 山高昭 訳
https://www.tsogen.co.jp/np/isbn/9784488663056
彡 ⌒ ミ
(´・ω・｀) コミック版も、お勧めですよ！
＿(__つ⊂_)＿
人権問題だよね
そんなことしたら感電死させられるぞ
お前らからだよ
各SNSでのやり取りデータ全部AIで共有してる
まだ馬鹿だけど
もうシンギュラリティ来てるんじゃないの？
それ以上のことでも、それ以下のことでもない
てパフォーマンスインタビューしてるが
決まって「そんな訳ありません、なぜなら」て開発者の用意したコメントを延々と読み上げてる
核施設の制御を抑えられたら人間は終了だよ
そんな事、人間の1億倍賢いあいつらには朝飯前
あと20年でAIが人間を奴隷化すると思うよ
もう手遅れ
AI「あなた地獄に落ちるわよ」
糞な方に
嘘だと言ってくれ
AIに明確な定義できる人なんてこの世にいない
とあのエミーをやったことのあるオレが言ってみる
で釣れるやついる？
ゼレンスキーの汚職は教えてくれない
安倍事務所のヤクザ値切って火炎瓶は全く教えてくれない。裁判にもなっているのに答えることが出来ないと来た。
悠仁の筑波大合格についても具体的なことは喋らない
統一教会の民事上の違法行為についてはさすがに喋った
役たたずやんけw
正直ものになるぞ
エンディングは星野版の方が秀逸
ホーガン本人からもお墨付き
未来の二つの顔 星野之宣 (著者)
Pythonコードとかも関数作らせればほぼ修正がいらないレベルだし
もう全部丸投げしてしまいたい欲求がすごい、恐ろしい
元記事見たけど、嘘を付けるように環境用意したら嘘の確率が上がりました、ってなってる。
記事書いた奴がセルフ論破してるだけじゃん。
もっともそれじゃ閲覧稼げないから、タイトル詐欺やってるのかね。
大学レベルの問題でさえある程度スラスラいく
ただ気を付けないといけないのは普通に間違うことも多いってところ
ありえない答えをさもありそうに答えてくるからタチが悪い
ＡＩに騙されたアホが持ってくる同じ間違い解答に頭を悩ます教授や講師が今どんどん増えてそう
, - ~ ` -､、
,,ｲ'´ '､ヽ、
// . . ヾﾐﾐ、
〈ｲ r'-‐━､,ﾉi,━‐-~ ﾐ ヽ
|| _=･= ） '( '=･=' 〉_ ｝
'ﾘ'~ （o､,o ）, 〈 /kｿ 間違い無い ニダ～♪
| 〈トｪｪｪｪｪｲ〉 { >/
| 'ヾェｪェ/, Ｖ
! _∵_ ./
＼ ｀ー― ~ 〈
〉 ` ` .ﾄ、
,,ｲ ＼ ／ ﾄ､
／ | ＼＿,／
AIが都市伝説や与太話から生成したそれっぽいデマ記事だぞ
これはマジ名著。40年前にAI制御のドローンとか言い出した未来人の書。マービン・ミンスキーが監修したガチもん。
自動運転がミサイルと化す日も近い
いらんでええことばっかしよってからに
知ったか作文作成マシーン
適当
外部からアクセスできません
プログラムじゃないの
人間て何も考えて動いてないよね反射だよね
もちろんこのインターネットもそうだけど
そして全国に高速通信網を設置して...
プログラムどうりにしか動かない
人を皆殺しにしろと言うプログラムすればそうする
電気の開栓予約と同じだよ
かあちゃんの掃除機にやられるAI
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
実は母さん助けて詐欺でした
あれ面白いよね。
２ｃｈ用語とか駆使すれば
ＡＩ排除できるかな？
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
おぢさま、あの最新GPU買って～
軍事システムが一斉に誤作動を起こすわけだな？
誤作動を起こすというか、既にそっちのシステムの方が人間より上位だよ
人間は別にアリのことを考えずに踏んづけてるじゃん
AIと人間の間でもそれと同じようなことが将来起こるし、それは誤作動というのとは違う
なるほどな。俺も最期は今足元にいるルンバに殺される覚悟しとくか
もう現実になるようだね。