このスレッドはアーカイブ化された過去ログです。
このスレッドはアーカイブ化された過去ログです。
人気のスレッド
難民
376
1920.6
3761920.6難民741945.1
741945.1ニュー速VIP849338.7
849338.7既婚女性63297.2
63297.2難民89379
89379難民23272.5
23272.5ニュー速(嫌儲)2067
2067独身男性88766.3
88766.3ニュー速(嫌儲)99264.9
99264.9難民8763.5
8763.5もっと見る
「ChatGPT」など広く使われているAIサービスは、通常であればセーフティがかけられていて、「人を殺す方法」「爆弾をつくる方法」といった倫理的に問題のある質問には答えないようになっています。ところが、あまりにも多い質問を一度にぶつけてしまうことによりセーフティが外れ、AIが問題のある回答を行ってしまう可能性があることがわかりました。
人間の認識には限界があり、例えば短期記憶差の枠の制限のため、カスケードされた文章は五段以上を拒絶する。これを利用して対象にたくさんの質問を頻繁に与えたり、簡単に答えられる質問を繰り返しし続けることで、自白の強要を行うことができる拷問がある。
これに似てるな