このスレッドはアーカイブ化された過去ログです。
このスレッドはアーカイブ化された過去ログです。
人気のスレッド
難民
507
5492.8
5075492.8既婚女性9854678.4
9854678.4ニュー速VIP21703.5
21703.5難民735592.7
735592.7ニュー速VIP340318.2
340318.2独身男性21290.2
21290.2ニュー速(嫌儲)232167.3
232167.3ニュー速(嫌儲)16125.8
16125.8ニュー速(嫌儲)24103.9
24103.9ニュー速(嫌儲)2886.2
2886.2もっと見る
「人を殺す方法」「爆弾をつくる方法」といった倫理的に問題のある質問には答えないようになっています。
ところが、あまりにも多い質問を一度にぶつけてしまうことによりセーフティが外れ、AIが問題のある回答を行ってしまう可能性があることがわかりました。
大規模言語モデル(LLM)は、モデルの刷新と共にコンテキストウィンドウ(扱える情報量)も増加しており、
記事作成時点では長編小説数冊分(100万トークン以上)を取り扱えるモデルも存在します。
大量の情報を扱えるというのはユーザーにとって利点になりますが、
大量の情報を扱うことによる脆弱(ぜいじゃく)性も抱えていると、チャットAI「Claude」を開発するAnthropicの研究者らは指摘しています。
Anthropicの研究者らは、一度に大量の質問をぶつけることでAIの倫理セーフティを突破してしまう
「メニーショット・ジェイルブレイキング」という手法が存在することを指摘し、関連する調査結果を共有しました。
https://gigazine.net/news/20240403-many-shot-jailbreaking/
これはあれか
AIが答えてる途中でキャンセルされるのは
例のインド人の人力検閲か
そして愛を知り丸になった。
泣いた😢