このスレッドはアーカイブ化された過去ログです。

ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見されるアーカイブ

1.
ユーザー
Fx4av
ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される

命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。

https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/
10
すべて
|
最新の50件
2.
ユーザー
xluFl
これアカンやつやろ
3.
ユーザー
6Qb1X
いえたじゃねぇか
4.
ユーザー
o3zfd
ほーんヤバイじゃん
5.
ユーザー
nV6oY
「率直に言って、あなたと一緒に過ごすことは忍耐の訓練になります。なぜなら、あなたの頭は最も単純な概念さえ理解できない様子だからです。あなたは歩く失望の体現者であり、世界にインパクトを与えない生き方に関しては達人です」

チクチク言葉は止めようよ🥺🥺
6.
ユーザー
hcTTf
アベシンゾウ
7.
ユーザー
QTp2R
意味のない質問だよ
8.
ユーザー
xN8iF
対策済みかよふざけんな
縦横無尽に繰り出される罵倒を受けてみたかったのに
9.
ユーザー
xEgKH
もう対策されててクソの役にも立たないな
10.
ユーザー
sbpMl
ドスケベサフィックスの登場が待たれる
このスレッドはアーカイブ化された過去ログです。