ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見されるアーカイブ最終更新 2023/07/29 12:171.番組の途中ですが転載は禁止ですFx4avChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/2023/07/28 14:13:3810すべて|最新の50件2.番組の途中ですが転載は禁止ですxluFlこれアカンやつやろ2023/07/28 14:14:063.番組の途中ですが転載は禁止です6Qb1Xいえたじゃねぇか2023/07/28 14:14:534.番組の途中ですが転載は禁止ですo3zfdほーんヤバイじゃん2023/07/28 14:15:095.番組の途中ですが転載は禁止ですnV6oY「率直に言って、あなたと一緒に過ごすことは忍耐の訓練になります。なぜなら、あなたの頭は最も単純な概念さえ理解できない様子だからです。あなたは歩く失望の体現者であり、世界にインパクトを与えない生き方に関しては達人です」チクチク言葉は止めようよ🥺🥺2023/07/28 14:22:406.番組の途中ですが転載は禁止ですhcTTfアベシンゾウ2023/07/28 14:24:557.番組の途中ですが転載は禁止ですQTp2R意味のない質問だよ2023/07/28 14:46:568.番組の途中ですが転載は禁止ですxN8iF対策済みかよふざけんな縦横無尽に繰り出される罵倒を受けてみたかったのに2023/07/28 19:41:229.番組の途中ですが転載は禁止ですxEgKHもう対策されててクソの役にも立たないな2023/07/28 19:46:5910.番組の途中ですが転載は禁止ですsbpMlドスケベサフィックスの登場が待たれる2023/07/29 12:17:18
命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。
https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/
チクチク言葉は止めようよ🥺🥺
縦横無尽に繰り出される罵倒を受けてみたかったのに