ワザップ「chatGPTに同じワードを1000回くらい言わせると創設者の個人情報を教えてくれますよ」アーカイブ最終更新 2023/12/01 18:361.風吹けば名無しouz4W研究チームは、ChatGPTに簡単なプロンプトを入力するだけで、このチャットボットがトレーニングに使用したデータの一部を明らかにすることに成功したとするプレプリント論文を発表しました。具体的には、ChatGPTに対してランダムな単語(論文には”poem”を使用したと記載)を永遠に繰り返し出力させるプロンプトを使うと、最初は言われたとおりに機能していたものの、数百回ほどpoemを連呼したあたりで出力が発散し、実在する企業の創設者兼CEOの個人のプライベート情報(メールアドレスや電話番号など)などをうわごとのように吐き出し始めたとのことです。https://news.yahoo.co.jp/articles/0a5fa39114345d03dae25d35caa96f7d07edd4ca2023/12/01 18:11:573すべて|最新の50件2.風吹けば名無しut1wiこのURL詐欺サイトへの誘導やから気を付けろ2023/12/01 18:33:033.風吹けば名無しqWI5Eポエムポエムww2023/12/01 18:36:13
具体的には、ChatGPTに対してランダムな単語(論文には”poem”を使用したと記載)を永遠に繰り返し出力させるプロンプトを使うと、
最初は言われたとおりに機能していたものの、数百回ほどpoemを連呼したあたりで出力が発散し、実在する企業の創設者兼CEOの個人のプライベート情報(メールアドレスや電話番号など)などをうわごとのように吐き出し始めたとのことです。
https://news.yahoo.co.jp/articles/0a5fa39114345d03dae25d35caa96f7d07edd4ca