このスレッドはアーカイブ化された過去ログです。
このスレッドはアーカイブ化された過去ログです。
人気のスレッド
難民
649
4172.1
6494172.1既婚女性3711841
3711841ニュー速VIP353219
353219ニュー速(嫌儲)15129.1
15129.1独身男性68281.5
68281.5難民75481.3
75481.3ニュー速(嫌儲)2174.7
2174.7ニュー速(嫌儲)68770.9
68770.9難民44470
44470ニュー速(嫌儲)10668.2
10668.2もっと見る
OpenAIのCEOであるサム・アルトマン氏が来日した際、直接会って話を聞く機会がありました。そこで彼は、Chat GPTだけでなく、敵対的なテストプログラムからの教訓を用いて、事実性、操縦性、ガードレールから外れることを排除することを心掛けるべく、GPT-4の調整を約6カ月間実施するプロセスを実施したと述べていました。
これは"人間らしさ"を実現するための調整です。専門の担当者を付けて「人間だったらこのように反応するだろう」というアノテーション（注1）を、相応のコストをかけて実施したということです。
注1：AI開発においてデータに情報を付加する作業のこと。アノテーションされたデータは教師データと呼ばれ、AIの機械学習に利用される。
これを私は、ファジーさの追求だと理解しました。人間は同じ質問を受けても、毎回、答えや表現が微妙に変化します。こうした人間が持つファジーさ、曖昧さみたいなものをGPT-4では追求したのだと思います。
ただ、企業の場合、ChatGPTをそのまま利用することはないと思います。セキュリティも不十分ですし、こうしたファジーさも企業には適さないからです。このためOpenAIでは、APIを提供して企業がカスタマイズできる仕組みを用意しています。
企業がLLMモデルを使うならセキュリティが堅牢で、企業で利用するためのアライメントが可能であることが条件でしょう。
GPT-4では、アラインメントを通じて人間らしさ、ファジーさ追求していますが、企業で利用する際にはこうしたファジーさはマイナスです。APIを使って必要なデータを学習させて、曖昧さがないようにアノテーションの精度を上げるべきだと思います。
なぜなら、企業でのAI活用はインパクトがすべてだからです。業務の生産性向上や顧客の満足度向上といったポジティブなインパクトがなければ、AIを導入する価値はありません。少なくとも、技術的に面白いから、他社がやっているからといった理由で導入すべきではないと思います。
ですからマッキンゼーとしては、セキュリティが担保されていて、しっかりとインパクト設計して本当に活用できる領域があるなら、ChatGPTやCohereなどの生成系AIを積極的に活用すべきだと考えています。
なお、先ほど企業にファジーさは適さないといいましたが、たとえばサポートなどで顧客を待たせないためにChatGPTを導入するのはありだと思います。多少ファジーであっても、回答が曖昧であること、正確な情報が必要な場合はオペレータにつなぐことが明示されていればよいのではないでしょうか。
やはりここでも、重要なことはプラスのインパクトがあるかないかです。あるのであれば、積極的に活用すべきです。
https://www.sbbit.jp/article/cont1/114388