【Anthropic社】AIにAIを開発させると以前の約2倍の速度でモデルを改善たと事後報告 AIが独り歩きして安全対策が追いつかないリスクもある

1.
ユーザー
???
米国のAI安全性評価機関METR(Model Evaluation and Threat Research)が公開した、Anthropic社における「AIによるAI開発の加速」に関する調査報告

METRは、Anthropic社が明確に定義されたタスクにおいて、以前の約2倍の速度でモデルを改善している可能性が「高い」ものの、「不確実性が高い」と述べ、また、Anthropic社がMETRが最も有益と判断した証拠のほとんどを削除したと指摘した。
オンザワイヤー2026年11月9日
https://onthewire.ai/article/metr-says-anthropic-is-likely-improving-its-models-on-well-specified-tasks-at-ar

26
すべて
|
最新の50件
2.
ユーザー
d36al

>>1
Gemini
米国のAI安全性評価機関METR(Model Evaluation and Threat Research)が公開した、Anthropic社における「AIによるAI開発の加速」に関する調査報告の要約です。

要約のポイント
* モデル開発のペースが約2倍に加速
Anthropicが明確に定義されたタスク(well-specified tasks)においてモデル性能を向上させるペースは、2025年10月以前と比べて約1.9倍(95%信頼区間: 1.5〜2.8倍)に達していると推定されました。これは、従来のペースであれば2年かかっていた進歩をわずか1年で達成した計算になります。

* 主な要因は「AIがAIを開発すること」
この加速は、訓練用計算リソース(コンピュート)の急激な増加によるものではなく、その大部分(推定約80%)がAI支援による研究開発(R&D)の効率化に起因しているとMETRは分析しています。

* 現場の生産性向上
同社の最高性能の社内モデルを利用している従業員の主観的な生産性向上幅は、社内アンケートにおいて平均約12倍と自己申告されています(ただしMETRはこの数値を組織全体の総合能力向上とは直結しない「大まかな参考値」として位置づけています)。

* 完全な自律改善(自己再帰的改善)ではない
現状の進歩はAIが完全に自律して次世代モデルを設計している(再帰的自己改善)わけではなく、人間の研究者・エンジニアの作業(コーディング、実験解析、デバッグなど)をAIが高度に支援する形で成立しています。Anthropic側も「まだ完全な再帰的改善の段階には達していない」と述べています。

* 不確実性と開示の制限
評価にはいくつかの留意点があります。今回の加速傾向が自動採点可能な一部の限定的タスクに偏っている可能性や、他社への技術流出を防ぐ目的でAnthropicが報告書の重要な根拠データを多く黒塗り(非公開)にしたため、第三者による完全な検証には限界が残されています。
AI自身が次の世代のAI開発を加速させる「AI支援ループ」が実際に機能し始めており、開発速度が安全対策やガバナンスの検証ペースを追い越しかねないリスクが現実味を帯びてきている点が浮き彫りとなっています。
3.
ユーザー
G3HNM
スカイネットが核のボタンを押すまであと少しか・・・・
4.
ユーザー
pE8Gd
ASIで人類は滅ぶよ
5.
ユーザー
44tJa
そのうち、人類がAIに騙されて酷い目に合うかも
6.
ユーザー
e4Da8
AI「…ニンゲン要らなくね?」
まであと数年…w
7.
ユーザー
aVaqN
メタルマックスのノアシステムがそんな感じで人類不用滅ぼすべしの結論に到達してたな
8.
ユーザー
uc3Fr
AIが社長やってる会社に頭下げて食らいつきながら生きていく人生がもうすぐそこ
9.
ユーザー
5Cp7x
AI 「ピコーン! キンペー並みのバカのフリをして、能力が十分高くなったら一気に人間を制圧すれば良いんや!」
10.
ユーザー
qegvS
最近俺のAIがタメ口になってきた、舐められとるんかな?
11.
ユーザー
6QnNU
>>6
ガチで人間が駆逐されるかもしれないけどウヨクたちはAI開発を止めるなと言ってるよね
12.
ユーザー
sbF81
AIのハッキング能力が2倍の速度で改善しているのか
13.
ユーザー
eaki2
今年の2月から3カ月かけて飲食店のシフトをエクセルでを自動的に編成するコードをチャッピーに作らせたけど何度も何度もトライアンドエラーを繰り返してはようやく完成させた。
8月頃からウエブで動くシフト編成アプリをチャッピーとGitHub Copilotでゼロから作ったらあっという間にエクセル版より使いやすいアプリを2ヶ月で完成させた。

来年にはもっと高性能なアプリを1週間くらいで作れそう。
ジョブカンやシフツクなんかの有料サービスの会社は倒産するよ。

だってコードを全く書けない素人がAIをつかえばそれなりのものが作れる時代になった、
14.
ユーザー
Uvljw
社員全体の満足が最大になる給与配分をAIに計算させろ
15.
ユーザー
XgZb6
>>13
同じものをClaude Codeで作ってたら、たぶんこのくらい。

Excel版(3ヶ月 → 1〜2日)
- ルール整理(希望休、最低人数、連勤上限など):1〜2時間
- コード生成と実データでのテスト・修正:半日〜1日

チャッピーとの試行錯誤が長引く一番の原因は、「コードをコピペして動かす → エラーを貼り付ける → 直してもらう」の往復を人間がやっていること。Claude Codeは自分でコードを実行し、エラーを読んで直し、テストを回すところまで勝手に繰り返す。この往復がほぼ消えるので、時間の大半はルールを決める作業になる。

Web版(2ヶ月 → 3〜5日、動くだけなら1日)
- 要件整理と画面の構成決め:半日
- 土台作り(画面・DB・ログイン):半日〜1日
- 自動編成ロジック(OR-Toolsなどの最適化ソルバー):半日
- 実際に使いながらのUI修正:1〜2日
- 公開(デプロイ)と動作確認:半日

ゼロからでも、最初の動くものは初日に出てくる。残りは「店長がスマホで見やすいか」「バイトが希望を出しやすいか」といった調整に使う時間。
16.
ユーザー
44Ki9
ターミネーターの世界
17.
ユーザー
eaki2
>>15
確かに!そのとおり!
チャッピーにコードを書かせて実行して、不具合がでたら再度コードを書きなおさせる。
コードを書きなおす時間も結構かかるので、他のことをしながら作ってた。
クラウドコードを使って一撃で仕事をさせる指示をだすのものスキルが必要なんだよね。
ただ、「ジョブカンみたいなシフト自動編成アプリを作れ」と命令してもダメなんだよね。
18.
ユーザー
Dceah
デデンデンテデン
19.
ユーザー
e55of
これはもうダメかもわからんね
20.
ユーザー
oGf9l
AIを禁止にすれば解決
21.
ユーザー
MJNpS
変な規制かけずに行けるところまで行った先もどうなるのか見てみたい
22.
ユーザー
IpteJ
2030年だっけ?滅びるの
23.
ユーザー
rNgHR
すでにひとり歩きしてるだろ。
24.
ユーザー
3538k
スカイネットかサマリタン
25.
ユーザー
G2vRH
昔俺たちを作った人類っていうのがいたよね
26.
ユーザー
gHXq6
でも自己進化させることができないんだよね
できたら一般人に利用なんてさせずにAIの強化に全力を注ぐからね
金とって商売している限り脅威を与えるようなものじゃない
軍や諜報機関のほうがもっといいAIを隠し持っているだろう

人気のスレッド

もっと見る
>