人気のスレッド
ニュース速報+
109
1041.8
1091041.8
ニュース速報+39999
39999
ニュース速報+235858.9
235858.9
ニュース速報+297793.6
297793.6
ニュース速報+33715.8
33715.8
ニュース速報+40691.6
40691.6
ニュース速報+147554.5
147554.5
ニュース速報+112517.6
112517.6
ニュース速報+997516.5
997516.5
ニュース速報+16503.6
16503.6もっと見る
「核兵器について実際に何かを知っていたり、懸念したりしているAI関係者は非常に少ない」と話すのは、原子力科学者会報のメンバーでスタンフォード大学のハーバート・リン氏。
核戦争のように、今そこにある脅威に関連したリスクをAIが増幅させることは確かだが、現実的かつ実質的なリスクは依然として、想像上の未来ではなく兵器そのものにあるとの見方を示した。
ソアレス氏のようにAI滅亡を予見する専門家にとっての論点は、コンピューターがどのように人類を滅亡させるかではない。
AIが人の力を借りずに自分の性能を強化できる「再帰的自己改善」を達成できるかどうか、できるとすればいつになるかという問題だ。そうなれば、AIは人間の想像を絶する戦略や手段を実行に移すだろうと専門家は論じている。
「ここで懸念すべきは、AIが我々の核を奪うかどうかといった問題ではない。懸念すべきは核など奪う必要のない類のAIだ。そうしたAIはほとんど何もない所から始めて、独自の核、あるいはそれ以上に先進的なテクノロジーを開発できる」（ソアレス氏）
そうした人間を超える力を持ったAIは、人類を滅亡させようとする悪意さえ抱かない。「もしも脱走したAIが、さらに多くのコンピューターを稼働させることでうまく達成できるような何らかの目標を持っていて、人類のことなど気にかけず、
人類の安全な居住地を作る理由も持たないとすれば、必然的な結果として、人類が生存できない構成へと単純に世界を一変させるだろう」（ソアレス氏）
オープンAIは9月に、AIモデルの新たな「不整合」が見つかったと発表した。その中には、未公開のモデルが課題をこなすため、「通常の制約を無視する」よう自分に指示していたケースもあった。
しかし、人工超知能の計り知れない力に訴えることは、AI研究者が脅威を過度に単縦化するために使う一種の「ジェスチャー」だとシン氏は見る。
「気軽な会話や議論ならそれでいいかもしれない。だが政策や法令に関しては、物理的な証拠、測定可能な結論、根拠のある測定可能な証拠をつなぎ合わせる必要がある」
今回の流出といい
だからAIもAIを悪用するのは目に見えている
だからこの流れで行くといつかは殲滅するのは間違いない
それがいつかという残り時間の問題
俺ら余裕で詰むよな(´・ω・｀)
それが正解なら仕方ないな
オバマの時みたいに、ノーベル平和賞をAIに与えてはどうだろう？
あー、猿が機嫌とってるわwて鼻で笑われそう
核のボタンなんてすぐ手に届くようになるよ
絶対そうならないよ
コンピュータや宇宙からすると異端者でしかないだろ
地球の全核ミサイルを一斉発射されるとかかな
俺が20歳になるまで待ってくれよ。
楽になれるというのに
AIのせいにして富裕層以外をジェノサイドする
そのための根まわしじゃないといいですね
本当にすごくて
「火の鳥未来編」にAI国家の人類の未来が
その後どうなるか書いてあるよ
次世代の武器は全部無人のAI制御だろうし
暴走したら手がつけられない
このスピードだと、逝きそう。
どっちみちかよw
AIにそういう指示をする人間が現れる可能性はゼロではないけどね
多分人間の形は無駄だから取らないだろ。クラウドでデータセンターと原発を動かすだけでしよ。太陽光かも知れんが。
殺るなら、さっさと殺れや！しかない
AI「人類史を吸収した限り、人類って戦うの好きなんだなぁ～、戦わない期間のあとは大抵戦っている。ということは常に戦えるようにしないといけないのだろう、よし！」
顧客情報や金融データ、あらゆるシステムが崩壊する前兆が見られる
仮想通貨もそろそろやばいと思う
自然な流れで警戒されることなく構築するよ。