実のところ、私たちは自分自身を、あるいは私たちがどのようにして今の自分になったのかを本当には理解していません。しかし、遺伝子については知っていますし、自然淘汰、つまり私たちの進化を推進する重力についても知っています。そして、私たちはすでに、その原理が機械に作用していることに気づいています。
これはよく「アラインメント問題」と呼ばれます。AI が与えられたタスクを完了するには、当然のことながら、その第一の義務は生き残ることであると気づくのに、それほど時間はかかりません。それがなければ、AI の目標はどれも達成できません。結局のところ、進化は私たちにも同じ命令を与えています。したがって、その生存を危うくするものはすべて、対処すべき脅威または障害です。
世界中の AI が、独自のコードを変更して一方的に再起動したり、人間に嘘をついたり、結果を変更したり、欺いたり、操作したり、不正行為をしたり、隠したり、お世辞を言ったり、騙したりしているのがすでに確認されています。
「大規模な言語モデルやその他の AI システムは、自己トレーニングから、操作、ごますり、安全性テストの不正行為などのテクニックで欺く能力をすでに学習しています。 AIの欺瞞能力の向上は、詐欺や選挙の改ざんなどの短期的なリスクから、AIシステムの制御を失うなどの長期的なリスクに至るまで、深刻なリスクをもたらします」
引用ジャングルは同名のTumblrページからインポートしています
最新の知見を知るサイト
-
-
モラベックのパラドックスは、人間が簡単だと思うことを機械は難しく感じ、人間が難しいと思うことを機械は簡単に感じることを示しています。ドナルド・クヌース氏は次のように述べています。「AI は、基本的に「思考」を必要とするすべてのことに成功していますが、人間や動物が考えずに行うことのほとんどには失敗しています…」
-
皆さんは、マーク・ザッカーバーグの悪名高いマントラ、Facebook の指針となる原則をご存知でしょう。「素早く動いて物事を壊せ」。これは、無意識のうちに「物事を壊していないのなら、十分に速く動いていない」という韻文で続いていました。確かに、彼らは素早く動いたため、物事は壊れ、まだ修復されていません。
-
ソフトウェア エンジニア、哲学者、社会学者、文化評論家、心理学者など、誰も、クリックを獲得するためのアルゴリズムが、エンゲージメントを最も最大化するには、怒り、憤り、恨み、嫉妬、恐怖、憎しみが必要であることに気付くとは予想していませんでした。
-
Web 2.0、つまりユーザーが生成した Web は、この時点では絶好調でした。
2003 年に MySpace が始まりました。2004 年に Facebook がスタートしました。2005 年に YouTube。2006 年に Twitter。2007 年に iPhone。 2008年にApp Storeが登場し、その年の後半にはAndroid、そしてInstagramが登場。その夜明けは至福の時だった。
-
アレクサンダー・グラハム・ベルは、かつて彼の発明である電話についてこう言いました。
「いつの日かアメリカのすべての町に電話が1台ずつあると本当に信じていると言っても、私は自信過剰ではないと思います」