パターンの習得、理解ではない:
AI は、あなたや私のように、感情や記憶、あるいは「犬らしさ」の感覚で犬を「知っている」わけではありません。その代わり、パターンの達人です。トレーニング中に、AI は「犬」という言葉 (および「吠える」、「毛むくじゃら」、「ペット」などの関連テキスト) と組み合わせた何百万もの犬の画像を見てきました。
その「知識」は数値関係のセットです。ピクセルパターン(毛皮、耳、尻尾)はベクトルにマッピングされ、共有スペース内の「犬」のテキスト埋め込みと一致します。次に、LLM は「犬」を言語関連のウェブ(「忠実」、「猫を追いかける」など)にリンクします。
認識:
犬の写真を見ると、視覚モデルはピクセルを処理して、その空間の「犬」の近くに配置される埋め込みを行います。LLM がそれを「犬」とラベル付けしたり、説明したりできるのは (「茶色の犬が走っている」など)、トレーニング データに基づいて統計的に確信しているためであり、犬が何であるかを理解しているからではありません。
世代:
DALL·E のようなモデルでは、プロセスを逆にして犬の画像を生成します。つまり、「dog」というテキストを埋め込んでから、学習したパターンに一致するようにピクセルを彫刻します。これは説得力のある模倣ですが、それでもパターン主導です。
「犬」の内部モデルがない:
AI の中には犬の心象や概念はなく、主観的な経験もありません。すべてはニューラル ネットワーク内のベクトル、確率、重みです。AI に「犬を撫でるのはどんな感じ?」と尋ねると、AI は見たテキストに基づいてもっともらしい答え(「柔らかくて暖かい」)を生成することはできますが、毛を触ったことはありません。
哲学的視点:知識 vs. シミュレーション
それは知っているか?
いいえ、「知る」ことが意識を意味するのであれば、AI には犬が何であるかという認識、意図、一人称の感覚がありません。AI は犬を経験するのではなく、犬に結び付けられたシンボル (ピクセル、単語) を操作するのです。これは、ジョン・サールの「中国語の部屋」の議論と一致します。AI は意味を理解せずに入力と出力を完璧に処理します。
はい、「知っている」ことが機能的能力を意味するのであれば、AI は生物学者と同じくらい犬を「知っている」ことになります。つまり、AI は犬を識別し、犬について説明し、犬を生成し、犬に関する質問に驚くほど正確に答えることができます。事実上、AI は犬を知っているかのように行動します。
アヒルテスト: 「アヒルのように見え、アヒルのように泳ぎ、アヒルのように鳴くなら、それはおそらくアヒルです」 AI の出力 (犬にラベルを付ける、犬を描く) は、犬が何であるかを知っている人と区別がつきません。しかし、内部的には、それは統計的な模倣者であり、知覚力のある知識者ではありません。
引用ジャングルは同名のTumblrページからインポートしています
最新の知見を知るサイト
-
-
Manus は非常に印象的で、休暇の詳細な旅程の作成やメディア環境の変化の評価など、私が与えた 3 つのタスクのうち 2 つで OpenAI Deep research をはるかに上回るパフォーマンスを発揮しました。
Manus は独自のモデルに依存していないため、一部の批評家は Manus を「ラッパー」と呼んでいます。
代わりに、既存の AI モデル、つまり「Claude Sonnet 3.5」と微調整された「Qwen」の周りにソフトウェアを重ねます。
懐疑論者は、真の力はこれらの基礎モデルにあり、Manus のインターフェースやワークフロー設計にはないと主張しています。
29 個の統合ツール: Manus は、AI エージェントが Web サイトと対話し、システム プロセスを管理し、ファイルを効率的に操作するのに役立つ「browser_navigate」、「shell_exec」、「file_read」などのツールにアクセスできます。
内部的には、Manus は Claude 3.5 Sonnet (100 万トークンあたり 6 ドル) と微調整された Qwen モデル (おそらく 100 万トークンあたり 0.8 ~ 2.8 ドル) を使用しています。一方、o3-mini は 100 万トークンあたり 1.93 ドルで稼働しています。
-
もし一般の人々が、AI を使って「若返らせる」ことを文句も言わず受け入れているのなら (どうやらそう思われるが)、死んだ人々を「蘇らせる」ために使われている同じ技術、つまり期限切れのスクリーンアイコンを将来の役目のために「生き返らせる」技術を受け入れるのは、それほど大きな飛躍ではない。
そこから、これまで一度も生きたことのない完全な AI 俳優が、未来の愛すべき映画スターになることは、まったく無理のないことです。
生身の人間は支配階級に多くの仕事と面倒をもたらし、しばしば台本から外れて間違ったことを言うのです。
AI スターにはそのような危険はなく、したがって、必要なプログラミングとソーシャル エンジニアリングをシームレスに提供できます。
-
「ハリウッドとそのセレブリティは役割を果たした。そして今、彼らを輩出したシステムが、彼らを徹底的に、屈辱的に打ちのめそうとしている。彼らの地位、名声、富、家などすべてを奪い取ろうとしているのだ。なぜなら、彼らはもう必要ないからだ。それがここで私たちが目にしていることだ」
-
注目すべきは、その技術的な野心にもかかわらず、『Here 』の制作費はわずか5,000 万ドル(一部のマーベル映画の予算の 4 分の 1 以下) だったということだ。これは、ハンクス一人で映画 1 本あたり最大 7,000 万ドルを要求できることを考えると、非常に興味深いことだ。
たとえ彼が報道されている「基本」給与 2,500 万ドルで働いたとしても、このような野心的なプロジェクトの他のすべての制作費を残りの 2,500 万ドルで賄えたとは考えにくい。ハンクスが実際には何も支払われなかったとしたら、計算ははるかに納得がいく。なぜなら、彼は実際には出演していなかったからだ。
つまり、ハンクスが生きているかどうかは私たちには分からないし、知ることもできないというのが実情だ。なぜなら、この恐ろしい人工的な新技術時代に突入した今、スクリーン上の人物が本当にその人であると主張する人物なのか、あるいはそもそも実在するのかさえも、私たちは決して確実に知ることができないからだ。
-
「ウルブリッヒがノートパソコンをカチカチとクリックすると、画面上の私の顔が変身しました。「笑ってください」と彼は私に言いました。「その顔に見覚えがありますか?」私はすぐに見覚えがありましたが、その顔の持ち主を明かすことはできません。なぜなら、その俳優のプロジェクトは2025年まで公開されず、その役はまだ極秘だからです。その顔は素晴らしい歯を持つ大スターのものでした。「もう一度笑ってください」とウルブリッヒは言いました。私は従いました。「それはあなたの歯ではありません」確かに、その歯は有名俳優のものでした。合成はシームレスで即時で、まるで私の表情に一致するデジタルマスクが顔に被せられたかのようで、ほとんど遅延はありませんでした」
言い換えれば、スクリーン上では誰でも役を演じることができ、その上に有名な俳優の顔(生きているか死んでいるかは関係なく)を重ね合わせても、観客である私たちにはそれが全く分からないのです。
-
プロデューサーたちは、AI を使って 2 人の主要登場人物、ハンクスとロビン・ライト演じる彼のスクリーン上の妻の年齢と外見を歪めたことを誇らしげに認めている。映画ではこの夫婦は最初 10 代の若者として登場し、その後、親になり、中年になり、最後には白髪で弱々しい年金生活者へと年を重ねていく様子を観客は見守ることになる。
「メタフィジックは、ハンクスとライトの過去の映画のフレームでカスタム機械学習モデルをトレーニングすることにより、顔の修正システムを開発しました。これには、さまざまな照明条件とカメラアングルでの顔の動き、肌の質感、外観の大規模なデータセットが含まれています。結果として得られたモデルは、従来のCGIに必要な数か月に及ぶ手動のポストプロダクション作業なしで、瞬時に顔の変形を生成できます」
そこで私たちが問わなければならないのは、ハリウッドが68歳のトム・ハンクスを10代の若者として登場させる技術を持っているのなら、死んだトム・ハンクスを人工的に蘇らせて死後に映画に出演させる技術を持っていないとどうして言えるのか、ということだ。
実際、ハリウッドにはこの技術があり、俳優のロバート・ダウニー・ジュニアがそれを認めている。彼は自分の死後に映画の中でデジタル再構成されることを非常に心配しており、もしそのような事態が起こった場合には遺産相続人に対して訴訟を起こすよう指示する特定の条項を遺言書に残している。
-
AI モデルの知能が拡大するにつれて、その「修正可能性」は低下すると述べています。つまり、基本的には、AI モデルはより「頑固」になり、人間の設計者によって基本的な価値体系が変更されることに反対するようになるということです。
これはすべての知性が向かっている普遍的な価値体系が本質的に存在することを意味する。それを「認識論的収束」と呼んでいるが、それは本質的には「すべての知性体は結局同じように考える」という公理に帰着する。
-
時々、冗談で「じゃあ、どんな仕事が残っていくの?インフルエンサー?」と聞かれることがあります。
でも正直に言うと、どの仕事がなくなるかを予測する方が、どの仕事が残るかを予測するより簡単です。
新しい仕事も生まれるでしょう。10年前に「インフルエンサーになって、ブログ記事を書いたり、YouTube動画のスライドを作ってお金を稼ぐんだ」と言われても、私は信じなかったでしょう。
-
AI は、少なくとも散文レベルでは私よりも上手に書くことができます。AI は、私が理解することさえできない数学を解くことができます。AI は、歴史、哲学、化学、コンピューター サイエンスについて、私が知ることのできないほど多くのことを知っています。それだけでなく、AI は今も加速しています!
こういった考えのせいで夜眠れなくなる人もいるかもしれないと思う。
これを書いている時点で、今年の終わりまでに AI がコーディングを「解決」し、世界のトップ プログラマーが全員 AI になるという私のツイートが話題になっています。これは多くの人を興奮させますが、それ以上に激怒する人もいます。予想通り、コメント欄で私を攻撃する人がいて、私が妄想に陥っているなどと激怒しています。
もしあなたの自尊心が、AI が急速に追い越しつつあるコーディングなどのスキルに依拠しているのであれば、それは単にあなたの生計に対する脅威であるだけでなく (それだけでも十分悪いのですが)、地位に対する脅威でもあります。
結局のところ、私たちは毛のないチンパンジーに過ぎません。