自分たちが最高かつ最も倫理的な勝者だと考えている企業もありますが、これはSFやファンタジー映画でよく見られるように、常に大きな問題となり得ます。「大義のため」という哲学は、物語の中で悪役が用いる典型的な手法です。 AIが… 続きを読む »
「引用ジャングル」カテゴリーアーカイブ
OpenAIが現在最も力を入れているマーケティング戦略の一つは、「Anthropicは最も強力なAIをエリート層だけの手に収めようとしているが、我々はそれを一般の人々に提供したい」というものです。 AIが危険すぎると判断… 続きを読む »
銀行システムや政府のウェブサイトなど、私たちが利用するグローバルインフラの高度な脆弱性を検出できるシステムが、悪意のある人物に悪用される可能性があるとしたら、それは本当にまずいことだ。もしそれが悪者の手に渡ったら、確かに… 続きを読む »
この件で特に奇妙なのは、規制を最も強く求め、最も警鐘を鳴らし、最も悲観的な企業であるのが、Anthropic社自身であるということだ。Anthropic社の共同創設者の一人であるジャック・クラーク氏は最近、ある調査結果を… 続きを読む »
次はどうなるのでしょうか？一般市民の気持ちを忘れないことが重要です。なぜなら、結局のところ、AIが本当に影響を与えているのは一般市民だからです。反AIポピュリズムが高まり、人々が不満を抱いているのは事実です。データセンタ… 続きを読む »
もう一つの問題は、トランプ政権がAIをどのように規制するかについて明確な方針を持っておらず、トランプ大統領が様々な方向に引っ張られていることだ。時には規制を強化する必要があると感じ、時には規制を緩和する必要があると考えて… 続きを読む »
90分の最後通牒だった。そして彼らは「明るみに出たこの脱獄をどうにかして解決する必要がある」と言った。アントロピックは最初の電話から15分以内にトランプ政権に電話をかけ、詳細を尋ねた。「よし、これについて話そう。君たちが… 続きを読む »
関係者によると、先週の出来事はだいたい次のような流れだったそうです。先週半ば、Anthropic社はAmazonの研究者が行った調査結果を知りました。彼らは潜在的な脱獄方法を発見しており、Anthropic社はそれを非常… 続きを読む »
Fableはセキュリティガードレールを備えたMythosです。最初にリリースされたとき、論争の波がありましたよね？AIとセキュリティの研究者は、そのガードレールが実際にはFableが何ができるかを研究することを妨げている… 続きを読む »
Anthropic は最初の公式 Mythos である Mythos 5 をリリースしただけでなく (以前は Mythos Preview だったので、5 に直接飛んでいます)、同じ日に Mythos クラス モデルの最… 続きを読む »