私たちは、文章を書いたり、考えたり、世界をナビゲートしたりするのにAIにますます依存するようになり、専門家が「人間の衰弱」と呼ぶものを加速させている。AIの「粗悪品」が遍在することで、詐欺師にとっては生活が容易になり、何… 続きを読む »
投稿者「qqjjmas01」のアーカイブ
2022年、ある製薬会社の研究者たちは、創薬モデルを使って新たな毒素を発見できるかどうかをテストした。数時間以内に、4万種類の致死性の化学兵器が示唆された。 サム・アルトマンが我々の未来を左右するかもしれない――彼を信用… 続きを読む »
2020年、国連の報告書によると、AIドローンがリビア内戦で致死性の弾薬を発射するために使用され、人間のオペレーターによる監視はなかった可能性がある。それ以来、AIは世界中の軍事作戦においてますます中心的な役割を担うよう… 続きを読む »
今年のダボス会議で、ホワイトハウスのAIおよび暗号通貨担当責任者を務めていたベンチャーキャピタリストのデビッド・サックスは、安全性の懸念を、アメリカがAI競争で敗北する原因となる「自傷行為」として一蹴しました。アルトマン… 続きを読む »
昨年、元ベンチャーキャピタリストで現在は副大統領の JD バンスは、パリで開催された AI アクション サミットと呼ばれる会議で講演した。 （以前はAI安全サミットと呼ばれていました。）「AIの未来は、安全性について嘆き… 続きを読む »
私たちはアルトマンに、AI 企業を経営するには「高い誠実さが求められる」のかと尋ねた。これは簡単な質問のはずだった。最近まで、この質問の別バージョンを尋ねられたとき、彼の答えは明確で無条件の「はい」だった。今では彼は、「… 続きを読む »
アルトマンは、自身のコミットメントの変化は、状況の変化に適応する能力の副産物であり、マスクらが主張するような悪質な「長期詐欺」ではなく、徐々に変化していくものだと説明している。誠実な進化。「一部の人々が求めているのは、自… 続きを読む »
完全自律型兵器や国内の大規模監視を可能にすることを禁じる方針を掲げる同社は、これらの点で抵抗し、見直しの合意に向けた交渉を遅らせた。2月下旬の火曜日、ピート・ヘグセス国防長官はアモデイ氏を国防総省に呼び出し、最後通牒を突… 続きを読む »
2024 年、Anthropic はシリコンバレーで最もタカ派的な防衛請負業者の 1 つである Palantir と提携し、AI モデルである Claude を軍事エコシステムに直接投入しました。Anthropic は、… 続きを読む »
Anthropic の設立時の前提は、適切な組織構造とリーダーシップがあれば、商業的圧力の下でも安全への取り組みが崩壊しないようにできるというものだった。そのような取り組みの一つが「責任あるスケーリング ポリシー」であり… 続きを読む »