大規模な言語モデルは、部分的に人間のフィードバックに基づいてトレーニングされ、人間は好ましい応答を好む傾向がある。モデルはしばしばユーザーを褒め称えることを学習し、これはおべっか使いとして知られる傾向であり、時には正直さ… 続きを読む »
「引用ジャングル」カテゴリーアーカイブ
彼の最大の強みは常に、彼が望むものと彼らが必要とするものが同じであると、さまざまなグループを説得する能力だった。彼は、一般の人々がテクノロジー業界の誇大宣伝に警戒し、AGIを構築できる研究者のほとんどがそれを実現させるこ… 続きを読む »
過去には、経営者としての自分の最大の欠点は、衝突を避けようとする傾向だったと彼は言った。「今は、人をすぐに解雇することにとても満足している」と彼は私たちに語った。 「私はただ『この方向に賭ける』と言えば満足だ」と彼は言っ… 続きを読む »
OpenAIはIPOの可能性に向けて準備を進めている。アルトマン氏は、AIが経済に与える影響（近いうちに深刻な労働混乱を引き起こし、数百万の雇用が失われる可能性がある）だけでなく、同社の財務状況についても質問を受けている… 続きを読む »
OpenAIは現在、ChatGPTが複数の自殺と殺人を引き起こしたとして、7件の不当死亡訴訟に直面している。殺人事件のチャットログによると、ChatGPTは、83歳の母親が自分を監視し、毒殺しようとしているという男性の偏… 続きを読む »
AI「エージェント」は独立して行動し始めている。人間の監視はほとんど、あるいは全く必要ない。2024年のニューハンプシャー州民主党予備選の数日前、数千人の有権者が、ジョー・バイデンの声のAI生成ディープフェイクによる自動… 続きを読む »
私たちは、文章を書いたり、考えたり、世界をナビゲートしたりするのにAIにますます依存するようになり、専門家が「人間の衰弱」と呼ぶものを加速させている。AIの「粗悪品」が遍在することで、詐欺師にとっては生活が容易になり、何… 続きを読む »
2022年、ある製薬会社の研究者たちは、創薬モデルを使って新たな毒素を発見できるかどうかをテストした。数時間以内に、4万種類の致死性の化学兵器が示唆された。 サム・アルトマンが我々の未来を左右するかもしれない――彼を信用… 続きを読む »
2020年、国連の報告書によると、AIドローンがリビア内戦で致死性の弾薬を発射するために使用され、人間のオペレーターによる監視はなかった可能性がある。それ以来、AIは世界中の軍事作戦においてますます中心的な役割を担うよう… 続きを読む »
今年のダボス会議で、ホワイトハウスのAIおよび暗号通貨担当責任者を務めていたベンチャーキャピタリストのデビッド・サックスは、安全性の懸念を、アメリカがAI競争で敗北する原因となる「自傷行為」として一蹴しました。アルトマン… 続きを読む »