引用ジャングルは同名のTumblrページからインポートしています

最新の知見を知るサイト

  • ある年にAがBの巣を手伝った場合、翌年にはBがAの巣を支援する。こうした相互的な協力(互恵的利他主義)が何年にもわたって続いていたのです。

  • 「家に帰ってきたらもやしをすぐ水に浸ける」こと。とくに夏場は、買った次の日に臭くなってしまう場合もあるため、こうするだけでプラス3〜4日長持ちするのだとか。

  • トークンは単語の断片と考えることができます。APIがリクエストを処理する前に、入力はトークンに分割されます。これらのトークンは単語の始まりや終わりで正確に分割されるわけではなく、末尾のスペースやサブワードが含まれることもあります。トークンの長さを理解するための、役立つ経験則をいくつかご紹介します。

    ・1トークン = 英語で4文字

    ・1トークン ~= ¾語

    ・100トークン ~= 75語

    または

    ・1~2文 ~= 30トークン

    ・1段落あたり100トークン

    ・1,500語 ~= 2048トークン

    トークンがどのように積み重なるかについての追加コンテキストを取得するには、次のことを考慮してください。

    ・ウェイン・グレツキーの名言「打たないシュートは100%外れる」には11個のトークンが含まれています。

    ・OpenAI の憲章には 476 個のトークンが含まれています。

    ・アメリカ独立宣言の写しには 1,695 個のトークンが含まれています。

    単語をトークンに分割する方法も言語によって異なります。例えば、「Cómo estás」(スペイン語で「お元気ですか」)は5つのトークン(10文字)で構成されます。トークンと文字の比率が高いと、英語以外の言語でAPIを実装する際にコストが高くなる可能性があります。

  • 私たちはRoo Codeをフォークしました。Roo Code自体はClineのフォークでした。ClineはOpen Routerのリーダーボードで最も人気のあるAIコーディングエージェントです。もちろん、フォークは最高の賛辞です。Roo Code(そしてClineも)は素晴らしいと思っています!

    つまり、初日の時点では、私たちの機能セットはRoo Codeの機能セットと全く同じだったのです。Cline自体は既に分岐しており、大部分は重複しているものの、それでもわずかに異なる機能セットを持っていました。

    数学には「スーパーセット」という概念があります。これは、より小さな集合を完全に包含し、さらにそれ以上のものを包含することを意味します。Kilo Codeは既にRoo Codeのスーパーセットでした(全く同じ機能を持っていたため)。そこで、Clineのスーパーセットにもなることを決めました。そのために、Clineと異なるいくつかの機能を移植しました。元々同じコードベースだったため、これは比較的容易に実現できました。また、Roo Codeのコードを継続的にマージすることで、Roo Codeのスーパーセットであることも維持しています。

    つまり、Kilo Code は現在、Cline と Roo Code の両方の機能を備えたスーパーセットです。そして、私たちはこの状態を維持していくつもりです。さらに、独自の機能も追加し続けていきます。

    Kilo Code をNext.js 、 Roo CodeをReact 、あるいは Kilo Code をNuxt 、 Cline をVue.jsとして考えてみてください。

  • ・スティーブ・ジョブズはパブロ・ピカソの名言を引用してこう言いました。

    「 『良い芸術家は模倣し、偉大な芸術家は盗む』。そして私たちアップルは、偉大なアイデアを盗むことを常に恥じることなく行ってきました」

    ・実際、AppleがグラフィカルユーザーインターフェースのアイデアをゼロックスPARC研究グループから盗んだことは有名です。そしてその後、MicrosoftがAppleから盗みました。今や、この2社は世界最大の企業です!

    ・ケルシー・ハイタワー氏はこのジョークを「優秀な開発者はコピーする。偉大な開発者は貼り付ける」と書き換えました。

    ・そしてビジネスの世界では、これは今では(より寛大に)「ファストフォロー」戦略と呼ばれています。

    多くの人にとって、コピーや盗みは下品で汚らしく、まるで正しくないことのように聞こえます。まるで、頭のいい友達の答えをコピーして試験でカンニングをしているような気分です。

    しかし、オープンソースという文脈で行われると、感覚は変わります。つまり、自分の会社の利益のためではなく、コミュニティ全体の利益のためにやっているということです。

    結局のところ、私たちは他人が私たちから盗み返すことを可能にし、さらには奨励してしまうことになるのです!

  • アンディ・グローブ氏はこう言った。

    「マネージャーとしてのあなたの成果は、あなたの組織の成果とあなたが影響を与える人々の成果の合計です」

  • LLMプロバイダーはコンテキストウィンドウが大きくなるにつれて料金を高く設定します。例えば、Googleはコンテキストサイズが20万トークン未満の場合、100万トークンあたり1.25ドルを請求します。コンテキストサイズが20万トークンを超えると、料金は2.5ドル(なんと2倍!)にまで上がります。

  • Cline は、コンテキスト ウィンドウの 50% を超えると (例: Claude の 3.7 Sonnet 200k コンテキスト ウィンドウで 100k を超えるトークンを使用すると) LLM のパフォーマンスが低下する可能性があると繰り返し述べています。