Viv（@Vtrivedy10）のスレッド

「ギザギザの知性を形作る」ためのエンジニアリングハーネスのこの概念は、今日のシステムから知性を引き出すための私のお気に入りのメンタルモデルの一つです。 事前訓練から強化学習、ハーネス設計まで、すべての段階はショゴスの行動を形作る練習である。 これらのうち、最もアクセスしやすいシェーピング行動は、エージェント/ハーネス設計にあります。プロンプト設計、コンテキストエンジニアリング、ツール設計などは、トレーニング設定から特定の次元を増幅するレバーです（例：トレーニング後に見られるフォーマットや問題の定式化に一致させる）か、モデルを束縛して、その知能（例：低コンテキストの使用）が発揮される高い知能で動作するようにするレバーです。 私たちは、成功のためのこの信じられないほど知的なシステムを、その周りの世界を設計することによって構築しようとしています。現実世界で人々が成功するのを助けるために、同じことをしようとしているのは興味深いことです。