Goodfire Researchを掘り下げれば掘り下げるほど、解釈可能性の分野が静かにAI(特に科学分野のAI)で最も興味深いフロンティアの一つになりつつあることに気づきます 彼らは昨年、DNA基盤モデルが種を内部的に埋め込み空間で組織し、実際の生命の進化の樹を反映するという核心的な考えを発表しました。 あるいは、モデルがDNA配列から系統発生を再発見した方法についてです。 彼らはEvolutionaryScaleが開発したDNAモデルであるEvo 2を研究し、以下のことを発見しました: +各種のゲノムはモデル内のベクター埋め込みにマッピングされます。 + これらの埋め込みは曲線の幾何構造(多様体)を形成します。 この多様体に沿った+距離は種間の実際の進化距離に対応します。 モデルの内部では: 類似種→密接な埋め込み 遠い種→遠い埋め込み そして、そこから現れる構造は本質的に生命の樹です。 これは、基礎モデルが科学的構造を自動的に再発見する画期的な何かを証明するかもしれません。

みんな、これが次のオープンクローかもしれない。 カーパシーはAIエージェントに自身のニューラルネット訓練コードを2日間最適化させました。700件の実験を自主的に実施しました。数ヶ月の手動調整で見逃していた20の改良点を見つけた。11%のパフォーマンス向上。 エージェントはバグズを見つけた。調整されたハイパーパラメータ。正則化が欠けていることを発見しました。先行の結果に基づいて独自の実験を計画しました。 カルパティは何をしたのか?「program.md のプログラミング」 この男性は20年間、まさにこのワークフローを手作業で行ってきたのです。テスラのオートパイロットを組み立てました。彼の反応は「ワイルド」でした。 なぜこれがOpenClawレベルなのでしょうか? なぜならOpenClawは一つのタスクを学ぶロボットではなかったからだ。それはエージェントが一連の行動を取るための枠組みでした 研究や実験自体でも同じことが起こりました。 カルパティはすでにマルチエージェント協力で第2ラウンドを始めている。彼は率直にこう言いました。「すべてのフロンティアラボはこれをやる。これが最終ボス戦だ。」 しかし、もっと視野を広げてみてください。彼の本当の洞察はこうです。「あなたが気にする、かつ評価が合理的に効率的な指標は、エージェントの群れによって自動調査できる。」 評価が比較的効率的に気になる指標は、エージェントスウォームによって自動調査できます。 広告費、サプライチェーン、エネルギーグリッド、新薬開発、取引戦略など...自動調査できるなら、自動調査されます。 今、群れのためのインフラが必要です。