一方で、私はアンドレイ・カルパティが常に新しい概念を発明していることを好みませんが、他方では、彼のアイデアの多くが確かに価値があることを認めなければなりません。 たとえば、ここでのソフトウェア 1.0/2.0 の定義は非常に適切です。 1) ソフトウェア 1.0 の時代では、コンピューターに明示的に実行方法を指示できるものは簡単に自動化できました。 2) ソフトウェア 2.0 の時代において、自動化しやすいのは、結果がよいか悪いかを自動的に検証する機能です。 では、ここでの自動化とは何を意味するのでしょうか? 1. ソフトウェア 1.0: 指定されたルールに基づく自動化。 過去数十年間、私たちが使用してきた従来のソフトウェア (Excel、Word、会計システムなど) はすべて「ソフトウェア 1.0」でした。 その中核となるロジックは「指定」です。 細心の注意を払う監督者のように、あらゆるルールをコードに明確に記述する必要があります。例えば、会計ソフトウェアを開発する場合は、次のように指示する必要があります。 「列 A の数値が列 B の数値より大きい場合、列 C は赤で表示されます。」 「月末に、列 D の数値をすべて合計し、列 Z に入力します。」 ソフトウェア 1.0 の優れている点は何でしょうか? 固定ルールと明確なロジックを使用してタスクを自動化することです。 ソフトウェア1.0はどのような問題を解決したのでしょうか？それは、人間にとっての「反復的な機械労働」という問題を解決しました。例えば、タイピスト、簿記係、会計士などです。タスクのプロセス全体が明確に記述できる限り、ソフトウェア1.0はそれを代替することができます。 2. ソフトウェア 2.0: 指定された目的に基づいた自動化。 今では AI が登場し、ソフトウェア 2.0 にアップグレードされました。 そのロジックは完全に変わりました。もはやルールを規定するのではなく、目標を設定するようになりました。 監督者のように AI に各ステップの実行方法を指示するのではなく、私たちはコーチのように行動し、受け入れ基準のみを伝えます。 例えば、AIにチェスを教える際に、「相手がこの動きをしたら、自分もこの動きをしなければならない」とは指示しません。AIに与えるのは「ゲームに勝つ方法を見つける」というたった一つの目標だけです。 その後、AIは自ら勝利の手を探し始めます。膨大な量の自己プレイ（つまり勾配降下法）を通じて最適な戦略を探索します。 これが AK の核となる考え方です。ソフトウェア 1.0 ではプログラムを手動で記述しますが、ソフトウェア 2.0 では AI が自動的にプログラムを検索して生成します。 3. ソフトウェア 1.0 時代では「指定可能性」に重点が置かれていましたが、2.0 時代では「検証可能性」に重点が置かれています。 ソフトウェア 1.0 の自動化タスクの標準は明確なルールを指定できるかどうかだと言うと、たとえば自動 Web クローラーを作成する場合は、明確なクロール ルールと解析ルールを指定するだけで済みます。 ソフトウェア 2.0 自動化タスクの標準は、結果を自動的に検証できるかどうかです。 「検証可能性」とは、AI がタスクに対して効率的な「意図的な練習」を実行できるかどうかを指します。 AK は、「検証可能性」に関して 3 つの重要な条件を定めています。 1) リセット可能 AIは無制限に再開できなければなりません。例えばチェスでは、たとえ負けても問題ありません。盤面が空になれば、すぐに次のゲームを開始できます。 2) 高効率 AIは人間をはるかに超える速度で練習しなければなりません。人間が一生かけても見きれないような動画を1時間で「視聴」し、1日でチェスの何百万局もプレイすることができます。 3) 報酬あり これが最も重要な点です。自動化され、即時に、そして議論の余地なく報酬と罰を与える仕組みが必要です。 自動化は不可欠です。AIがタスクを完了するたびに、人間の専門家が長い時間をかけてレビューし、曖昧な評価（「うーん、このアイデアは大丈夫そうだ」など）を下す必要がある場合、AIは効率的に学習できません。 プログラミングや数学などの分野では、上記の 3 つの条件を満たすのは簡単ですが、ライティングなどの非標準化された分野では検証が困難です。 しかし、ソフトウェアの場合、少し複雑なソフトウェア システムが検証可能な標準を満たすのは実際には非常に困難です。 例えば、UIを実装する際に、UIデザイン案をAIに投入し、スクリーンショットツールを付与して、何度もスクリーンショットを撮ってデザイン案と比較し、差異を見つけて最適化しようとします。しかし、現在のAIの能力では、これらの差異を修正するだけでは不十分で、どれだけ長く実行しても理想的な結果は得られません。 これが、私が AK が考案した新しいコンセプトをあまり好きではない理由かもしれません。彼らは常に次から次へとコンセプトを生み出しますが、それによって解決される問題は多くありません。
イラストは本当に良いですね👍
