AIを作る前に、データレイヤーを作る

判決

誰もが自分の管理パネルに副操縦士を取り付けたいと思っています。私もそう思いました。しかし、実際の資金や安全判断に触れさせる前に、まずその下に地味を築きました。計測、レビューループ、データです。AIが出荷しました。2番目に出荷されたばかりです。

賭け金

あらゆる場所にAIを追加しなければならないというプレッシャーは現実的で、そのほとんどはノイズです。危険なのは、 手数料を調整し、施術者をフラグし、何が安全かを判断するAIであり、その裏には根拠のないものです。お金や安全に関する自信満々の誤った判断は後戻りできないものであり、だからこそ私はデータがそれを裏付けるまで自動化を拒否しました。

The argument

行動するAIの信頼性は、データとその下にあるレビューループに依存します。そこで順番を固定し、従順にしました:まずインストゥルメントを行い、人間のレビューループを構築し、 その後 自動化しました。そのシーケンスで実行すると、AIはグラウンドトゥルースを継承します。一歩でも飛ばすと、盲点が引き継がれてしまいます。

証明

ウェルネスマーケットプレイスでは、まず4段階検証、フル分析スタック、階層化されたコミッションエンジンを導入しました。その時になって初めて、Claudeをスーパー管理者にスコープ化し、「推薦、人間の承認」、「自動化しても安全」にきれいに分けました。AIが最初の電話をかけた時には、すでに良いものを知っているシステムから読み取っていた。

微妙な違い

「AIを早めに使うな」と読まないでください。意思決定サポートとして、人間が最初から承認することはでき、私もそうしました。その線引きはAI対AIなしの対立ではなかった。お金や安全に関わるものは自動化され、支援はされていません。私は最初からAIに助言を任せ、データが信頼を得てからAIが自動的に行動することを許可しました。

The takeaway

そこで私が伝えたいルールはこうです:自動化する前に計測を行い、人間がループに関わる線を明示的に引き、誤った通話が安価で元に戻せる場合にのみAIを無人で動かすこと。まずデータレイヤーを構築し、その上に載せるAIは退屈で信頼できるタイプで、それだけが出荷する価値のあるタイプです。