Anthropic CEO、フロンティアAIの開発速度を落とす共同ルールを提案

AIの速度に、設計と検証の速度を追いつかせる。

今日一番気になったのは、AnthropicのCEOが『AIの性能向上の速度を落とすべき』と言い切ったことです。

AIの会社が自分たちで速度を上げながら、同時に減速の必要性を話している。なんか、このねじれそのものが、今のAI開発をよく表している気がします。

ただ、、、

企業側が『業界のルールが決まるまで待つ』のは違うと思う。モデルの進化は待ってくれないし、全体の規制が整う前に、プロダクトは顧客と現場で使われ始める。

だから僕は、性能を試すスピードと同じ速度で、リスクを見つけ、止め、戻せる体験を作る必要があると思っています。

何をAIに渡すのか。どこで人が確認するのか。間違った時にどう回復するのか。それを規約だけでなく、画面と業務フローとログの中に実装する。

安全を『開発を遅くする仕事』にしない。早い段階から小さく提供し、実際の利用から検証し、次の実装へ戻す。

AIの速度を恐れるだけではなく、設計と検証の速度を上げて追いつく。その実行力まで含めて、これからのAIプロダクトだと思います。