最近、俺の中でいろいろなものをローカルへ移行していこうという動きがある。Mac mini、MacBook、iPhoneを持っているなら、それを使えばよく、必要な時だけAPIを使えばいい。そもそもクラウドを挟む必要がないと感じ始めた。
AIファーストならクラウドを挟まなくていい
手元のMacだけで足りる
データベースもSQLiteみたいな形でローカルに全部置けるし、そこまで容量も食わない。必要な時だけAPIを使えばいい。今までは開発でCloudflareやGitHubを使うのが当たり前だったが、それがワンチャン不要になってきた。サイトというプラットフォームを自分で提供すること自体がデメリットなら、サービスを作る必要もない。ドメインだけ使い、デプロイやホスティングはCodexやChatGPTのSitesみたいなものを使えばいい。
プロジェクトを三層構造にする
Git管理も基本的には必要ない。全部ローカルのファイルで作り、Apple同士ならMac間で共有できる。Mac miniに専用のプロジェクトファイルを作り、その中に細かいプロジェクトをリポジトリのように置く。メインパソコンに全部表示すると面倒なので、Mac mini側のプロジェクトファイル自体をエージェント化する。メインパソコンのCodexには、そのファイルパスだけを設定すればいい。リモートでプロジェクトのルートへ接続し、エージェント設定を置けば、プロジェクトファイル全体がエージェントの知識になる。メインパソコンではそれを一つのエージェントとして動かし、Mac miniでは内側の細かいプロジェクトを動かす。この三層構造の方が全然AIファーストだと感じた。
クラウドがボトルネックになる
この形にすると、GitHubもGitHub Actionsも必要ない。一応GitHubにはお金を払っているが、ワンチャン解約してもいいと思っている。クラウドをいろいろかませるから、面倒なボトルネックや問題が出る。Cloudflare Workersも入れると、また管理が面倒になる。Cloudflare自体の料金も上がってきていて、インフレになればさらに上がる。安かったものの料金が上がれば、Cloudflareのうまみもなくなってくる。上げざるを得ない状況なのは仕方ないと思うが、クラウドをかませること自体がきつくなってきた。動作も遅くなる。大量のデータがある場合は仕方ないが、それ以外は正直使わない方がいい。
OpenAIがSaaSを食う
Codexならローカルファーストで全部できる。俺のイメージでは、クラウドのサービスをOpenAIがまるっと食う可能性が高い。ChatGPTの中にはすでにアプリがたくさんあり、その経済圏ができつつある。この流れが進めば、貴重なデータを持っているか、よほど強いプラットフォームでない限り、SaaSはあまり機能しなくなる可能性が高い。だからまず、クラウド依存から脱却しておいた方がいい。
ローカルモデルが前提を崩す
ローカルモデルもいろいろ優秀なものが出ているが、まだ性能が弱かったり重かったりする。ここが克服され、どんどん軽くなってフロンティアモデル並みの性能が出始めたら、クラウドは正直やばいことになる。既存のクラウド基盤や、その上のサービスがどんどん衰退する可能性が高い。かなりローカルのパラダイムになっていくと思う。
最後はOpenAIもIBMになる
OpenAIはデバイスも出し始めたので、この時代の主役になるだろうと思う。ただ、全部を取り切った後には、今のGAFAみたいなものがOpenAIの中からいろいろ出てくる。最終的にはOpenAI自体がIBMみたいな位置になると思う。だから上場した時の株価は、たぶんぶち上がる。
ローカルファーストで動かす
今のところ、基本的にはこの三層構造でやろうと思っている。Mac miniにプロジェクト群を置き、全体を一つのエージェントとしてメインパソコンから動かす。クラウドは大量のデータなど本当に必要な時だけ使う形にして、一旦余計な依存を排除していく。