先に考えておく

非同期設計がAIの応答速度を変える

この記事で言いたいこと:AIに「今すぐ調べて答えて」と頼むより、「朝のうちに調べておいて」と仕込む方が速く、安く、安定している。重い処理と軽い処理を分離するという古典的な設計思想は、AI時代にこそ威力を発揮する。

1. 「今すぐ」の重さに気づいた瞬間

朝のブリーフィングを自動化したとき、最初の設計はシンプルだった。「おはよう」と言うたびに、AIがプロジェクトの状況を確認し、インボックスを読み、ニュースを調べて、まとめて返す。一度のリクエストで全部やる。

動いた。便利だった。ただ、少し遅かった。ニュース取得だけで十数秒かかる。毎朝それを待つのは悪くないが、何かが引っかかった。

引っかかりの正体はすぐわかった。ニュースは昨日と今日の間に起きたことだ。6時に調べても7時に調べても、大差ない。なのになぜ、ブリーフィングを呼び出すたびに調べるのか。

2. 同期と非同期という古い知恵

コンピュータサイエンスに「同期処理」と「非同期処理」という概念がある。同期とは、ある処理が終わるまで次に進まないこと。非同期とは、重い処理を先に投げておいて、結果だけを後で受け取ること。

Webサービスの世界ではこれが当たり前になっている。画像の変換処理をリクエストと同時にやらず、夜間バッチで済ませる。検索インデックスをアクセスのたびに再構築せず、あらかじめ用意しておく。重い処理は「先にやっておく」。軽い処理だけをリアルタイムに回す。

この知恵は何十年も前からある。新しくない。だがAIを日常業務に組み込み始めた今、同じ問いが改めて立ち上がってくる。「この処理は、今すぐやる必要があるか。」

3. ニュースを「仕込む」という発想

設計を変えた。ニュース取得を、ブリーフィングから切り離した。

毎朝6時(自動)
 → ニュース取得(web検索 + AI要約)
 → 結果をファイルに保存

朝、好きな時間に「おはよう」
 → ブリーフィング生成
 → 保存済みニュースを読むだけ

ニュース取得は重い。大きなモデルを呼び、ウェブを検索し、要約する。だが一日に一度でいい。ブリーフィングは軽くなった。ファイルを読むだけだから、ほぼ瞬時に答えが返る。

コストも下がった。ニュース取得は高性能モデルを使うが一日一回。ブリーフィングは何度呼んでも安い。同じ品質の出力を、より少ないリソースで得られるようになった。

4. 「今すぐ」が正当化される条件

もちろん、リアルタイムが必要な処理もある。株価、速報、今まさに動いているシステムのステータス。これらは「先に仕込む」ことができない。鮮度がすべての情報は、同期処理が正しい。

問うべきは、「この情報は、今この瞬間に取得しなければ意味が失われるか」だ。

朝のニュースは、数時間の誤差では価値が変わらない。プロジェクトのタスク状況は、前日夜から変化していない可能性が高い。声メモのインサイトは、昨晩入力されたものだ。これらはすべて「先にやっておける」処理だ。

リアルタイム性を要求するのは、実は思い込みのことが多い。設計を問い直すと、意外に多くの処理が「事前計算」に移せる。

5. 人間の思考にも同じ構造がある

この設計思想は、AIやコンピュータだけの話ではない。人間の思考にも同じ構造がある。

優れた意思決定者は、決断の瞬間に情報を集めない。会議の前夜に資料を読み込み、朝の通勤中に考え、問いを整理しておく。いざ議論が始まるとき、頭の中にはすでに「仕込まれた思考」がある。場の空気に流されず、速く、的確に動ける。

「先に考えておく」ことの価値は、速さだけではない。軽い頭で判断できることにある。重い情報収集の最中に判断するより、収集が終わった後に判断する方が、はるかに質が高い。処理の分離は、思考の質を上げる。

6. スケジューラーという縁の下

この設計を実現するには、「誰も見ていない時間に動くもの」が必要だ。技術的にはスケジューラーと呼ばれる仕組みで、指定した時刻に自動でタスクを起動する。

毎朝6時に静かに動き、ニュースを取得し、ファイルに保存して、また眠る。誰にも頼まれていないが、誰かが起きてくる前に準備を整えている。縁の下の力持ちだ。

個人のインフラにも、こういう「誰も見ていない時間に動くもの」を設計できる時代になった。クラウドのスケジューラーは無料で使える。夜中に走らせても電気代は発生しない。人間が眠っている間に、システムが考えておいてくれる。

7. 分離することで生まれる自由

処理を分離すると、それぞれが独立して進化できるようになる。

ニュース取得の精度を上げたければ、取得部分だけを改善すればいい。ブリーフィングの表示を変えたければ、表示部分だけを触ればいい。どちらを変えても、もう一方には影響しない。疎結合と呼ばれる設計の強みだ。

一体化していたときは、何かを変えると全体が壊れるリスクがあった。分離してからは、小さく試して、小さく直せるようになった。システムが育てやすくなった。

8. 問いを変えると設計が変わる

「どうすれば速くなるか」という問いより、「これは今すぐやる必要があるか」という問いの方が本質的だ。前者は最適化の問いで、後者は設計の問いだ。

AIを業務に組み込む人が増えるにつれ、同じ問いがあちこちで立ち上がるはずだ。毎回調べさせているこの処理は、本当にリアルタイムが必要か。毎回生成させているこのコンテンツは、事前に用意できないか。

問いを変えると、設計が変わる。設計が変わると、コストが下がり、速度が上がり、システムがシンプルになる。そしてシンプルなシステムは、長く動き続ける。

「今すぐ」は思い込みのことが多い。先に考えておく設計が、AIを道具から習慣に変える。

トキストレージは、声・画像・テキストを1000年残すプロジェクトです。
長く動き続けるための設計思想を、保存の仕組みそのものに組み込んでいます。

トキストレージを知る すべてのエッセイを読む