AIに足すほど、
答えは鈍る。
AIを導入したのに、うまくいかない。ここ1ヶ月、その相談が増えている。原因はコンテキストが足りないからだと言われることが多い。
半分は正しいと思う。ただ、足りないほうばかりが語られて、足しすぎたときに何が起きるかは語られない。私たちが自社の基盤でぶつかったのは、そちらだった。
これは福岡に限った話ではないようで、東京からも、AIの活用率は上がっているのに成果が伴わない、という声をかなり聞く。ツールは入っている。現場も使っている。ただ、成果の側が動かない。
私たちは自社でAI基盤を持っている。クライアントの実績数値、SNSアカウントの日次データ、過去の提案書、社内でやり取りしたメール、AIとの議論のログ。それらを一つのデータベースに集めて、AIが引ける状態にしてある。
作り始めたときの前提は単純だった。持っている情報を全部入れれば、答えは良くなる。
実際には、入れるほど答えが薄くなった。
足したのに、答えが鈍る
情報を増やすと、検索に引っかかる候補が増える。当たり前のことだが、増えるのは関連度の高いものだけではない。似た言葉を含んでいるだけの、関係の薄いものも一緒に上がってくる。
そしてAIは、渡されたものを平等に扱う。これが主で、これは参考程度、という重みづけを自分では決められない。20件渡せば20件を等しく読み、そこから最大公約数のような答えを組み立てる。関係の薄い5件が混ざっていれば、その5件も等しく答えに反映される。
出てくるのは、間違ってはいないが、当たり障りのない文章だ。事実誤認はない。ただ、その会社の話になっていない。担当者が読んで、そうですね、で終わる。使えないわけではないが、わざわざAIに聞いた意味がない。
厄介なのは、この鈍り方が失敗の顔をしていないことだ。エラーは出ない。文章は整っている。渡した情報も、確かに反映されている。だから原因が分からず、まだ情報が足りないのだと解釈して、さらに足す。そしてもう一段鈍る。
前回、AIは平均に収束すると書いた。同じことが、出力の側だけでなく、入力の側でも起きている。渡す情報を増やすほど、答えは平均へ引き戻される。
情報を足すことと、精度が上がることは、別のことだった。
検索の前に、線を引く
やったのは、集約をやめることではない。集約は前提として要る。変えたのは順番だ。
意味検索にかける前に、対象を削る。どの契約組織のデータか。どの場面で使う情報か。どの案件の話か。この順で候補を絞り込んでから、はじめてベクトル検索に渡す。言い換えると、AIに探させる前に、探す場所のほうを決めている。
効果は数字に出た。一つの質問に対するデータベースへの問い合わせは最大6回から2回になり、AIに渡す情報は最大25件から8件に減った。渡す量を3分の1にして、答えは濃くなった。
同じデータベースに入っていることと、同じように見えてよいことは、別のことだ。境界を切らずに全部を見せると、情報量は増えるのに、答えの解像度は落ちる。
世の中の議論は、集約の側にばかり向いている。散らばっている情報を一箇所にまとめれば、AIは機能する、と。集約は必要だ。ただ、それは前提であって、解決ではない。まとめた先で何を見せないかを決めていないなら、AIは増えた情報の平均を返してくるだけになる。
情報には、性質がある
もうひとつ足りなかったのは、情報の種類を区別する仕組みだった。
確定した実績数値。そこから導いた解釈。まだ結論の出ていない議論。実行前の提案。外部から拾ってきた参考情報。出す前の予測値。これらはテキストとしては同じ形をしている。区別せずに放り込めば、AIには見分けがつかない。
何が起きるか。去年ボツになった案が、確定した方針と同じ顔をして出てくる。ブレストの途中で出た思いつきが、実績のように語られる。文章として破綻していないぶん、読んでいて気づきにくい。
だから、情報の一つひとつに性質のラベルを持たせた。事実か、解釈か、議論か、提案か、参考か、予測か。そのうえで、質問の種類によって、何を主軸に引き、何を補助として引き、何を除外するかを変えている。
来期の戦略を考えるときなら、実績数値と過去の解釈を主軸に、関連する議論と過去の提案を補助として引く。別の案件の数値は除外する。同じデータベースを使っていても、引き方が違えば、返ってくるものは別物になる。
副産物もあった。予測と実測を別の性質として保存しているので、投稿前に出した予測値と、あとから出た実際の数値を突き合わせられる。その差分から、次の解釈が生まれる。外れた記録が残っていないと、この学習は回らない。
AIが賢くなる条件は、データの量ではなく、間違いが残っているかどうかだと思う。
引き算のほうが、難しい
足すのは難しくない。あるものを全部入れればいい。手間はかかるが、判断は要らない。
難しいのは、この質問にはこれは要らない、と決めることだ。どの情報がどの場面で効いて、どの場面ではノイズになるのか。それは業務そのものを分かっていないと決められない。データベースの設計の問題に見えて、実際は業務理解の問題になる。
だから、ツールを入れるだけでは埋まらない。何を渡さないかを決める作業は、外から眺めて決められるものではないからだ。私たちが現場に入り込んでいるのは、そのためだ。
AIに足すほど、答えは鈍る。効くのは、何を渡すかではなく、何を渡さないかを決めることだ。