AIの議事録を知識ベースに入れてはいけない

AIが自動で作成した会議の議事録は、確認を経ないまま知識ベースに入れるべきではないと私は考えている。その文書を使って、あとからAIが質問に答えたり、企画を書いたり、タスクを実行したりするのなら、なおさらだ。

問題は、会議で話し合っただけのことが、要約の段階で決まったこととして書かれてしまうかもしれない点にある。

たとえば、会議でこんなやり取りがあったとする。

「来週リリースしようか？」

「技術的にはいけます。ただ、テストがまだ終わっていません」

「じゃあテスト結果を見て、金曜に決めよう」

「了解です」

これをAIが議事録にまとめると、こうなるかもしれない。

会議にて、来週のリリースを決定。

最後の「了解です」が同意していたのは、金曜まで待って決めることだった。ところが前の条件が省かれると、来週リリースすることへの同意だと受け取られかねない。

三次元のものを二次元に押しつぶすのに少し似ている、と私は思う。

会議では、一つの発言の背後に、誰が話したのか、誰に向けた返事なのか、どんな口調だったのか、どんな条件付きだったのか、そして誰に決定権があるのかがつながっている。それが議事録になると、きれいに並んだ結論が数行残るだけかもしれない。

技術責任者の「いけます」は、技術的に実現できると確認しただけかもしれない。スケジュール担当者の「ちょっと待って」は、時期がまだ決まっていないことを意味する。誰が提案し、誰が実現可能性を判断し、誰が最終的に決めるのか。それによって、一つの発言をどう理解すべきかが変わる。

しかも会議はテンポが速く、何人もが言葉を継いでいく。AIは、どの発言が誰のものかさえ区別できていないかもしれない。区別できたとしても、その人たちがどう役割を分担し、この件では誰に決定権があるのかまで分かっているとは限らない。そうした背景は、録音の中で語られるとは限らないからだ。

だから、一文一文が正しく文字起こしされていても、「みんなで少し話し合った」が、まとめる段階で「チームの合意が得られた」に変わることはありうる。言葉は聞き間違えていないのに、出来事を記録し間違えている。

会議に出た人なら、議事録を見ても記憶で補える。「これはあのとき少し話に出ただけで、決まってはいない」と。

ところが、あとから知識ベースを読むモデルが議事録しか受け取らなければ、その記憶はない。目の前にあるのは、正式なタイトルがつき、整理されていて、断定的な口調で書かれた文書だ。そこには「会議にて、来週のリリースを決定」とある。

知識ベースに厳密に従って作業するよう指示すれば、モデルはこの議事録を忠実に根拠として扱い、リリース手順を組み、顧客への通知を準備し、リリース日をプロジェクト計画に書き込むかもしれない。

この過程で、モデルは何一つでっち上げる必要さえない。その議事録を信じるだけで、まだ確認されていない提案が、その後の一連の作業に持ち込まれてしまうことがある。

モデルが強くなるほど信頼できるデータが重要になると私が考えるのも、このためだ。モデルは前提をうまく使いこなし、その後の作業を隙なく仕上げられる。だが、その前提が本当に確認されたものかどうかは、また別の問題だ。

もちろん、より強いモデルなら矛盾に気づき、立ち止まって検証するかもしれない。それでも「金曜に決める」がすでに削られ、元の録音も、発言者が誰かという情報も、確認の記録も残っていなければ、議事録だけを頼りに、この件がまだ宙に浮いていると気づけるとは限らない。

ここで言うデータの品質には、省いてもよさそうに見える言葉も含まれる。「かもしれない」「暫定」「要確認」「テストが通れば」。こうした言葉が、ある情報をその後の作業の根拠にしてよいかどうかを決める。議事録を簡潔にしようとしてこれらを削れば、出来事の状態まで一緒に書き換えてしまうかもしれない。

私が「知識ベースに入れてはいけない」と言うのは、確認されていないAIの議事録を、あとに続くAIが当然のように信じる会社の事実にそのまましてはいけない、という意味だ。議事録は参照用に残しておけばいい。ただし、提案、要確認の事項、正式な決定は、それぞれの状態を保ったまま扱う必要がある。確認済みの結論を正式な文書に書くときも、もともとの条件を添えておくべきだ。

最初の例に戻ろう。会議で決まったのは、まずテスト結果を見て、金曜に決めることだった。来週のリリースについては、誰かが持ち出したものの、まだ決まっていない。