連載の締めくくりです。No.1でAIの地図を描き、No.2で「なぜ間違えるのか」を仕組みから見ました。最後は、それらを踏まえてAIをめぐる4つの根本的な誤解を解体し、中小企業が取るべき構えを経営判断に落とします。
- AIの誤解は4つに集約できる：万能／人間のように思考／意味を理解／常に正しい
- 4つとも、海外の一次ソースで明確に否定できる
- 成果の約7割は技術でなく「業務への組み込み方」。だから中小企業にも勝ち目がある
AIをめぐる4つの根本的な誤解
現場の混乱は、たいていこの4つの誤解のどれかに行き着きます。前回までの内容で、すべて解体できます。
| 誤解 | 正しい理解 | 一次ソース |
|---|---|---|
| AIは万能だ | 能力の境界はギザギザ。得意・苦手が読めない | Mollick / Apple / Marcus |
| 人間のように思考している | 次に来そうな言葉を確率で選ぶ逐次予測装置 | Wolfram / Bender |
| 本当に意味を理解している | 意味と無関係に言葉の形を並べる「確率的オウム」 | Bender & Gebru |
| 常に正しい | 仕組み上、もっともらしい嘘（ハルシネーション）が出る | OpenAI / Ted Chiang |
大事なのは、これらが「AIをけなす話」ではないことです。包丁が万能でないと知ることが、包丁を使いこなす第一歩であるのと同じ。AIの限界を正しく知ることが、AIを最大限に活かす出発点になります。
逆に、誤解したまま導入すると事故ります。「AIは常に正しい」と思えば、AIが出した請求金額や契約条件を確認せず客に送ってしまう。「意味を理解している」と思えば、重要判断を丸投げしてしまう。4つの誤解は、そのまま4つの事故パターンです。
だから「人が確認する関所」を業務に組み込む
4つの誤解の解体から導かれる結論は一つ。AIの出力には、人が必ず目を通す「関所」を業務に組み込むこと。専門用語では「人間承認（ヒューマン・イン・ザ・ループ）」と呼びます。
どこに関所を置くか。前回までの仕組みの理解が、そのまま基準になります——固有名詞・数字・法令（確率的オウムが取り違える）、社外に出る成果物（ハルシネーションが混じる）、重要な判断（AIは理解していない）。ここには必ず人を挾む。逆に、社内向けの下書きやたたき台は、関所を軽くしてスピードを優先できます。
成果の約7割は「技術」でなく「業務への組み込み方」
最後に、経営判断の核心です。多くの中小企業は「良いAIツールを買えば成果が出る」と考えます。これが最大の誤解かもしれません。ボストン・コンサルティング・グループ（BCG）はこう分析しています。
AIの価値のうち、アルゴリズム自体から生まれるのは約10%、それを実装する技術が約20%。残りの約70%は、人・業務プロセス・組織の変革から生まれる。
（BCG「Where’s the Value in AI」2024）
これを裏づけるように、MITの調査では、企業の生成AI試験導入の約95%が損益への測定可能な効果を出せていないと報告されました。原因はモデルの性能ではなく、ツールが現場の業務に食い込んでいないこと。汎用のChatGPTは、前回見たとおりあなたの会社のやり方を勝手には学ばないからです。
これは中小企業にとって朗報です。勝負どころが「資金力（高いツール）」ではなく「業務理解」なら、業務がシンプルで属人化の少ない中小こそ、AIを一つの業務に食い込ませやすい。最新モデル選びに迷うより、(1)最も痛い一業務に絞り、(2)人が確認する関所を一カ所決める。この2点が、限られた人手で成果を出す分岐点です。
左：4つの誤解（万能/思考/理解/正しい）と、それを解体する一次ソースを対応させたマップ。右：価値の内訳を「アルゴリズム10%／実装技術 20%／人・業務・組織70%」の帯グラフで示し、「成果の7割は使い方で決まる」を一目で伝える。
まとめ
- AIの誤解は4つ（万能／思考／理解／正しい）。すべて一次ソースで解体でき、そのまま事故パターンでもある。
- だから「人が確認する関所」を、固有名詞・数字・対外成果物・重要判断に置く。
- 成果の約7割は業務への組み込み方。一業務に絞り、関所を決める——中小こそ有利。
