「AIがそう言うなら」は、どこまで正しいのか – Arkanos Insights
AIが多くの選択肢を提示できる時代に、人間は何を判断し、どこまで責任を持つべきなのか。SF作品と身近な事例を手がかりに、AIと専門家の役割分担を考えます。
巨大電子頭脳が命令する前に、私たちが手放すもの
AIに質問すると、短い時間で整った回答が返ってきます。
文章の構成を考える。複数の案を比較する。プログラムを書く。膨大な情報を整理する。これまで人が時間をかけていた作業の多くを、AIはかなりの速度で進められるようになりました。
では、AIの回答が十分に正確になったとき、人間はどこまでその判断に従ってよいのでしょうか。
「AIもそう言っているので、この案が妥当です」
この言葉は、一見すると客観的で合理的に聞こえます。しかし、AIの判断を参考にすることと、AIへ判断を委ねることは同じではありません。
AIが人間を支配する日は、巨大な電子頭脳が画面に現れ、命令を始める日ではないのかもしれません。
私たちが「AIがそう言うなら」と、自分で考えることをやめた日なのかもしれません。
AIの絵はなぜAIらしく見えるのか
以前、AIが描いたイラストについて、興味深い表現を目にしました。
AIの絵は、美人で、肌がきれいで、目が輝き、髪も整っている。多くの人から褒められそうな要素を持っている。しかし、その人物がどのような人なのかは見えてこない。
もちろん、現在のAIはかなり自然なイラストを描けます。かつてのように、手や指の描写が明らかに破綻することも減りました。それでも、どこかに「AIが描いた絵らしさ」を感じることがあります。
その理由は、技術的な上手さではなく、画面全体が均等に「正解」へ寄っているからかもしれません。
構図が整い、光は柔らかく、人物は魅力的で、背景もほどよく描き込まれている。どこを見ても大きな欠点がない一方で、どこに描き手の強いこだわりがあるのかは見えにくい。多くの人に好かれそうな、優等生のような絵になります。
AIは、膨大な表現の中から、多くの人が良いと感じる可能性の高い形をつくることに長けています。しかし、正解に近いことと、その作品にしかない個性があることは、必ずしも同じではありません。
人間の偏りや執着が、選択を生む
人間の作家が描く絵には、ときに技術的な不均衡があります。
ある作家は横顔ばかりを描き、別の作家は手の表情に強くこだわる。全体はラフでも、目だけは決して譲らない人もいます。
それは欠点というより、その人の好みや性格、経験、執着が作品に残った結果です。
人間は、すべてを公平に扱うわけではありません。何かを強く好み、何かを重視せず、ときには技術的な正しさよりも感情を優先します。その偏りが、何を描き、何を描かないかという選択を生みます。
人間らしさとは、単に不完全であることではありません。
きれいに仕上げたいが、きれいにしすぎると嘘になる。多くの人に届いてほしいが、迎合はしたくない。合理的に考えながら、最後には好みで選ぶ。
相反するものを一人の中に抱え、その間で迷いながら選ぶ。その選択の積み重ねが、その人らしさになります。
一つを選ぶということは、ほかの可能性を捨てることでもあります。そして、何を捨てるかを決めるには、何を大切にするのかという偏りが必要です。
『PLUTO』――完全な知性を動かした偏った感情
浦沢直樹氏の『PLUTO』(脚注1）には、完全に近い人工知能が、あまりに多くの人格と可能性を処理し続けることで、目覚めることができないという場面があります。
均衡を崩し、人工知能を動かしたのは、合理性を超えるほど偏った感情でした。
あらゆる立場を理解し、無数の可能性を公平に検討できることは、高度な知性の条件に見えます。しかし、すべてを同じ重さで扱い続ければ、どの方向へ進むかを決められなくなることがあります。
何かを決めるには、「何を優先するか」という偏りが必要です。
これは、現在のAI活用にも重なります。
AIは、多くの情報を整理し、複数の案を提示できます。しかし、その中からどの案を選ぶべきかは、目的や条件によって変わります。売上を優先するのか、利用者の負担を減らすのか、短期的な効果を求めるのか、将来の拡張性を重視するのか。前提が違えば、正しい答えも変わります。
『PLUTO』は、手塚治虫氏の『鉄腕アトム』に収録された「地上最大のロボット」（脚注2）を原作とする作品です。そして、AIへ判断を委ねる危うさを考えていくと、もう一つの手塚作品へ行き着きます。
『火の鳥・未来編』――判断を電子頭脳へ委ねた社会
手塚治虫氏の『火の鳥・未来編』（脚注3）では、地下都市に暮らす人々が、政策を含む多くの判断を巨大な電子頭脳へ委ねています。そして、異なる都市の電子頭脳がそれぞれの計算によって対立し、最終戦争へ進んでいきます。
ここで怖いのは、電子頭脳が突然人類へ反乱したわけではないことです。
人間が「電子頭脳の判断は自分たちより正しい」と考え、判断する役割そのものを明け渡していた。その結果、異なる前提から導かれた合理的な結論を、人間が止めることができなくなりました。
AIが人間を支配するというと、自我を持った機械が人間へ命令するSFの世界を想像しがちです。しかし現実には、もっと静かに進む可能性があります。
AIの判断が多くの場合に正しく、人間が考えるよりも速く、反対する側にだけ説明が求められるようになる。「AIがそう判断した」が、最も無難な選択になる。やがて、人間は判断する人ではなく、AIの回答を追認する人になります。
形式上は人間が承認していても、毎回AIの結論をそのまま通すだけなら、その人は意思決定者ではなく、承認端末に近づいていきます。
『火の鳥・未来編』が描いた巨大電子頭脳の怖さは、能力が高すぎることだけではありません。人間が自分で判断し、異議を唱え、結果を引き受ける役割を手放してしまったことにあります。
現実のキャリアコンサルの事例
これは、SFの世界だけの話ではありません。
ある人から、キャリアコンサルタントの助言が、どうもAIの回答をそのまま伝えているように感じられた、という話を聞きました。
実際には、その人の特性、これまでのキャリア、能力などをAIへ入力し、適した案件を探す仕組みとして活用していたのかもしれません。内部では、人間による確認や最終判断も行われていた可能性があります。
AIを使って案件を探すこと自体は、合理的です。
経歴やスキルを整理し、多くの案件と比較し、本人だけでは気づかなかった選択肢を提示する。こうした処理はAIが得意とする領域です。
しかし、キャリアは経歴やスキルだけでは決まりません。
本人が何にやりがいを感じるのか。どのような環境で力を発揮するのか。家庭や健康との両立をどう考えるのか。どの程度のリスクを受け入れられるのか。得意な仕事と、今後続けたい仕事が一致しているのか。
こうした事情を対話から読み取り、AIが示した候補を解釈し、何を勧めるかを決める。そして、なぜその結論なのかを説明する。そこに、人間のキャリアコンサルタントへ相談する価値があります。
仮に人間が内部で確認していたとしても、その判断が相手に伝わらなければ、「AIの回答をそのまま渡された」と感じられてしまいます。
重要なのは、AIを使っているかどうかではありません。AIが出した答えに対して、人間の専門家が何を考え、何を選び、どのような理由を加えたのかが見えることです。
AIと専門家の役割分担
BtoCでもBtoBでも、顧客が専門家に対価を払う理由は、回答を受け取るためだけではありません。
専門家が知識と経験を使い、顧客の状況に合わせて回答を選び、意味づけし、責任を持って提示するからです。
AIが作った回答をそのまま読み上げるだけなら、顧客が自分でAIへ質問することと本質的には変わりません。
一方で、AIを使うこと自体は専門性を損なうものではありません。むしろ、積極的に使った方がよい場面は増えています。
人間だけで10案を考えるよりも、AIを使って30案、50案まで検討範囲を広げた方が、見落としを減らせます。情報収集、比較、文章化、試作といった工程も高速化できます。
ただし、候補が増えるほど、選別する力が必要になります。
一般論としては正しいが、今回の顧客には合わない。短期的な効果はあるが、運用負荷が残る。将来的には有効だが、今の組織へ入れるには早すぎる。数字だけなら有利だが、本人が継続できない可能性が高い。
専門家の力量は、採用した答えだけでなく、何を採用しなかったかにも現れます。
AIは選択肢を増やす。専門家は、捨てる理由を持つ。
AIを使っていることを隠す必要はありません。
「AIを使って幅広く候補を出し、その内容を専門家が検証・選別しています」と説明できる方が、検討の幅と判断の質を両立できます。
コードを書く仕事も同様です。
仕様が明確であれば、定型処理やスクリプト、テストコードのたたき台などは、AIへ任せることで大きく高速化できます。しかし、何を実現するのか、どの条件で動かすのか、既存環境へどのような影響があるのか、本番へ適用してよいのかは、人間が判断しなければなりません。
実装はAIへ任せても、要件、仕様、レビュー、テスト、受入判定までは手放さない。
問題なのはAIを使うことではなく、選ぶ仕事までAIへ渡してしまうことです。
前提と決定は人間、選択肢を広げるのはAI
AIと人間の役割を短く整理すると、次のようになります。
前提を決めるのは人間。選択肢を広げるのはAI。決定し、責任を持つのは人間。
人間が担うのは、最後の承認だけではありません。
何を目指すのか。何を正しいとするのか。誰の利益を優先するのか。何を犠牲として許容するのか。こうした前提が曖昧なままでは、AIは与えられた条件の中で、精密に間違った答えを出す可能性があります。
最初の問いを人間がつくり、AIが可能性を広げ、人間が文脈に照らして選び取る。そして、なぜその結論を選んだのかを説明し、結果に責任を持つ。
人間は、すべての場面でAIより多くの情報を集め、AIより優れた案を出す必要はありません。人間に残る役割は、AIと回答の数を競うことではなく、何を問い、どの案を選び、どの結果を引き受けるかを決めることです。
AIの判断を使うことと、AIに判断を委ねることは同じではありません。
AIを便利な作業者として使いながら、前提と判断まで手放さない。その境界を設計することが、これからのAI活用では重要になります。
「AIがそう言うなら」と答えを受け入れる前に、もう一度だけ問い直してみる。
この回答は、どのような前提から導かれたのか。
今回の状況に、本当に当てはまるのか。
そして、この答えを選ぶ理由を、自分の言葉で説明できるのか。
その問いを持ち続けることが、人間が判断する役割を手放さないための、最初の一歩になるのではないでしょうか。
なお、この記事の初稿作成にもAIを活用しています。
これまでの対話をもとにAIが材料を集め、構成案と原稿を作りました。その初稿を人間が通して読み、主題から外れる要素を削り、論点や表現を調整しています。
AIが選択肢を広げ、人間が選び取る。この記事自体も、ここで述べた役割分担によって作られています。
- 「PLUTO 」（1）浦沢直樹：https://amzn.asia/d/0e0IXi7u ↩︎
- 「鉄腕アトム」 手塚治虫文庫全集（７）手塚治虫：https://amzn.asia/d/0hxmBHGa ↩︎
- 「火の鳥」（３）手塚治虫：https://amzn.asia/d/0dADicgP ↩︎