「銃は人を殺さない。人が人を殺す」
これは、アメリカで銃規制に反対する際によく掲げられる言葉だ。たしかに、銃そのものに意思はなく、引き金を引くのは人間である。
しかし技術哲学・技術倫理を専門とする久木田水生先生は、著書『麦とTwitter――情報技術がもたらすコミュニケーションの変容』のなかで、この「道具中立説」だけでは、現代のテクノロジーと人間の複雑な関係を捉えきれないと論じている。
銃と人間の組み合わせによって、人間単独では起こしにくかった暴力が可能になる。自動車は移動の自由を広げる一方で、事故や環境負荷を生み出してきた。ソーシャルメディアは、これまで届かなかった声を届ける一方で、憎悪や誤情報を広げる場にもなった。
テクノロジーは、人間が一方的に「使う」だけの中立な道具ではない。人間の行動や欲望、社会の制度と絡み合いながら、私たちの世界の形を変えていくものでもある。
では、現代の象徴的なテクノロジーである人工知能（AI）はどうだろうか。AIによるプロファイリング（分析）や判断の自動化が、採用、司法、医療、軍事といった領域へ広がるいま、私たちは何を技術に委ね、何を人間の責任として引き受けるべきなのか。人間の価値やリスクまで測ろうとする技術とどう向き合うべきか、名古屋大学大学院情報学研究科准教授の久木田先生に話を聞いた。
人間を利益とリスクで測る「ものさし」としてのAI
「メディアはメッセージである」。かつてのメディア研究者であるマーシャル・マクルーハンの言葉を、久木田先生は現代のAIに重ね合わせる。一般的にAIは「中立な道具」だと思われがちだが、AIもまた、現代において強力なメッセージを発する「メディア」である。
久木田先生が注目するのは、AIのなかでも、ビッグデータから学習し、人間を「プロファイリング」する技術だ。私たちがオンライン上に残す行動履歴や属性データから、ある人の行動傾向やリスクを推測するAIである。
「メディアとは情報を伝えるものですよね。人工知能も、私たちが直接知ることのできない対象についての情報を伝えてくれる存在として捉えれば、それは一つのメディアであると言えます。マクルーハンの『メディアはメッセージである』という言葉がありますが、人工知能というテクノロジー自身が、我々にどういうメッセージを伝えているのかを考えるのが重要です」
では、人間をプロファイリングするAIは、私たちに何を伝えているのか。オンライン上の行動履歴や属性データから、AIはある人の行動傾向やリスクを推測する。その情報は、採用、人事、保険、司法、警察といった領域で、「この人は利益をもたらすのか」「損害をもたらすのか」「危険なのか」という判断に使われることがある。
つまり、AIは単に「相手についての情報」を伝えるだけではない。相手を、利益やリスクという尺度で見るように、私たちのまなざしそのものを変えていく可能性があるのだという。
「これは人工知能が出てきて初めてそうなったわけではないと思うんですね。統計的に人を見たり、工学的にリスクとして人を評価したりするといった見方は、20世紀頃から世の中で強まってきました。KPI（重要業績評価指標）によるパフォーマンス評価などはその象徴です。人工知能によるプロファイリングは、その風潮の自然な延長線上にある。だからこそ、それだけ抗いがたいものになっているのだと思います」
AIは、人間をありのままに映し出す透明な鏡ではない。久木田先生の議論を踏まえるなら、それは特定の目的に沿って、人間の一部を測定し、分類するメディアである。だからこそ、AIが示す数値や予測を「その人自身」と受け止めるのではなく、あくまで限られたデータから導かれた一つの見方として扱う必要がある。
Image via shutterstock
「正確さ」の罠。10パーセントの誤りに誰が含まれるのか
社会がこれほどまでにAIの導入を後押しするのは、その「正確さ」への期待でもあるだろう。人間よりもミスが少なく、客観的であるとされるAI。しかし、久木田先生はその正確さには慎重になる必要があると話す。
「予測が何パーセント的中したと言ったときに、その『正確さ』がどういう意味なのかを理解する必要があります。採用候補者が早期退職するかどうかを予測するモデルを例にしましょう。
開発者が『このモデルは早期退職者を100パーセント予測した』と言ったとき、実際に早期退職した人をすべてを『早期退職するだろう』と予測していたということだけを言っているのか、それともそれに加えて早期退職しなかった人のすべてを『早期退職しないだろう』と予測していたということも含めて正しく判定したことを言っているのか。一般的に、偽陽性（誤って陽性と判定すること）が少ないという意味での正確さと、偽陰性（誤って陰性と判定すること）が少ないという意味での正確さにはトレードオフの関係があります。どちらの正確さを重視するかは、目的によって違ってくるのです」
つまり、「正確さ」は一つではない。退職しそうな人を見逃さないこと（偽陰性を減らすこと）を重視すれば、実際には退職しない人まで「退職しそう」と判定してしまうかもしれない（偽陽性が増える）。反対に、誤って疑われる人（偽陽性）を減らそうとすれば、本当に退職する人を見逃す可能性が高まる（偽陰性が増える）。
もう一つ、深刻なのは、AIの判断が「ブラックボックス」になりうることだ。
「人工知能はビッグデータの中からパターンを見つけて分類しますが、その理由が我々にはわからないということが起こりえます。場合によってはそれは重大な欠陥になります。例えば裁判で、AIが『この人は再犯リスクが高い』と判定したとして、それはかなり正確かもしれないけれど、なぜそう判定されたのかの理由がわからないことが起こるかもしれない。その場合に、AIの判定に依拠して量刑を決めて良いのでしょうか。人工知能は必ずしも他者への理解を促進するものではない。人間を深く理解するためにAIを使うのは、難しいのではないかと思います」
AIは、人間を理解しているのではない。膨大なデータのなかから似たパターンを探し、その人をある分類のなかに置いている。たとえ的中率が高かったとしても、そこから、その人がなぜそう行動するのか、どのような事情を抱えているのか、今後どう変わりうるのかまで理解できるわけではない。
なぜそう判定されたのかがわからないまま、「的中率が高いから」という理由だけで判断を受け入れてしまう。そのとき私たちは、相手を一人の人間として理解しようとする前に、AIの判定をそのまま答えにしてしまう危うさがあるという。
軍事利用の本質的な変化。計算から「意思決定」へ
こうした問いは、採用や司法の場面だけにとどまらない。AIが人間を分類し、予測し、その判断が社会の意思決定に組み込まれていくなかで、AI倫理を語るうえで避けて通れない論点となっているのが軍事利用である。AIが示す分類や予測が、「誰を攻撃するか」「どこまで自動化してよいのか」という判断につながるとき、誤りは人の機会や権利だけでなく、命そのものに関わる。
情報技術が戦争に使われること自体は、今に始まったことではない。第二次世界大戦では、コンピュータの原型が弾道計算に使われ、IBMのパンチカード技術がユダヤ人の特定に悪用された歴史がある。では、なぜ今、AIの軍事利用がこれほどまでに議論されているのか。
久木田先生は、その答えを、技術が担う役割が「計算の補助」から「意思決定」へと近づいていることに見る。
「一番は、やはり意思決定なんだと思います。最終的に人命を奪う、奪わないという意思決定そのものを機械化していいのか。かつてのコンピュータは計算の道具でしたが、現在のAIは、画像や行動パターンなどをもとに、対象を敵や標的候補として分類する判断支援に使われうる。やろうと思えば、人間の命令なしに自動的に攻撃することも技術的には可能になりつつある。そこまで機械化していいのか、という問いの段階に来ているのです」
AIの軍事利用をめぐっては、迅速な判断や対応を理由に、意思決定の自動化を求める考え方もある。そうしたなかで重要になるのが、「意味のある人間による制御（Meaningful Human Control）」という概念だ。
「単に人間の前にボタンがあって、それが光ったら押すというだけでは、人間は何の判断もしておらず、意味のある制御とは言えません。意味のある制御をどう定義するかは非常に難しい。ただ、最終的には『責任』の問題だと思うんです。自律型兵器が間違って民間人の命を奪ってしまったとき、誰が責任を取るのか。それは作戦を主導した人、あるいは国のトップであるべきではないでしょうか。人の命を奪う判断において、人工知能がそう言ったから、という言い訳で責任が分散されていくことは許されないと思います」
ただし、AIの軍事利用が投げかける問題は、責任の所在だけではない。AIが標的候補を抽出し、統計的なリスクとして人間を表示するとき、私たちは戦場にいる相手をどのように見るようになるのか。
久木田先生は、元アメリカ軍の軍事アナリスト、ポール・シャーレが綴ったエピソード（シャーレ、『無人の兵団』、早川書房、2019年）を紹介してくれた。待ち伏せをしていた兵士たちの前に、敵軍に属する子どもが通りかかった。法的には撃っても戦争犯罪にはならず、自分たちの安全のためには撃つのが合理的だった。
しかし、その場にいた誰もが、子どもを撃とうとはしなかったという。
「そこにあったのは、法や効率だけでは測れない判断でした。人間が人間を前にしたとき、何かが踏みとどまらせる。その曖昧で、弱く、しかし決定的な感覚を、人工知能は持てるのでしょうか」
Image via shutterstock
「人間というのは、相手に対する物理的な距離や心理的な距離によって、どれだけ共感するかが変わってきます。たとえば、ナイフで目の前の人を傷つけることには、非常に強い心理的な抵抗がある。だけど、遠く離れたところから銃で撃つのなら、その抵抗は少し小さくなる。相手が見えないところでボタンを押すような場合なら、さらに小さくなる。そういう統計的でドライな運用になればなるほど、相手に対する共感や想像力がなくなってしまうのだと思います」
AIが標的候補を統計的に示すとき、人間が相手を前にして感じるためらいや想像力は、見えにくくなる可能性がある。軍事利用の問題は、AIが誤るかどうかだけではない。人間の命に関わる判断において、私たちが責任と想像力をどこまで手放さずにいられるのかということでもある。
AIの予測が、未来を狭めるとき
戦場におけるAIの利用は、技術が人間への想像力や責任感を遠ざけうることを、最も極端な形で示している。では、同じような構造は、平時の社会にはないのだろうか。人をデータから評価し、リスクの高低によって関係を選別するまなざしは、採用や保険、教育、司法、そして日常の人間関係にも浸透している。
「AIを使って、リスクのない相手とだけ付き合いたい」。そう願うのは、一見すると合理的なリスク管理に見える。しかし、久木田先生はそこに見えにくい巨大な損失があると指摘する。AIによるプロファイリングは、戦場だけでなく、私たちの日常の信頼関係にも関わっているのだ。
「人工知能を使うことで、協力に値しない相手を見分け、リスクを減らすことができる。それは事実の一側面です。しかし、人間の心理はより複雑で、人から信頼されると、それに応えようとして頑張るという側面があることです。信頼というのは、人を変えるんですよ」
たとえ現時点での能力が足りなくても、誰かに任され、信頼されることで、その人は期待に応えようと自分を変え、成長していく。信頼とは、過去の延長線上にはない新しい未来をも創り出せるのだ。
「しかし、AIが過去のデータに基づいて『この人とは協力しないほうがよい』と判定し、機会を奪ってしまえば、その人は変わる機会を失いかねません。協力に値しないと判断された人は、成長の機会を得にくくなり、結果として『やっぱりダメな人だった』という評価が強化されてしまう。これは『予言の自己成就』です。人工知能は未来を予測しているようでいて、実はその予測によって、あり得たはずの豊かな未来を狭めてしまっている可能性がある。人工知能が見落としやすいのは、その『変化の余白』なんです」
人間は過去だけでできているのではない。出会いや信頼、任されることによって、過去のデータからは導き出せない非連続な変化を遂げることがある。その予測不可能な変化を信じることこそが、人間同士の信頼の本質なのだろう。
Image via shutterstock
分かれ道に立つのは、AIではない
AIによるプロファイリング、司法での判断支援、そして戦場での標的選定。一見、これらは個別の領域における技術的課題に見える。しかしその根底には、AIというメディアが提示する「数値」を前に、私たちが人間という存在をどこまで理解しようとし、その結果にどこまで責任を引き受けられるのか、という共通の問いだった。
「AI倫理というと規制や正確性の話に向かいやすいけれど、同時に問われているのは、我々が人間をどのような存在として見たいのかということです。人間をリスクとして見るのか、可能性として見るのか。データとして扱うのか、変わりうる存在として信頼するのか」
AIという、中立ではない測定装置に答えを委ねることは、効率と引き換えに、他者との泥臭い対話や、相手の変化を待つ忍耐を手放すことにも繋がりかねない。AIによって判断の輪郭をぼかされるのではなく、私たちが主体となって責任の所在を明確にし、人間が関与し続ける仕組みを守ること。
分かれ道に立つのは、AIではない。AIという「ものさし」をどう握り、データでは測りきれない他者の未来をどう信じるのか。それらを守り抜くのは、いつだって私たち人間に他ならない。
【参照・参考書籍】『麦とTwitter――情報技術がもたらすコミュニケーションの変容』公式サイト
久木田水生『麦とTwitter――情報技術がもたらすコミュニケーションの変容』共立出版、2026年
【参照サイト】麦とTwitter：ホーム
