筆者が暮らすロンドンの古い路地を歩いていると、この街の交通を支えているのは信号機でも標識でもなく、もっと微細な対話であることに気づかされる。

横断歩道に足を踏み出す瞬間、あるいは信号のない交差点で、歩行者とドライバーの間で交わされる0.5秒の目線交換。この一瞬のやり取りの中で、私たちは「先にどうぞ」「ありがとう」という意思を、言葉を介さずに交わしている。

Image via Shutterstock

ロンドンの路上では、2024年に成立した自動運転車両法（Automated Vehicles Act）を背景に、WaymoやWayveといった無人タクシーの本格導入に向けた動きが加速している。車が近づいてきた時、私は無意識に運転席に目を向ける。けれど、そこには誰もいない。意思を交わす相手がいないという事実は、路上での信頼のあり方を根本から変えてしまう。

ここで考えなければならないのは、「もしこの車が人を轢いた時、一体誰がその責任を引き受けるのか」という問いだ。

「謝る主体」のいない路上

事故が起きたとき、誰が法的な責任を負うのか。メーカーか、開発者か、あるいは運行会社か。もちろんその議論は不可欠だが、自動運転がもたらす「不在」の本質はそこにはない。

私たちが路上でアイコンタクトを交わすとき、そこには「私はあなたを認識しており、あなたの安全に責任を持つ」という、言葉なき約束が存在する。これまでの交通社会には、万が一のときに「申し訳ない」と頭を下げ、その過ちを「痛み」として引き受ける人間がいた。しかし、瞳を持たないAIが走る路上からは、この痛みを引き受ける主体が消滅してしまう。

この倫理的な空白を埋める手がかりになるのが、アイントホーフェン工科大学のフィリッポ・サントーニ・デ・シオ氏らが提唱する「意味のある人間による制御（Meaningful Human Control）」という概念だ。

これは、「AIによる重要な判断の前に、人間の意思決定と責任のプロセスを明確に組み込んでおくこと」を意味する。具体的には、AIのブレーキや加速の基準に私たちの倫理観（例えば、何よりも歩行者の安全を最優先するなど）を正しく反映させ、さらに事故が起きた際には「私がこのシステムの責任者だ」と名乗り出られる人間を、開発や運用の仕組みの中に位置づけておくことだ。

誰がどう責任を背負うのか。その設計から目を背けることは、路上で育まれてきた人間同士の信頼をあきらめることにもつながる。

「AIの運転は人間の運転より安全」という主張の死角

こうした責任の空白を指摘すると、自動運転を推進する人々は必ず数字を提示する。「人間よりもAIの方がミスが少なく、統計的には交通事故が劇的に減る」と。

たしかに、数字の上ではそうかもしれない。しかし、ユニバーシティ・カレッジ・ロンドンのジャック・スティルゴー氏は、こうした「統計的な安全」という言葉に潜む、ある種の傲慢さに警鐘を鳴らす。安全の定義を単なる「事故の件数」という狭い範囲に限定してしまうと、その技術が社会にもたらす「別のリスク」が見えなくなるからだ（※1）。

歴史を振り返れば、19世紀末に登場した自動車は、当時深刻だった馬車の糞尿問題を解決する救世主として歓迎された。しかしその後、自動車が大量の交通事故や大気汚染という予測不可能なリスクを社会にもたらしたのは周知の事実である。

今、私たちが直面しているのも同じ構図だ。私たちは「事故の減少」という目先の数字と引き換えに、もっと大切なものを差し出そうとしているのではないか。その死角の最たるものが、「車のために街を変える」という本末転倒な動きである。

車のために街を変えるのか、街のために技術を飼い慣らすのか

AIが「統計的な安全」を完璧に達成しようとしたとき、最大の障害になるのは、予測不能な動きをする「人間」の存在だ。

例えば、ロンドンの路上には、ジェイウォーキング（乱横断）に象徴されるような、ある種の「無秩序さ」がある。歩行者は状況に応じて車の間を縫い、ドライバーと阿吽の呼吸で道を譲り合う。しかしAIにとって、こうした人間らしい「余白」は、排除すべきノイズでしかない。

Image via Shutterstock

もし、AIを安全に走らせるために歩行者をフェンスで囲い、人間が「機械にとって理解しやすい動き」しかできないように街を作り変えていくのだとしたら、それは一体誰のための安全なのだろうか。

効率を優先して人間の歩幅を削り取るのか、それとも、不確実な人間の側に技術を合わせていくのか。ここにあるのは、単なる交通ルールの変更ではない。私たちがどのような街で、どのような自由を持って生きていきたいかという、生活の主権をめぐる議論だ。だからこそ、この選択をエンジニアや企業だけに委ねてしまうわけにはいかない。

「Society has a say」批判を信頼に変える透明性の設計

では、私たちはどのようにして、技術の進歩を専門家任せにせず、社会の合意形成のプロセスに組み込んでいけるのだろう。

スティルゴー氏は、技術が完成してから規制を考えるのではなく、開発の初期段階から社会がその方向性に関与する「Society has a say（社会の参画）」の重要性を説いている。この考えを実務レベルで形にしようとしているのが、エイダ・ラブレス研究所（Ada Lovelace Institute）だ。

同研究所は、AI開発に市民の声を反映させる「パブリック・ボイス（Public voices in AI）」プロジェクトを通じて、技術が社会に与える影響を多角的に検証している。

また、具体的な透明性の確保策として、英国政府は「アルゴリズム透明性記録標準」を策定。これは、行政機関が使用するアルゴリズムの情報をリスト化して公開する制度だ。その街でどのようなAIが、何の目的で動いているのかを市民が閲覧できるようにする「公開台帳」の役割を果たす。

企業にとって、自社の技術の詳細を明かすことは一見すると競争上のリスクに見えるかもしれない。しかし、ブラックボックス化した技術が社会に不信感を与え、結果として導入そのものが拒絶されることは、企業にとってより大きなビジネスリスクとなる。

最初から失敗の可能性も含めて情報を共有し、社会との対話の窓口を開いておく。こうした「先回りした透明性」は、単なる倫理の問題ではなく、新しい技術を社会に定着させるための合理的な作法だ。批判をノイズとして排除するのではなく、システムを良くするためのフィードバックとして受け入れる。その設計こそが、長期的な信頼を築く鍵となるはずだ。

視線が交わらない路上に、新しい「信頼の作法」を

「AIの事故は誰の責任か」という問いに対し、私たちはつい、法廷で裁かれるべき特定の誰かを探してしまう。しかし、責任とは、事故が起きたあとに犯人探しをするためのものではない。本来は、開発のスタートラインから社会と一緒に設計しておくものであるはずだ。スウェーデン・ウメオ大学のヴァージニア・ディグナム氏が説くように、設計プロセスに社会の声を反映させることは、万が一の事態が起きた際、その責任のあり方について社会が納得し、共に引き受けるための「合意の土台」を作る作業なのだ（※2）。

視線が交わらない路上で、それでも互いの生存を認め合える新しい「信頼の作法」を、対話を通じて形にしていく。責任を一部の専門家に丸投げするのではなく、私たち市民もまた、技術をどう飼い慣らすかの議論に参画し、その手綱を握り続ける。その合意形成のプロセスこそが、テクノロジーという新しい力を手にした私たちが、いま引き受けるべき本当の「責任」の形と言えるだろう。

※1 Self-driving taxis are coming to London – should we be worried? (The Guardian)
※2 Responsible AI: A Framework for Individual, Group and Societal Accountability (Virginia Dignum)

【参照サイト】Self-driving taxis are coming to London – should we be worried? (The Guardian)
【参照サイト】Dr Jack Stilgoe on self-driving cars and ethics in science (UCL Sound / SoundCloud)
【参照サイト】Public voices in AI (Ada Lovelace Institute)
【参照サイト】Accountability of algorithmic decision-making systems (Ada Lovelace Institute)
【参照サイト】Algorithmic Transparency Recording Standard (GOV.UK)
【参照サイト】Meaningful Human Control over Autonomous Systems (Filippo Santoni de Sio / Delft University of Technology)
【参照サイト】Wayve – AV2.0: The Next Generation of Autonomous Driving
【参照サイト】Responsible AI: A Framework for Individual, Group and Societal Accountability (Virginia Dignum)